# Sicherheit von Frontier-KI: Sollten die leistungsfähigsten Modelle anderen Regeln unterliegen?

Author: Norbert Biedrzycki
Published: 2025-10-15
Language: de
URL: https://norbertbiedrzycki.pl/de/sicherheit-von-frontier-ki-sollten-die-leistungsfaehigsten-modelle-anderen-regeln-unterliegen/
Summary: In jeder anderen Branche mit potenziell schweren Risiken würden wir Selbstzertifizierung nicht als letztes Wort akzeptieren. Fähigkeiten könnten sich schneller entwickeln als die Mechanismen, die sie kontrollieren sollen.

Ende September unterzeichnete der Gouverneur von Kalifornien SB 53, den Transparency in Frontier Artificial Intelligence Act. Er verpflichtet Entwickler der leistungsfähigsten Modelle, ihre Sicherheitsrahmenwerke zu veröffentlichen, kritische Sicherheitsvorfälle zu melden und Whistleblower zu schützen. Ein Jahr zuvor war ein ehrgeizigeres Gesetz, SB 1047, per Veto gestoppt worden. Die engere Fassung ging durch.

Im Juli veröffentlichte die Europäische Kommission den Verhaltenskodex für KI mit allgemeinem Verwendungszweck, ein freiwilliges Instrument, das Anbietern helfen soll, die Pflichten des AI Act für solche Modelle zu erfüllen, einschließlich eines eigenen Kapitels zu Sicherheit für Modelle mit systemischem Risiko. Die meisten führenden Entwickler haben ihn unterzeichnet. Manche nicht oder nur in Teilen.

Im Januar fasste der erste International AI Safety Report, geleitet von Yoshua Bengio und geschrieben von Fachleuten, die dreißig Länder benannt hatten, zusammen, was über die Risiken allgemeiner KI bekannt ist. Seine Hauptbotschaft war Unsicherheit: Die Fähigkeiten entwickeln sich schnell, und unsere Fähigkeit, sie zu messen und vorherzusagen, hinkt hinterher.

## Warum Spitzenmodelle anders behandelt werden

Die meiste KI-Regulierung konzentriert sich auf Anwendungen. Ein Kreditmodell wird reguliert, weil Kreditentscheidungen wichtig sind. Frontier-Sicherheit führt eine andere Logik ein: Manche Risiken entstehen aus den Fähigkeiten des Modells selbst, unabhängig davon, wie ein bestimmter Kunde es nutzt.

Die Sorgen sind konkret. Modelle, die jemandem, der biologische oder chemische Waffen bauen will, nennenswert helfen. Modelle, die die Fähigkeiten von Cyberangreifern erheblich steigern. Modelle, die autonom auf eine Weise handeln, die schwer zu beaufsichtigen oder zu korrigieren ist. Und die breitere Möglichkeit, dass sich zunehmend leistungsfähige Systeme auf eine Weise verhalten, die ihre Entwickler nicht vorhergesehen haben.

Die führenden Entwickler haben mit eigenen Rahmenwerken reagiert. Anthropics Responsible Scaling Policy, OpenAIs Preparedness Framework und das Frontier Safety Framework von Google DeepMind definieren Fähigkeitsschwellen und die Schutzmaßnahmen, die vorhanden sein müssen, bevor Modelle, die sie überschreiten, eingesetzt werden.

## Das Glaubwürdigkeitsproblem

Diese Rahmenwerke sind ein echter Fortschritt. Sie teilen aber auch eine strukturelle Schwäche. In den meisten Fällen entwirft die Organisation, die das Modell entwickelt, auch die Tests, führt die Bewertungen durch und entscheidet, ob die Schwellen überschritten sind. Die Unternehmen stehen in intensivem Wettbewerb, unter enormem kommerziellem Druck, in einem Markt, in dem ein paar Monate Verspätung zählen können.

In jeder anderen Branche mit potenziell schweren Risiken würden wir Selbstzertifizierung nicht als letztes Wort akzeptieren. Pharma, Luftfahrt und Kernenergie stützen sich alle auf unabhängige Bewertung. Die KI-Sicherheitsinstitute in Großbritannien und den USA und das KI-Büro der EU sind frühe Versuche, diese Fähigkeit aufzubauen. Im Vergleich zur Branche, die sie beobachten, sind sie noch klein.

## Warum Investoren und Aufsichtsräte das interessieren sollte

Für Investoren bringt Frontier-Sicherheit ein Risiko, das nicht sauber in traditionelle Modelle passt: Fähigkeiten könnten sich schneller entwickeln als die Mechanismen, die sie kontrollieren sollen. Ein schwerer Vorfall mit einem Spitzenmodell könnte eine rasche Regulierung auslösen, die die Ökonomie des gesamten Sektors verändert, einschließlich der Unternehmen, die auf diesen Modellen aufbauen.

Für Unternehmen ist die Frage unmittelbarer. Auf welchen Modellen bauen wir auf, was wissen wir darüber, wie sie getestet wurden, und wie abhängig sind wir von einem Anbieter, dessen Sicherheitspraktiken wir nicht überprüfen können?

> *Führungsfrage: Sollten die leistungsfähigsten KI-Modelle unabhängigen Sicherheitsbewertungen unterzogen werden, bevor sie breit verfügbar gemacht werden?*
