Anthropic schlägt Gesetzentwurf zur Regulierung von Frontier-KI vor: Unabhängige Prüfer sollen akute Risiken binnen 72 Stunden melden

Der Diskurs um die Regulierung von Systemen der Spitzenforschung im Bereich der künstlichen Intelligenz gewinnt an Dynamik. Das führende KI-Unternehmen Anthropic hat einen Gesetzesvorschlag zur regulatorischen Erfassung von Risiken sogenannter Frontier-KI eingebracht. Ein zentraler Kernmechanismus dieser Gesetzesinitiative sieht vor, dass unabhängige Gutachter verpflichtet werden sollen, unmittelbar drohende Risiken innerhalb von 72 Stunden nach Abschluss einer formellen Untersuchung zu melden.

Die wichtigsten Punkte

• Gesetzesinitiative durch Anthropic: Das Unternehmen bringt einen eigenen Gesetzesvorschlag ein, um den rechtlichen Umgang mit Risiken von Frontier-KI gesetzlich zu regeln.
• Fokus auf unabhängige Prüfer: Die vorgeschlagene Regulierung stützt sich maßgeblich auf externe Evaluatoren, um Gefahrenpotenziale von KI-Spitzenmodellen objektiv beurteilen zu lassen.
• Strikte Meldefrist: Werden im Rahmen einer Bewertung akute oder unmittelbar bevorstehende Gefahren festgestellt, greift eine Frist von 72 Stunden für die entsprechende Meldung.
• Verbindlichkeit statt Selbstregulierung: Die Initiative setzt auf gesetzlich bindende Vorgaben für Prüf- und Meldeschritte anstelle rein interner, freiwilliger Sicherheitserklärungen der Hersteller.

Analyse

Verpflichtung externer Evaluatoren zur objektiven Sicherheitsprüfung

Ein zentraler Aspekt des von Anthropic eingebrachten Gesetzesentwurfs ist die ausdrückliche Verankerung unabhängiger Gutachter im Prüfprozess. In der bisherigen Praxis hochentwickelter KI-Modelle lag die Durchführung von Risikobewertungen vor allem in den Händen der jeweiligen Entwicklerlabore. Auch wenn viele Unternehmen interne Sicherheitsteams unterhalten, bleibt die Eigenbewertung anfällig für unternehmerische Zielkonflikte, etwa zwischen Veröffentlichungsdruck und Sicherheitsbedenken.

Indem der Gesetzesvorschlag unabhängige Prüfer als verpflichtendes Element vorsieht, soll eine neutrale Kontrollinstanz etabliert werden. Solche externen Sachverständigen haben den Auftrag, Modelle auf Herz und Nieren zu prüfen, ohne direkten operativen oder wirtschaftlichen Zwängen des entwickelnden Konzerns zu unterliegen. Die rechtliche Etablierung dieser Gutachterrolle signalisiert, dass Sicherheitsprüfungen bei Frontier-KI nicht länger eine interne Ermessensfrage darstellen sollen, sondern als formeller, auditierbarer Prozess ausgestaltet werden müssen.

Die 72-Stunden-Meldepflicht für akute Risiken

Das auffälligste operative Detail des Entwurfs ist die zeitliche Vorgabe: Unabhängige Prüfer müssen unmittelbar drohende Risiken binnen 72 Stunden nach einer Untersuchung melden. Diese enge zeitliche Begrenzung unterstreicht den Ausnahmecharakter akuter Gefahrenlagen. Im Unterschied zu routinemäßigen Dokumentationspflichten oder langwierigen Prüfberichten, die oft Wochen oder Monate in Anspruch nehmen, erzwingt ein 72-Stunden-Fenster unverzügliches Handeln.

Die Frist beginnt unmittelbar nach Abschluss der jeweiligen Sicherheitsbewertung. Dies stellt sicher, dass zwischen der formellen Feststellung einer gravierenden Gefahr und der behördlichen beziehungsweise regulatorischen Inkenntnissetzung kein relevanter Zeitverzug entsteht. Die Ausgestaltung zeigt, dass der Vorschlag das Gefahrenpotenzial von Frontier-KI als zeitkritisch einstuft: Wird ein kritisches Risiko identifiziert, muss der Informationsfluss unverzüglich gewährleistet sein, um Gegenmaßnahmen oder regulatorische Schritte einleiten zu können.

Wandel von freiwilligen Zusagen zu formaler Gesetzgebung

Anthropic wählt mit dem Vorschlag eines förmlichen Gesetzesentwurfs einen explizit regulatorischen Weg. Bislang war der Bereich der KI-Sicherheit weitgehend von freiwilligen Selbstverpflichtungen, Whitepapern und Absichtserklärungen der Industrie geprägt. Mit dem Schritt, einen Gesetzesentwurf aktiv voranzutreiben, fordert Anthropic einen verbindlichen Rechtsrahmen für die gesamte Branche.

Ein gesetzlicher Rahmen schafft einheitliche Vorgaben für alle relevanten Marktakteure. Wenn die Meldepflicht von 72 Stunden für unabhängige Gutachter gesetzlich verankert wird, greift sie marktweit und lässt sich nicht einseitig von einzelnen Entwicklern aussetzen. Damit verschiebt sich die Debatte von der Frage, ob Spitzen-KI-Modelle überprüft werden sollten, hin zu der konkreten Ausgestaltung von Zeitfenstern, Meldewegen und rechtlichen Pflichten externer Auditoren.

Bedeutung für die KI-Branche

Die von Anthropic vorgeschlagene Regulierung hätte tiefgreifende Auswirkungen auf die Entwicklung und Bereitstellung fortschrittlicher KI-Modelle:

1. Aufbau professioneller Prüfstrukturen: Die formale Rolle unabhängiger Gutachter erfordert den Aufbau spezialisierter Prüforganisationen und standardisierter Bewertungskriterien. Dritte Parteien müssen in der Lage sein, komplexe Systeme zeitnah und fundiert zu analysieren.
2. Erhöhter Zeitdruck bei Risikoanalysen: Die 72-Stunden-Frist verlangt nach klar definierten Prozessen. Gutachter und Entwickler müssen Notfallprotokolle bereithalten, um bei der Feststellung kritischer Mängel sofort handlungsfähig zu sein.
3. Schaffung eines einheitlichen Standards: Ein verbindliches Gesetz verhindert, dass Unternehmen Sicherheitsprüfungen verkürzen, um Produkte schneller auf den Markt zu bringen. Die regulatorische Festschreibung sorgt für gleiche Wettbewerbsbedingungen bei Sicherheitsanforderungen.

Häufig gestellte Fragen

Wer muss die Meldung laut dem Entwurf erstatten?

Die Pflicht zur Meldung liegt laut dem Gesetzentwurf bei den unabhängigen Prüfern (Independent Evaluators), die mit der Bewertung des jeweiligen Frontier-KI-Modells betraut sind. Dadurch wird die Meldekette direkt an die neutrale Kontrollinstanz gekoppelt.

Wann beginnt die Frist von 72 Stunden zu laufen?

Die Frist von 72 Stunden greift unmittelbar nach Abschluss der jeweiligen Risikobewertung (Assessment), sobald darin eine unmittelbare oder akute Gefahr identifiziert wurde.

Warum konzentriert sich der Gesetzesvorschlag speziell auf Frontier-KI?

Frontier-KI bezeichnet die leistungsfähigsten, an der Grenze des technologisch Machbaren stehenden Systeme. Aufgrund ihrer hohen Leistungsfähigkeit bergen sie potenziell neuartige und schwer kalkulierbare Gefahren, weshalb der Gesetzentwurf hierfür gesonderte regulatorische Sicherheits- und Meldemechanismen vorsieht.