Anthropic fordert KI-Regulierung mit Schadensschwelle von [[USD]]1 Mrd

Anthropic, das Unternehmen hinter dem KI-Assistenten Claude, lobbyiert hinter den Kulissen bei US-Gesetzgebern für einen eigenen Entwurf eines KI-Sicherheitsgesetzes. Laut Politico sieht der Vorschlag vor, dass der Staat nur dann in die Markteinführung oder Nutzung eines KI-Modells eingreifen darf, wenn ein nachweisbares und unmittelbar drohendes Risiko für Schäden von mehr als $1 Milliarde oder für mindestens 50 Tote oder Schwerverletzte besteht. Das ist eine auffallend hohe Hürde für staatliche Eingriffe in fortschrittliche KI-Systeme.

In Kürze:

• Anthropic stellt US-Gesetzgebern einen unveröffentlichten Gesetzesentwurf zur KI-Sicherheit vor.
• Der Staat darf erst eingreifen, wenn ein drohendes Risiko von mehr als $1 Milliarde Schaden oder mindestens 50 Opfern besteht.
• Der Vorschlag würde außerdem verpflichtende unabhängige Prüfungen einführen und die KI-Regeln der Bundesstaaten unter föderale Aufsicht stellen.

Hohe Hürde für staatliche Eingriffe

Der Entwurf von Anthropic konzentriert sich gezielt auf sogenannte Frontier-Modelle, also die derzeit leistungsfähigsten KI-Systeme. Einschränkungen wären demnach nur bei konkreten und unmittelbar drohenden Risiken möglich, etwa beim Einsatz biologischer Waffen, beim Verlust der Kontrolle über ein KI-System durch den Entwickler oder bei groß angelegten Cyberangriffen.

Die Schwelle von $1 Milliarde Schaden oder 50 Opfern ist damit eine bewusste Entscheidung, um zu verhindern, dass Behörden zu früh in die Entwicklung und Markteinführung neuer KI-Modelle eingreifen. Kritiker könnten argumentieren, dass diese Hürde so hoch liegt, dass ein Eingreifen in der Praxis nahezu unmöglich wird, solange nicht bereits etwas Ernsthaftes schiefgegangen ist.

Bundesregeln sollen Gesetze der Bundesstaaten ersetzen

Ein weiterer Bestandteil des Vorschlags ist, dass bestehende und künftige KI-Sicherheitsregeln einzelner Bundesstaaten unter ein föderales Rahmenwerk fallen sollen. Damit versucht Anthropic, einen Flickenteppich unterschiedlicher Staatengesetze zu vermeiden, der für KI-Unternehmen, die in den gesamten USA tätig sind, juristische Komplexität mit sich bringt.

Zudem sieht der Vorschlag regelmäßige unabhängige Bewertungen von Frontier-Modellen verpflichtend vor. Dieses Element knüpft an breitere Debatten in Washington darüber an, wie die Aufsicht über leistungsfähige KI-Systeme am besten organisiert werden kann. Anthropic positioniert sich schon länger als Akteur, der Sicherheit ernst nimmt. Dass das Unternehmen nun aber aktiv seinen eigenen gesetzlichen Rahmen bei Gesetzgebern einbringt, zeigt, dass es dabei auch die eigenen Interessen verankern will.