Anthropic pitcht laut Berichten vom 20. Oktober 2026 dem US-Kongress einen Entwurf für ein KI-Sicherheitsgesetz: Wird ein Modell so bewertet, dass es ein vorhersehbares, unmittelbares Risiko von mehr als 50 Toten oder über 1 Milliarde Dollar Sachschaden birgt, könnte seine Veröffentlichung blockiert werden. Politico berichtete zuerst; ein Anthropic-Sprecher bestätigte den Entwurf gegenüber Politico und erklärte, er gieße die Vorschläge des Advanced AI Framework in Gesetzesform, für die sich das Unternehmen seit Juni bei Bundes- und Landespolitikern einsetzt.
Die Linie verläuft entlang dreier Katastrophenarten
Der Entwurf begrenzt das blockierbare Risiko auf drei Quellen: die Herstellung einer Biowaffe mit Hilfe des Modells, ein Modell, das sich der Kontrolle seines Entwicklers entzieht, und ein Modell, das für einen Cyberangriff eingesetzt wird. Die Schwellen von 50 Personen und 1 Milliarde Dollar sind nicht neu; sie entsprechen weitgehend der Definition von „katastrophalem Risiko“ im verabschiedeten kalifornischen Gesetz SB 53. Eine Schwelle, die zuerst in Landesrecht auftauchte, wandert nun in einen Bundesentwurf. Für Leser hat sich die Debatte verschoben: nicht mehr ob eine Linie existiert, sondern bei welcher Zahl sie liegt. Steht sie im Gesetz, muss künftig jedes Frontier-Modell vor der Veröffentlichung diese Bewertung durchlaufen.
Unabhängige Prüfer urteilen, ein Richter entscheidet
Nach dem Entwurf beurteilen nicht die Labore selbst das Risiko, sondern unabhängige Evaluatoren, die beim US-Handelsministerium registriert sind. Sie dürfen von den Laboren bezahlt werden, solange die Zahlung nicht vom Ergebnis abhängt. Stellt ein Evaluator ein unmittelbares katastrophales Risiko fest, muss er das Ministerium binnen 72 Stunden informieren, das dann einen Richter in Washington D.C. um einen Stopp ersucht. Der Entwurf verbietet ausdrücklich, dass eine Bundesbehörde die Verbreitung aus eigener Macht stoppt. Die Konstruktion sperrt behördliches Ermessen bewusst ein: Die Befugnis, ein Modell zu stoppen, endet vor Gericht. Wir hatten zuvor über die Ermittlungsanordnungen der FTC an OpenAI und Anthropic berichtet; der Regulierungsdruck wächst, und diesmal hat ein Unternehmen die Regeln vorgelegt, mit denen es nach eigener Aussage leben kann.
Eigene Regeln vorzuschlagen ist nicht einfach
Die Branche ist gespalten: NVIDIA-Chef Jensen Huang sagte kürzlich öffentlich, KI brauche keine neuen Gesetze, während Anthropic einen Text mit verbindlichem Stoppmechanismus einreicht und damit weiter geht als die freiwilligen Zusagen der meisten Wettbewerber. Der schwächste Punkt bleibt die Unabhängigkeit bezahlter Prüfer: Eine Zahlung ohne Ergebnisbindung beseitigt die Sorge um Folgeaufträge nicht von selbst. Ob der Kongress den Entwurf aufgreift und ob die Schwellen von 50 Personen und 1 Milliarde Dollar die Verhandlungen überstehen, ist die Größe, die es zu beobachten gilt.
