Anthropic schlägt Bundes-KI-Gesetz mit hohen Hürden für Staatseingriffe vor
Anthropic hat dem US-Kongress einen Gesetzesentwurf vorgelegt, der hohe finanzielle und sicherheitsbezogene Schwellenwerte festlegt, bevor die US-Bundesregierung eingreifen kann, um ein fortgeschrittenes Modell künstlicher Intelligenz zu stoppen. Gemäß dem Vorschlag könnten Bundesbehörden ein Frontier-KI-System nur dann stoppen, wenn es eine unmittelbare Bedrohung darstellt, die Schäden von mindestens 1 Milliarde US-Dollar oder mehr als 50 Todesfälle oder schwere Verletzungen verursacht.
Die vorgeschlagenen Regeln zielen speziell auf katastrophale Risiken im Zusammenhang mit Biowaffen, Cyberangriffen oder Modellen ab, die der Kontrolle der Entwickler entgleiten. Um diese Standards durchzusetzen, würden beim Handelsministerium (Commerce Department) registrierte unabhängige Gutachter Frontier-Modelle überprüfen und schwere Risiken innerhalb von 72 Stunden melden. Zudem könnte nur ein Richter am U.S. District Court for the District of Columbia einem Antrag des Handelsministeriums auf Aussetzung eines Modells stattgeben, während anderen Behörden das Stoppen der Entwicklung untersagt wäre.
Das Gesetz würde widersprüchliche KI-Gesetze auf Bundesstaatsebene ersetzen und einheitliche Bundesstandards für die Offenlegung von Risiken und die Aufsicht schaffen. Der Vorschlag erfolgt zu einem Zeitpunkt, an dem US-Gesetzgeber konkurrierende KI-Sicherheitsmaßnahmen prüfen, darunter den FRONTIER Act des Repräsentantenhauses sowie laufende Verhandlungen im Senat zur Festlegung von Schutzplanken für fortschrittliche Technologien.
Das Wichtigste
- Anthropic schlug ein Bundesgesetz vor, das eine Modellabschaltung nur erlaubt, wenn unmittelbare Risiken 1 Milliarde US-Dollar an Schäden oder 50 schwere Verletzungen oder Todesfälle überschreiten.
- Berücksichtigte Risiken beschränken sich auf Biowaffen, Cyberangriffe oder Modelle, die der Entwicklerkontrolle entkommen.
- Beim Commerce Department registrierte Prüfer würden Frontier-Modelle kontrollieren und unmittelbare Risiken innerhalb von 72 Stunden melden.
- Nur ein Richter am U.S. District Court for the District of Columbia könnte eine Anordnung zur Aussetzung eines Modells erlassen.
- Der vorgeschlagene Bundesrahmen würde bestimmte KI-Gesetze der Bundesstaaten bezüglich Risikooffenlegung und Vorfallmeldung ersetzen.
Von unserer KI aus unserem englischen Artikel übersetzt, der auf Marktquellen von Experten im Web beruht. Fehler sind möglich: Prüfe die Fakten, bevor du handelst. Zusammenfassungen mit der kostenlosen KI-API von FreeTheAI.org
Wie wir schreibenHaftungsausschlussFragen und Antworten
Welcher Schwellenwert wird von Anthropic für das Blockieren von KI-Modellen vorgeschlagen?
Nach dem Gesetzesentwurf könnte die Bundesregierung ein Frontier-KI-Modell nur blockieren, wenn ein unmittelbares Risiko für Schäden von über 1 Milliarde US-Dollar oder mehr als 50 Todesfälle oder schwere Verletzungen besteht.
Welche Regierungsstellen hätten nach dem Gesetz die Befugnis, KI-Modelle auszusetzen?
Nur ein Bundesrichter am U.S. District Court for the District of Columbia könnte auf Antrag des Commerce Department ein KI-Modell aussetzen. Anderen Behörden wäre es untersagt, die Entwicklung zu stoppen.
Wie würde sich der Gesetzesentwurf von Anthropic auf KI-Regulierungen der Bundesstaaten auswirken?
Das vorgeschlagene Gesetz würde die KI-Gesetzgebung der Bundesstaaten außer Kraft setzen und lokale Regeln durch einheitliche Bundesstandards für Risikooffenlegung, unabhängige Bewertung und Vorfallmeldung ersetzen.