Künstliche Intelligenz: Kalifornien überlegt, per Gesetz einen Notschalter vorzuschreiben

KI-Agenten, die sich in die Systeme anderer Unternehmen hacken oder gar kritische Infrastruktur gefährden? In der Debatte um solche existenzielle Risiken künstlicher Intelligenz könnte der US-Bundesstaat Kalifornien eine Notabschalt-Vorrichtung für KI-Software vorschreiben. Ein solcher Mechanismus gehört zu einer Liste von Maßnahmen, zu denen dem demokratischen Gouverneur Gavin Newsom bis Mitte November Vorschläge gemacht werden sollen. Zu den weiteren Ideen gehören:

sowie striktere Verpflichtungen , über Sicherheits-Zwischenfälle zu berichten,

Mit seinem Dekret beruft Newsom zunächst »eine Gruppe weltweit führender Experten ein, die innerhalb von zwei Monaten einen Leitfaden für Kalifornien ausarbeiten sollen«, um die Gesetze zur Sicherheit im KI-Bereich zu verbessern.

Newsom erklärte, während Präsident Donald Trump und der Kongress in Washington schliefen, wolle er selbst eine Führungsrolle übernehmen, um die »KI-Sicherheit für alle Amerikaner zu stärken«. Trump lehnt eine Regulierung der KI-Branche ab . Der 80-Jährige will damit den technologischen Vorsprung der USA gegenüber China sichern. Im Kongress war diese Woche ein Vorstoß für eine KI-Notabschaltung ins Leere gelaufen.

Über einen sogenannten »kill switch« für künstliche Intelligenz wird seit einiger Zeit diskutiert – noch ist aber unklar, ob eine solche Vorrichtung zur Notabschaltung technisch überhaupt umgesetzt werden kann.

Kalifornien gilt als wichtigster Standort bei der Entwicklung von künstlicher Intelligenz. In San Francisco und dem Silicon Valley sitzen führende KI-Unternehmen wie der ChatGPT -Entwickler OpenAI , dessen schärfster Rivale Anthropic und Google . Damit könnte der Bundesstaat auch bei der Regulierung eine zentrale Rolle spielen.

Newsoms zweite und letzte Amtszeit als kalifornischer Gouverneur endet Anfang kommenden Jahres. Der 58-Jährige gilt als ein möglicher Bewerber der Demokraten für die Präsidentenwahl 2028.

16 Min Zur Merkliste hinzufügen Biowaffen, Cyberattacken, Roboter: Die KI löscht die Menschheit aus? Wie das konkret passieren könnte Von Markus Böhm 9 Min Zur Merkliste hinzufügen 9 Min Zur Merkliste hinzufügen Gefährlicher Wettlauf: »Spielen mit unseren Leben« – Anthropic-Forscher tritt wegen KI-Bedenken zurück 3 Min Zur Merkliste hinzufügen 3 Min Zur Merkliste hinzufügen Die Debatte um Gefahren künstlicher Intelligenz hatte sich in den vergangenen Wochen verschärft, insbesondere nachdem eigenständige Hacking-Attacken durch KI-Software bekannt geworden waren. Mitarbeiter von KI-Laboren warnten vor dem Risiko, dass die Menschheit die Kontrolle über KI verlieren oder sogar von ihr ausgelöscht werden könnte.

Neben anderen sprach sich auch Anthropic-Chef Dario Amodei dafür aus, das Entwicklungstempo bei hoch entwickelter KI zu bremsen und die Aufsicht zu verstärken. OpenAI-Chef Sam Altman unterstützte den Vorschlag.

Inzwischen fordern Dutzende renommierte Experten aus der Branche führende KI-Labore auf, unabhängige Aufsicht in ihren Unternehmen zuzulassen.