Künstliche Intelligenz: Kalifornien könnte Notschalter für KI vorschreiben

Die bekanntesten leistungsstarken KI-Modelle werden in Kalifornien entwickelt.

Der US-Bundesstaat will in der Debatte um Sicherheitsrisiken die Initiative ergreifen - und erwägt eine radikale Vorgabe.

In der Debatte um existenzielle Risiken Künstlicher Intelligenz könnte der US-Bundesstaat Kalifornien eine Notabschalt-Vorrichtung für KI-Software vorschreiben.

Ein solcher Mechanismus gehört zu einer Liste von Maßnahmen, zu denen dem demokratischen Gouverneur Gavin Newsom bis Mitte November Vorschläge gemacht werden sollen.

Zu weiteren Ideen gehören unabhängige Beobachter in großen KI-Laboren sowie striktere Verpflichtungen, über Sicherheits-Zwischenfälle zu berichten, wie aus einer von Newsom unterzeichneten Anordnung hervorgeht. Über einen „Kill Switch“ für Künstliche Intelligenz wird schon seit einiger Zeit diskutiert - noch ist aber unklar, ob eine solche Vorrichtung zur Notabschaltung überhaupt realistisch ist.

Kalifornien gilt als wichtigster Standort bei der Entwicklung Künstlicher Intelligenz .

Vor allem in San Francisco und dem Silicon Valley sitzende führende KI-Unternehmen wie der ChatGPT-Entwickler OpenAI, dessen schärfster Rivale Anthropic und Google.

Damit könnte der Bundesstaat auch bei der Regulierung eine zentrale Rolle spielen.

Newsoms zweite und letzte Amtszeit als kalifornischer Gouverneur endet Anfang kommenden Jahres.

Der 58-Jährige gilt als ein möglicher Bewerber der Demokraten für die Präsidentenwahl 2028.

Experten plädieren für unabhängige Aufsicht Die Debatte um Gefahren Künstlicher Intelligenz heizte sich in den vergangenen Wochen auf, insbesondere nachdem eigenständige Hacking-Attacken durch Software mit Künstlicher Intelligenz bekanntgeworden waren.

Mitarbeiter von KI-Laboren warnten vor dem Risiko, dass die Menschheit die Kontrolle über Künstliche Intelligenz verlieren oder sogar von ihr ausgelöscht werden könnte.

Neben anderen sprach sich auch Anthropic-Chef Dario Amodei dafür aus, das Entwicklungstempo bei hochentwickelter KI zu bremsen und die Aufsicht zu verstärken.

OpenAI -Chef Sam Altman unterstützte den Vorschlag.