Kalifornien prüft „Notschalter“ für Künstliche Intelligenz

In der Sicherheitsdebatte über Künstliche Intelligenz (KI) will der US-Bundesstaat Kalifornien eine Art Notschalter prüfen.

Der kalifornische Gouverneur Gavin Newsom unterzeichnete am Freitag ein Dekret, das als eine Möglichkeit zur Kontrolle von KI einen solchen „kill switch“ vorsieht - also einen Mechanismus, der ein KI-System bei Gefahr stoppt oder isoliert.

Eine Reihe von KI-Unternehmen sind im Silicon Valley in Kalifornien angesiedelt.

Mit dem Dekret beruft der Demokraten-Politiker Newsom zunächst „eine Gruppe weltweit führender Experten ein, die innerhalb von zwei Monaten einen Leitfaden für Kalifornien ausarbeiten sollen“, um die Gesetze zur Sicherheit im KI-Bereich zu verbessern.

Sie sollen unter anderem prüfen, ob unabhängige Instanzen künftig Sicherheitspläne für besonders fortschrittliche KI-Modelle erstellen können und ob KI-Unternehmen ein Notabschaltmechanismus vorgeschrieben werden kann.

Newsom erklärte, während Präsident Donald Trump und der Kongress in Washington schliefen, übernehme er selbst eine Führungsrolle, um „KI-Sicherheit für alle Amerikaner zu stärken“.

Trump lehnt eine Regulierung der KI-Branche ab.

Der 80-Jährige will damit den technologischen Vorsprung der USA gegenüber China sichern.

Im Kongress war diese Woche ein Vorstoß für eine KI-Notabschaltung ins Leere gelaufen.

Wegen der Risiken von Künstlicher Intelligenz hatten sich mehrere Chefs großer KI-Unternehmen kürzlich für eine verlangsamte Entwicklung der Technologie aufgerufen.

Darunter sind Anthropic- Chef Dario Amodei und OpenAI-Chef Sam Altman.

Mehrere ehemalige Mitarbeiter von KI-Firmen warnten sogar vor einer möglichen Auslöschung der Menschheit.

Newsom gibt den Gouverneursposten in Kalifornien im Januar nach zwei Amtszeiten ab.

Sein Nachfolger wird am 3.