Notschalter bei Gefahr: Kalifornien plant "kill switch" für künstliche Intelligenz

Insider schlagen Alarm, selbst Chefs großer KI-Unternehmen in den USA sehen Gefahren in der rasanten Entwicklung künstlicher Intelligenz. US-Präsident Trump lehnt eine Regulierung der Branche dennoch ab. Kalifornien will nun im Alleingang handeln.

In der Sicherheitsdebatte über künstliche Intelligenz will der US-Bundesstaat Kalifornien eine Art Notschalter prüfen. Der kalifornische Gouverneur Gavin Newsom unterzeichnete ein Dekret, das als eine Möglichkeit zur Kontrolle von KI einen solchen "kill switch" vorsieht - also einen Mechanismus, der ein KI-System bei Gefahr stoppt oder isoliert. Eine Reihe von KI-Unternehmen ist im Silicon Valley in Kalifornien angesiedelt.

Mit dem Dekret beruft der Demokraten-Politiker Newsom zunächst "eine Gruppe weltweit führender Experten ein, die innerhalb von zwei Monaten einen Leitfaden für Kalifornien ausarbeiten sollen", um die Gesetze zur Sicherheit im KI-Bereich zu verbessern. Sie sollen unter anderem prüfen, ob unabhängige Instanzen künftig Sicherheitspläne für besonders fortschrittliche KI-Modelle erstellen können und ob KI-Unternehmen ein Notabschaltmechanismus vorgeschrieben werden kann.