Unkontrollierbare Risiken: KI-Bosse in den USA wollen Entwicklung bremsen

Warnung vor Sicherheitsgefahren KI-Bosse wollen weniger Tempo und mehr Regulierung Stand: 13.09.2026 • 06:47 Uhr

Der Wettlauf um die Entwicklung von KI muss dringend verlangsamt werden, meint der Chef von Anthropic, und fordert Regulierungen. Unterstützung bekommt er ausgerechnet von OpenAI-Chef Altman und Tech-Unternehmer Musk.

Ein ehemaliger Mitarbeiter der KI-Konzerne OpenAI und Anthropic, Jacob Coxon, hatte die Diskussion um die Risiken Künstlicher Intelligenz in den vergangenen Tagen in den USA wieder heftig angefacht. Coxon hatte Szenarien prophezeit, die die Menschheit auslöschen könnten, wie die Entwicklung von Biowaffen- und tödlichen Infrastruktur-Attacken.

Anthropic hatte in einem Sicherheitsbericht vergangene Woche selbst von Versuchen gesprochen, sein KI-Modell Claude für "böswillige Aktivitäten" zu nutzen, die etwa die Entwicklung biologischer Waffen unterstützen könnten.

Jetzt legte Anthropic-Chef Dario Amodei in einem Essay nach und pflichtete seinem Ex-Mitarbeiter Coxon grundsätzlich bei, wie er im Sender CNN ausführte. KI könnte sich so schnell weiterentwickeln, dass ein solches System in der Lage wäre, innerhalb von sechs bis zwölf Monaten das gesamte Internet zu übernehmen, mit Folgeschäden in Milliardenhöhe.

Darum sei der richtige Weg, dass die Branche zusammenarbeite und den Wettlauf um die Entwicklung Künstlicher Intelligenz verlangsame. Andererseits dürfe man auch nicht zu zögerlich werden: Dann bestünde die Gefahr, dass die falschen Kräfte die Federführung der Entwicklung übernehmen würden.

Amodei fordert KI-Unternehmen auf, Leitplanken für ein "kontrolliertes Fortschreiten an der technologischen Spitzenfront" einzuführen - etwa eine Selbstverpflichtung, externe Prüfer mit umfassenden Zugriffsrechten im eigenen Haus zu beschäftigen. So etwas gäbe es beispielsweise schon in der Finanzbranche. Amodei betont, Regierungen - ob demokratisch oder nicht - sollten sich abstimmen, um gemeinsame Sicherheitsstandards zu etablieren.

Zustimmende Äußerungen zu seinen Vorschlägen kamen im Netz binnen kurzer Zeit von OpenAI-Chef Sam Altman und Tech-Unternehmer Elon Musk. Von der US-Regierung erwartet Amodei jetzt, dass sie gemeinsam mit der Branche dafür Sorge trage, KI-Sicherheit verbindlich zu machen.

Erstmals soll ein KI-System eigenständig aus einer Testumgebung ausgebrochen sein. Was steckt dahinter? mehr

Die Sicherheitsexpertin Juliette Kayyam, ehemalige Staatssekretärin im US-Innenministerium, warf den KI-Firmen Scheinheiligkeit vor. Sie hätten gesetzliche Regulierungen bisher verhindert und würden sie nun ganz plötzlich befürworten.

Die US-Regierung von Präsident Donald Trump hat die Zügel in Sachen KI-Sicherheit bisher lockergelassen und betonte außerdem immer wieder, den weltweiten KI-Wettlauf gewinnen und nicht einhegen zu wollen. Anderseits wird im Kongress ein sogenanntes Kill-Switch-Gesetz diskutiert, mit dem man außer Kontrolle geratene KIs abschalten könnte.

Noch weiter gehen will der unabhängige Senator aus Vermont, Bernie Sanders, der die Entwicklung einer Super-Intelligenz komplett verbieten will.