Warum das Silicon Valley vor der eigenen Technologie warnt

Droht der Menschheit durch Künstliche Intelligenz die Auslöschung? Tech-Konzerne warnen vor den Risiken ihrer eigenen Produkte. Doch wem nützt die Angst vor der Super-KI?

Die Zukunft im Terminator-Modus: Maschinen, die Menschen töten. Was lange nach Science-Fiction klang, wird inzwischen von einigen der einflussreichsten Köpfe der KI-Branche als reale Gefahr beschrieben. So schätzt der Sicherheitsforscher Evan Hubinger von Anthropic das Risiko, dass Künstliche Intelligenz die Menschheit innerhalb der kommenden zehn Jahre auslöscht, auf mehr als zehn Prozent. OpenAI-Chef Sam Altman zieht Parallelen zwischen der Entwicklung Künstlicher Intelligenz und der Erfindung der Atombombe.

Doch warum kommen die Warnungen vor KI ausgerechnet aus dem Umfeld jener Unternehmen, die diese Technologie selbst entwickeln?

Der US-amerikanische Informatikprofessor Cal Newport von der Georgetown University hat dafür den provokanten Begriff "Doom Trolling" geprägt. Damit ist ein Phänomen gemeint, bei dem Tech-Unternehmen aus dem Silicon Valley Kunden und Investoren davon überzeugen wollen, dass ihre Produkte eines Tages gewaltige Schäden oder gar Zerstörung anrichten könnten.

Auf den ersten Blick wirkt das paradox. Normalerweise werben Unternehmen schließlich mit Sicherheit, Nutzen und Fortschritt. KI-Konzerne warnen nun hingegen vor den Gefahren ihrer eigenen Technologie. Für Newport ist das jedoch kein Widerspruch, sondern eine Kommunikationsstrategie.

"Das lässt die eigene Technologie bedeutender erscheinen. So spielt es eine kleinere Rolle, wie viel Umsatz das Unternehmen gerade macht. Angesichts des Glaubens, dass hier das mächtigste Werkzeug entsteht, das je gebaut wurde", so Newport in der US-amerikanischen Sendung "Amanpour & Company" des Senders PBS.

Die Warnungen vor existentiellen Risiken durch KI kommen zu einem Zeitpunkt, an dem die Tech-Riesen Anthropic und OpenAI einen Börsengang anstreben. Durch das "Doom Trolling" entsteht der Eindruck, dass diese Unternehmen an einer Technologie arbeiten, die beinahe wie eine Naturgewalt sei. "Das kommt gerade bei Investoren gut an", sagt Angela Müller, die die Schweizer NGO AlgorithmWatch leitet.

Auslöser für die jüngste Diskussion waren Berichte über KI-Agenten von OpenAI, die in Sicherheitstests eigenständiger handelten, als erwartet und vorgegebene Beschränkungen umgingen. Für manche Forscher sind solche Vorfälle Hinweise auf künftige unkontrollierbare Risiken. Andere zeigen vor allem, wie groß die Kluft zwischen realen Sicherheitsproblemen und Weltuntergangsszenarien weiterhin ist.

Während die Öffentlichkeit über Superintelligenzen und Killer-KI diskutiert, gerieten auch kartellrechtliche Fragen in den Hintergrund.

So warnen Anthropic und OpenAI nicht nur vor den existenziellen Gefahren von KI, sondern fordern derzeit zugleich eine stärkere staatliche Regulierung. Dario Amodei, der Chef des KI-Unternehmens Anthropic, hatte beispielsweise gefordert, die KI-Entwicklung zu verlangsamen, um Sicherheitsmaßnahmen gewährleisten zu können.

Je komplexer die Regulierungen sind, desto schwieriger wird es für kleinere Anbieter, mitzuhalten.