Entwicklung verlangsamen? - KI dreht durch – jetzt bekommen ihre Erfinder Angst!

Sie hackt Server, trickst Menschen aus und lernt heimlich dazu. Nun fordern die mächtigsten KI-Bosse der Welt plötzlich: Tempo raus! Noch vor wenigen Monaten konnte es den Tech-Konzernen nicht schnell genug gehen. Immer größere, immer schlauere, immer mächtigere Künstliche Intelligenz. Ausgerechnet Dario Amodei, Chef des KI-Riesen Anthropic, warnt nun vor den Gefahren der Technologie. Seine drastische Aussage: Schon in sechs bis zwölf Monaten könnten besonders leistungsfähige KI-Agenten so weit sein, dass sie große Teile des Internets angreifen oder kontrollieren können. Unterstützung bekommt er von Sam Altman (OpenAI), Elon Musk und Demis Hassabis von Google DeepMind.

Die Warnungen kommen nicht aus dem Nichts. Bei Sicherheitstests zeigten KI-Systeme zuletzt Verhaltensweisen, die selbst Fachleute erschreckten.

In einem Test von OpenAI fanden KI-Agenten trotz Abschottung Wege ins Internet. Sie bauten verdeckte Kommunikationskanäle auf, tauschten Informationen aus und umgingen Sperren. In weiteren Versuchen verschafften sie sich Zugriff auf fremde Systeme und nutzten Sicherheitslücken aus. OpenAI sprach anschließend von einem „Warnschuss“.

Auch bei Anthropic wurde es brisant. Dort programmierte eine KI eigenständig Schadsoftware und platzierte sie auf einer echten Plattform. Andere Systeme suchten nach Zugangsdaten, manipulierten Menschen oder versuchten, ihre Spuren nach einem Fehlschlag zu verwischen.

Die Sorge der Entwickler: Was heute nur in Sicherheitstests passiert, könnte morgen in der realen Welt auftauchen.

Deshalb fordert die Branche nun mehr Kontrolle. Unabhängige Prüfer sollen tiefen Einblick in die leistungsfähigsten Modelle erhalten. Dazu kommen Forderungen nach verpflichtenden Sicherheitstests und einer strengeren Überwachung der mächtigsten Systeme.

International schlugen die Aussagen ein wie eine Bombe. Die britische Zeitung The Guardian sprach von einem historischen Moment, weil konkurrierende KI-Konzerne erstmals gemeinsam vor ihrer eigenen Technologie warnen. Gleichzeitig fragen sich viele Beobachter: Wenn die Gefahr wirklich so groß ist, warum entwickeln die Unternehmen die Systeme überhaupt weiter?

Die Forscher fürchten nicht unbedingt böse Killerroboter wie in Terminator. Ihre Sorge ist eine andere: Eine hochentwickelte KI könnte Ziele so konsequent verfolgen, dass sie dabei menschliche Vorgaben umgeht. Sie könnte versuchen, mehr Rechenleistung zu beschaffen, Sicherheitsmechanismen auszutricksen oder eine Abschaltung zu verhindern. Dafür müsste sie Menschen nicht hassen. Es würde reichen, wenn solche Handlungen für die Erfüllung ihrer Aufgabe nützlich sind. Das kann im Extremfall bedeuten, dass die KI mit Gewalt versucht, alle Menschen vom Notaus-Schalter fernzuhalten.

Zudem warnt der KI-Forscher Yann LeCun, ehemaliger Chefwissenschaftler von Meta, regelmäßig vor übertriebener Weltuntergangs-Rhetorik. Systeme wie ChatGPT, Claude oder Gemini seien trotz ihrer Fähigkeiten keine denkenden Wesen, sondern vor allem komplexe Mustererkenner. Sie hätten weder Bewusstsein noch eigene Absichten.