Sicherheitsbericht enthüllt - Huthis bauten Raketen mit KI

Jemen/San Francisco – Eine Rakete wird entwickelt, abgefeuert – und als der Test scheitert, soll Künstliche Intelligenz herausfinden, was schiefgelaufen ist. Was nach Science-Fiction klingt, ist offenbar längst Realität. Und der Raketenbau ist nur ein Beispiel dafür, wie Künstliche Intelligenz inzwischen für gefährliche Zwecke eingesetzt wird. Der US-KI-Konzern Anthropic hat in einem neuen, rund 150 Seiten langen Bericht offengelegt, wofür seine KI Claude in den vergangenen Monaten missbraucht wurde.

Einer der krassesten Fälle führt in den Norden des Jemen. Dort arbeitete eine Zelle mithilfe von Claude an gleich drei Waffenprogrammen. Unter anderem ging es um eine gelenkte Rakete. Sie feuerte die Rakete tatsächlich testweise ab. Der Versuch scheiterte offenbar. Danach wandten sich die Terroristen wieder an die KI: Claude sollte ihnen dabei helfen herauszufinden, was beim Test schiefgelaufen war.

Die Gruppe arbeitete außerdem an einer mehrstufigen ballistischen Rakete mit einer angestrebten Reichweite von mehr als 2000 Kilometern sowie an Varianten eines Hyperschall-Gleitflugkörpers. Anthropic nennt die Zelle nicht beim Namen. Der Fall stammt allerdings aus dem Norden des Jemen, wo die vom Iran unterstützten Huthis große Gebiete kontrollieren.

Auch Russland taucht in dem Bericht auf. In zwei Fällen sollen Akteure Claude bei der Entwicklung autonomer Kamikaze-Drohnenschwärme eingesetzt haben. Die KI half damit bei einer Technologie, bei der zahlreiche Drohnen gemeinsam und möglichst selbstständig agieren sollen.

Auch aus China dokumentiert der Bericht Waffenprojekte. In drei Fällen wurde Claude demnach als Ersatz für Software-Entwickler genutzt, um an Steuerungs- und Leitsystemen für Waffenplattformen zu arbeiten.

Noch heikler wird es im Bereich der biologischen Forschung. Anthropic beschreibt fünf Fälle, in denen Wissenschaftler Claude für Arbeiten nutzten, die potenziell zur Entwicklung biologischer Waffen beitragen könnten. Allerdings konnte das Unternehmen nicht feststellen, ob tatsächlich schädliche Absichten dahinterstanden. In einem Fall ging es um Chikungunya-Viren – einschließlich möglicher Veränderungen, um deren Übertragbarkeit zu erhöhen und die Immunantwort zu umgehen. Andere Fälle betrafen hochpathogene Vogelgrippe, Orthopoxviren und Giftstoffe.

Haben Sie eine Meinung zu diesem Artikel? Hier können Sie uns schreiben. Haben Sie Fehler entdeckt? Dann weisen Sie uns gern darauf hin.