Sicherheitsbericht enthüllt - Huthis bauten Raketen mit KI

San Francisco (USA) – Mehrere Nutzer von „Claude“ haben offenbar versucht, mit der KI Biowaffen zu entwickeln. Der Chatbot sollte nach Angaben seines Herstellers Anthropic auch bei Raketenprojekten der Huthis und Kamikaze-Drohnenschwärme der Russen helfen. Der Entwickler des Chatbots „Claude“ hat nach eigenen Angaben mehrere Nutzer gestoppt, die die KI für Forschung mit möglichem Biowaffen-Bezug oder sogar für die Entwicklung von Waffensystemen eingesetzt haben. Das geht aus dem bisher umfangreichsten Sicherheitsbericht des Unternehmens hervor. Zuerst berichtete das KI-Branchenmedium „Trending Topics“.

In mehreren Fällen ging es um wissenschaftliche Arbeiten an gefährlichen Krankheitserregern. Laut „Anthropic“ nutzten Forscher „Claude“ unter anderem für ein Projekt, um das Chikungunya-Virus noch ansteckender und resistenter zu machen. Die Schutzsysteme des Chatbots blockierten dabei die sensiblen Anfragen. „Anthropic“ entzog den Nutzern den Zugang zu leistungsfähigeren Modellversionen.

Erstmals dokumentiert „Anthropic“ auch Fälle, in denen „Claude“ bei der Entwicklung konventioneller Waffen eingesetzt worden sein soll. Dem Bericht zufolge nutzten Entwickler in China die KI für Arbeiten an Steuerungs- und Leitsystemen von Waffenplattformen. In Russland soll mithilfe des Modells an autonomen Kamikaze-Drohnenschwärmen gearbeitet worden sein.

Auch die Huthis sollen „Claude“ bei der Entwicklung von Langstrecken-Raketen nutzen. Dort soll eine mit dem Iran verbundene Gruppe verschiedene Raketenprogramme verfolgt haben. Genannt werden eine gelenkte Rakete, eine mehrstufige ballistische Rakete mit einer geplanten Reichweite von mehr als 2000 Kilometern sowie Varianten eines Hyperschall-Gleitflugkörpers.

Schon länger bekannt ist, dass KI für Überwachung, Propaganda und Cyberangriffe genutzt wird. Russland produziert so Fake News, mit denen der Kreml Europa flutet. China und der Iran automatisieren mit KI die Online-Überwachung ihrer Bevölkerung.

Laut „Anthropic“ ist von außen oft nicht zu erkennen, ob Forschung friedlichen oder militärischen Zwecken dient. Anthropic hatte schon Anfang des Jahres vor solchem Missbrauch gewarnt .

Haben Sie eine Meinung zu diesem Artikel? Hier können Sie uns schreiben. Haben Sie Fehler entdeckt? Dann weisen Sie uns gern darauf hin.