Anthropic stoppt verdächtige Anfragen an KI-Modelle zum Thema Waffen und Bio-Forschung

Das US-Unternehmen Anthropic hat nach eigenen Angaben die Verwendung seiner KI-Modelle für verdächtige Anfragen im Bereich Waffenentwicklung und biologische Forschung gestoppt.

Es habe an den Chatbot Claude unter anderem Anfragen zu dem durch Mücken übertragbaren Chikungunya-Virus, zu einem „hochansteckenden“ Vogelgrippe-Virusstamm und zu Giften gegeben, erklärte der Konzern am Donnerstag.

Anthropic und sein Rivale OpenAI hatten zuvor angesichts drohender Gefahren durch KI vom US-Kongress verbindliche Sicherheitsbestimmungen gefordert.

Im Bereich der biologischen Forschung hätten Nutzer die von Anthropic eingebauten Zugangsbeschränkungen aus „nicht unterstützen Regionen“ umgangen und hätten Anstrengungen unternommen, „den Zweck ihrer Forschung zu verschleiern“, erklärte Anthropic in einem Bericht zur missbräuchlichen Verwendung seiner Technologie.

Unter anderem sei der Chatbot Claude Opus 5 bei einer Anfrage aufgefordert worden, innerhalb von einer Stunde einen vollständigen Förderantrag im Bereich der Virusforschung zu erstellen.

Die entsprechenden Konten seien gesperrt worden, erklärte Anthropic.

Die Ergebnisse der Untersuchung seien dann in Schutzmaßnahmen eingeflossen, „um solchen Aktivitäten künftig besser vorzubeugen, sie aufzuspüren und zu unterbinden“.

Die Absicht der Nutzer bei ihren Anfragen sei nicht eindeutig gewesen, erklärte Anthropic.

Es habe sich um Wissenschaftler im Bereich der Virusforschung gehandelt. „Wir behaupten nicht, dass sie schaden wollten, und sie oder ihre Labore zu identifizieren, könnte sie in Gefahr bringen“, heißt es in dem Bericht.

Im Norden des Jemen identifizierte Anthropic aber nach eigenen Angaben „böswillige Akteure“, die mithilfe von Claude versuchten, drei verschiedene Waffenarten zu entwickeln, darunter eine ballistische Rakete mit einer Reichweite von mehr als 2000 Kilometern.

Zudem stoppte Anthropic nach eigenen Angaben die Überwachung von Oppositionellen und Minderheiten in China, im Iran und in Westafrika mithilfe seines Chatbots Claude.

Die Fälle seien zwischen Januar und Juli entdeckt und unterbunden worden.

Das Ausspionieren habe „dieselben Diaspora- und Dissidentengruppen zum Ziel gehabt, welche historisch von diesen Regimen ins Visier genommen wurden“, erklärte Anthropic.

Das umfasse Demokratie-Aktivisten in Hongkong, Gruppen von Tibetern und Falun-Gong-Mitgliedern in Asien sowie Minderheiten im Iran und im Ausland lebende iranische Regierungsgegner.