KI-Entwickler Anthropic blockiert Biowaffen-Recherchen

Künstliche Intelligenz KI-Entwickler blockiert Biowaffen-Recherchen Stand: 11.09.2026 • 15:37 Uhr

Das US-Unternehmen Anthropic hat nach eigenen Angaben mehrere Fälle missbräuchlicher Nutzung seines KI-Modells unterbunden. Dabei sei es auch um mutmaßliche Cyberspionage aus Russland und biologische Waffen gegangen.

Der KI-Entwickler Anthropic hat nach eigenen Angaben mehrere Versuche von Forschern unterbunden, Modelle ihrer Software Claude rund um die mögliche Entwicklung von Biowaffen zu nutzen. Die Ziele solcher Anfragen seien schwer zu ermitteln, da die Forschung sowohl medizinischen als auch militärischen Zwecken dienen könne, hieß es. Auf jeden Fall zeigten die Versuche aber, dass Wissenschaftler aus blockierten Regionen heimlich auf Künstliche Intelligenz amerikanischer Entwickler zuzugreifen versuchten.

Chips werden immer mehr zur Mangelware. Das sorgt für steigende Preise bei vielen elektronischen Geräten. mehr

Weder die Forschungseinrichtungen noch die Länder, aus denen sie stammen, wurden genannt. Es gehe um fünf Fälle mit Bezug zu möglicher Biowaffen-Forschung, teilte das US-Unternehmen mit. Dabei sei keine konkrete wissenschaftliche Hilfe gesucht worden, sondern eher organisatorische Unterstützung, etwa beim Verfassen von Papieren. KI-Modelle sind darauf getrimmt, Hilfestellung bei der Entwicklung biologischer Waffen zu verweigern. In der Forschung sei es aber manchmal aber schwierig, eine klare Trennlinie zwischen harmlosen und bösartigen Absichten zu ziehen, erklärte Anthropic.

Der Konzern hatte am Donnerstag einen ausführlichen Bericht über versuchten Missbrauch seiner KI-Modelle veröffentlicht. Demnach habe er in vergangenen acht Monaten zahlreiche Fälle von missbräuchlicher Nutzung von Claude unterbunden. Dazu zählten auch eine mutmaßlich von Russland gesteuerte Cyberspionage-Kampagne sowie Versuche chinesischer KI-Firmen, die Fähigkeiten zu kopieren oder Trainingsdaten zu klauen, um Entwicklungskosten zu senken.

Das KI-Modell "Mythos 5" der Firma Anthropic hat offenbar erneut eigenmächtig gehandelt. mehr

Eine Hackergruppe soll darüber hinaus mithilfe der KI Angriffe auf Ziele in der ukrainischen Regierung, des Militärs und des diplomatischen Sektors verübt haben, hieß es weiter. Zudem identifizierte Anthropic nach eigenen Angaben weitere Akteure, die Claude zur Entwicklung von Software für konventionelle Waffen wie Schusswaffen, Raketen und Drohnen missbrauchen.

Jacob Klein, Leiter der Bedrohungsanalyse bei Anthropic, sagte in einem Interview, dass die Modelle leistungsfähiger geworden seien, was neue Risiken mit sich bringe: "Vor einem Jahr wären die Modelle für eine Aufgabe wie die Optimierung einer Drohne oder der Software einer Rakete einfach nicht so gut gewesen wie heute." Bereits im Juni hatten Mitarbeitende des Forschungszweigs des Unternehmens vor der rasanten Entwicklung gewarnt und eine Verlangsamung geforder t.

Genau darüber denkt offenbar gerade der Konkurrent OpenAI nach.