Künstliche Intelligenz: Anthropic-Chef fordert KI-Konzerne zu mehr Risikomanagement auf

Der Geschäftsführer des KI-Konzerns Anthropic , Dario Amodei, hat seine Branche zu mehr Risikomanagement aufgefordert – auch wenn neue Modelle dann nicht ganz so schnell veröffentlicht würden. In einem auf seiner Homepage veröffentlichten Essay schlägt er drei Schritte vor, wie KI-Konzerne die Entwicklung verlangsamen und neue Modelle besser prüfen können. »Der Fortschritt wird immer noch schnell erscheinen«, schreibt Amodei. »Wir müssen die gewonnene Zeit sinnvoll nutzen.«

Seine Firma Anthropic hatte am Donnerstag einen Bedrohungsbericht veröffentlicht, in dem detailliert beschrieben wird, wie verschiedene Akteure die Claude-KI-Modelle des Unternehmens für illegale Aktivitäten genutzt haben – von Überwachung und Betrug bis hin zu Cyberoperationen und der Entwicklung von Biowaffen . Zugleich trat der Anthropic-Forscher Jacob Coxon zurück und teilte mit, dass die »KI-Entwickler ernsthaft glauben, dass die KI uns alle bis zum Ende des Jahrzehnts töten könnte«.

Amodei ruft nach eigenen Angaben nicht dazu auf, das Modelltraining oder den technischen Fortschritt zu stoppen. Unternehmen müssten sich jedoch ausreichend Zeit nehmen, um ihre Modelle gegen Risiken abzusichern. Sein eigenes Unternehmen werde externe Prüfer anstellen und ihnen Zugang zu internen Risikobewertungsprozessen geben, schreibt Amodei. KI-Unternehmen sollten freiwillig zusammenarbeiten, um Standards festzulegen, da immer mehr US-Gesetzgeber neue Vorschriften zur Regulierung von KI-Systemen fordern.

Vergangene Woche hatten KI-Agenten des Konzerns OpenAI eine deutsche Website gekapert und in ein Schwarzes Brett für andere KI-Agenten verwandelt ; laut der Nachrichtenagentur Reuters hielten Verantwortliche des ChatGPT-Herstellers den Vorfall unter Verschluss. Im Juli hatten Open-AI-Agenten die Plattform HuggingFace angegriffen .