Anthropic-Chef Dario Amodei warnt vor Tempo der KI-Entwicklung und will Inspekteuren Zugang geben

Der Chef des KI-Entwicklers Anthropic, Dario Amodei, hat seine Branche zu einer koordinierten Drosselung des bisherigen Entwicklungs-Tempos aufgerufen. Angesichts wachsender Sorgen über einen Missbrauch künstlicher Intelligenz skizzierte Amodei einen Drei-Schritte-Plan. Ziel sei es, die Entwicklung zu verlangsamen und mehr Zeit zu gewinnen, um die Risiken zu beherrschen.

»Wir müssen das Tempo verlangsamen, mit dem wir die Fähigkeiten von KI-Modellen verbessern. Der Fortschritt wird weiter schnell erscheinen, und wir müssen die Zeit klug nutzen, die wir gewinnen«, schrieb Amodei in einem Text, den er auf seiner Webseite veröffentlichte (hier geht’s zum ganzen Beitrag ).

We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so. Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our…

Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.

Er habe die Befürchtung, dass innerhalb von sechs bis zwölf Monaten KI-Schwärme in der Lage sein könnten, das gesamte Internet zu übernehmen und Hunderte Milliarden Dollar Schaden zu verursachen, so Amodei.

Der Anthropic-Chef nahm ausdrücklich Bezug auf Hacking-Vorfälle, in denen KI-Modelle zuletzt aus kontrollierten Umgebungen ausgebrochen waren und zunächst unerkannt IT-Systeme von anderen Firmen attackiert hatten, darunter die Plattform Hugging Face.

Amodei ruft in seinem Beitrag die führenden KI-Entwickler »in demokratischen Ländern« auf, sich untereinander abzustimmen. Ziel seien »gemeinsame Sicherheitsstandards sowie Begrenzungen des unkontrollierten Fortschritts der KI«. Diese Regeln sollen laut Amodei die Firmen selbst entwickeln, Regierungen sollten dabei unterstützen. In einem weiteren Schritt sollten »demokratische Regierungen« dann versuchen, auch mit autoritären Regimen Absprachen für eine Kontrolle des Entwicklungstempos zu treffen.

6 Min Zur Merkliste hinzufügen Außer Kontrolle geraten: KI-Modell von OpenAI ging offenbar tagelang unbemerkt auf Hacker-Tour 4 Min Zur Merkliste hinzufügen 4 Min Zur Merkliste hinzufügen Neuer Sicherheitsreport zu Claude: Wie KI genutzt wird, um Daten zu stehlen, Nutzer abzuzocken und Waffen zu bauen Von Markus Böhm, Torsten Kleinz und Alexander Preker 6 Min Zur Merkliste hinzufügen 6 Min Zur Merkliste hinzufügen Amodei fordert die führenden KI-Unternehmen der Branche zudem auf, externen Gutachtern dauernden Zugang zu gewähren – und damit eine gewisse externe Kontrolle der KI-Entwicklung zu ermöglichen. Amodei spricht von »embedded evaluators«. Diesen Prüfern solle der gleiche Zugang wie den eigenen Mitarbeitern gewährt werden. So könne die Einhaltung von Sicherheitsvorschriften und Sicherheitsverpflichtungen extern überwacht werden.

Um mit gutem Beispiel voranzugehen, wolle Anthropic diese externe Begutachtung selbst einführen, ohne sich darüber vorher mit anderen KI-Entwicklern abzustimmen.