Warnungen vor KI-Risiken - Anthropic-Chef fordert langsameres Entwicklungstempo

Außer Kontrolle geratene KI, gehackte Frühwarnsysteme, Risiko einer Auslöschung: Angesichts der deutlichen Warnungen vor Gefahren für die Menschheit durch Künstliche Intelligenz (KI) hat der Chef des KI-Unternehmens Anthropic, Dario Amodei, zu einer Drosselung der Entwicklung von Künstlicher Intelligenz aufgerufen.

Unterstützung erhielt er am Wochenende vom Chef des Konkurrenzunternehmens OpenAI, Sam Altman, und dem Techunternehmer Elon Musk.

Wegen der Sicherheitsbedenken erteilte Altman einem Börsengang von OpenAI in diesem Jahr eine Absage. „Wir müssen das Tempo verlangsamen, mit dem wir die Fähigkeiten von KI-Modellen verbessern“, erklärte der Anthropic-Chef Amodei am Samstag auf seiner Website. „Der Fortschritt wird immer noch schnell erscheinen, und wir müssen die gewonnene Zeit sinnvoll nutzen." KI berge „gravierende“ Risiken, betonte Amodei. „Die Technologie nicht zu entwickeln, beraubt die Menschheit ihrer Vorteile oder überlässt KI autoritären Mächten“, erklärte er.

Zugleich sei eine „zu schnelle Entwicklung leichtsinnig“. „Wir haben nach einem Mittelweg gesucht“, sagte Amodei, der Anthropic 2021 gemeinsam mit seiner Schwester Daniela gegründet hatte.

Doch in den vergangenen Monaten sei er zu der Überzeugung gelangt, dass „für eine umfassende Bewältigung der Risiken“ noch größere Vorsicht nötig sei.

OpenAI- Chef Altman und Musk, Eigentümer des KI-Unternehmens xAI, schlossen sich Amodeis Appell an. „Dario hat Recht“, schrieb Musk in seinem Onlinedienst X. „Ich stimme Dario zu“, erklärte auch Altman.

Eine Drosselung des Tempos bei der KI-Entwicklung sei auch bei OpenAI in den vergangenen Wochen intensiv diskutiert worden.

Dem Wirtschaftsmagazin „Fortune“ sagte Altman, wegen der Sicherheitsbedenken werde OpenAI nicht 2026 an die Börse gehen. „Angesichts der aktuellen Entwicklungen rund um das Thema Sicherheit wäre es derzeit wenig ratsam“, sagte Altman.

Auf die Frage nach dem Risiko einer Auslöschung der Menschheit sagte er: „Wir haben alle eine enorme Verantwortung und dürfen nicht zulassen, dass Egos oder Gewinnanreize oder anderes uns davon abhalten.“ Das Konkurrenzunternehmen Anthropic hatte Anfang Juni erklärt, eine langsamere Entwicklung immer leistungsstärkerer KI-Systeme sei „wahrscheinlich sinnvoll“, damit Forschung und Gesellschaft Schritt halten könnten.

Ende Juli erklärte wiederum Altman , dass Entwickler möglicherweise freiwillig einen Gang zurückschalten müssten.

Zudem unterzeichneten mehr als tausend Mitarbeiter führender KI-Unternehmen eine Petition, in der sie die Hilfe der US-Regierung forderten, um „die Entwicklung automatisierter KI bewusst zu drosseln“.