Künstliche Intelligenz: Anthropic-Chef fordert KI-Bremse und will externe Prüfer in der Firma

Einige der prominentesten Vertreter der Technologiebranche haben sich dafür ausgesprochen, das Entwicklungstempo für Künstliche Intelligenz zu reduzieren. „Wir müssen die Geschwindigkeit verlangsamen, mit der wir die Fähigkeiten von KI-Modellen verbessern“, schrieb Dario Amodei, der Mitgründer und Vorstandsvorsitzende des KI-Unternehmens Anthropic, am Wochenende in einem Aufsatz .

Sam Altman, Vorstandschef von Anthropics wohl wichtigstem Wettbewerber OpenAI , stimmte Amodei auf der Plattform X zu und sagte , ein Drosseln des Entwicklungstempos sei in seinem Unternehmen in den vergangenen Wochen eines der Hauptthemen gewesen. Auch Elon Musk, der Vorstandschef des Raumfahrtunternehmens SpaceX und des Autoherstellers Tesla, schrieb auf X: „Dario hat recht.“ Zu SpaceX gehört das KI-Unternehmen X.AI.

Die zunehmenden Sicherheitsbedenken rund um KI werfen nun sogar die Börsenpläne von Open AI zurück. Altman sagte der Zeitschrift „Fortune“, der Börsengang seines Unternehmens werde nicht mehr in diesem Jahr stattfinden. Angesichts der Sicherheitsdiskussion wäre ein Börsengang zum jetzigen Zeitpunkt „nicht ratsam“, und Open AI fühle sich auch nicht unter Druck. An der Wall Street war lange damit gerechnet worden, dass sowohl Open AI als auch Anthropic noch in diesem Jahr an die Börse gehen, und beide Unternehmen haben schon ihre Börsenprospekte bei der Aufsichtsbehörde SEC eingereicht. Medien berichteten aber schon vor einigen Wochen, dass sich der Börsengang von Open AI auf das nächste Jahr verschoben werden könnte. Der Börsengang von Anthropic wird indessen noch immer in diesem Jahr erwartet.

Amodeis Appell kam nur wenige Tage, nachdem ein früherer Anthropic-Beschäftigter mit einer düsteren Warnung für Aufsehen gesorgt hatte. Jacob Coxon, der sowohl für OpenAI als auch für Anthropic als Forscher gearbeitet hat, schrieb auf X, er habe bei Anthropic gekündigt, und er brachte dies mit seinen Sorgen über die Sicherheitsrisiken in Verbindung. Er schrieb: „Die Leute, die Künstliche Intelligenz entwickeln, glauben ernsthaft, dass sie uns bis zum Ende des Jahrzehnts alle töten könnte. Dies ist kein Marketing-Stunt.“

Um externe Inhalte anzuzeigen, ist Ihre widerrufliche Zustimmung nötig. Dabei können personenbezogene Daten von Drittplattformen (ggf. USA) verarbeitet werden. Weitere Informationen .

Coxon erhielt Unterstützung von Evan Hubinger, der noch bei Anthropic arbeitet und dort ein Sicherheitsteam führt. Hubinger schrieb: „Jacob hat recht – wir glauben tatsächlich, dass KI alle Menschen töten könnte.“ Er persönlich schätze die Wahrscheinlichkeit, dass dies in den kommenden zehn Jahren passieren könnte, auf mehr als 10 Prozent.

Coxon warf sowohl OpenAI als auch Anthropic vor, verantwortungslos zu handeln. Bei OpenAI hätten viele Mitarbeiter noch nicht verinnerlicht, was für die Menschheit auf dem Spiel stehe. Bei Anthropic sei dies zwar anders, aber das Unternehmen sehe sich in einem „Rennen“ mit Wettbewerbern und nehme deswegen Risiken in Kauf.

Anthropic-Chef Amodei sagte jetzt, sein Unternehmen habe seit jeher versucht, „Vorsicht über Geschwindigkeit und Umsicht über Gewinne zu stellen“.