Künstliche Intelligenz: Bringt die KI uns alle um?

Über das KI-Unternehmen Anthropic wird erzählt, dass jedem neuen Mitarbeiter ein Buch des Historikers Richard Rhodes empfohlen wird: „The Making of the Atomic Bomb“. Darin wird beschrieben, wie aus einem wissenschaftlichen Projekt eine Massenvernichtungswaffe wird, angeleitet von Physikern in dem festen Glauben, sie müssten die ersten sein, die die Atombombe entwickeln, bevor es die falschen tun. Die KI-Branche scheut den Vergleich zur Atombombe nicht, sie sucht ihn.

Sowohl Sam Altman, der Mann an der Spitze des ChatGPT-Entwicklers Open AI, als auch Anthropic-Chef Dario Amodei, sind schon mit J. Robert Oppenheimer verglichen worden, dem Vater der Atombombe. Oppenheimer wurde nach dem Abwurf der Bomben auf Hiroshima und Nagasaki indes zum Kritiker der atomaren Aufrüstung. In Altman und Amodeis Selbstverständnis steckt indes auch viel von einem anderen Forscher, dem ungarischen Mathematiker John von Neumann.

Dieser war ebenfalls am „Manhattan Project“ zur Entwicklung der amerikanischen Atombombe beteiligt. Seine Gleichungen spielten eine wichtige Rolle für deren Zerstörungskraft. Nach 1945 kam er allerdings zu einem anderen Schluss als Oppenheimer. Er erkannte die Gefahren, die in der Technologie steckten – und arbeitete dennoch in den Fünfzigerjahren an der Entwicklung einer noch gefährlicheren Waffe, der Wasserstoffbombe.

In der KI-Welt ist es zurzeit tendenziell so: Altman und noch mehr Amodei sprechen viel über die Gefahren dessen, was sie da entwickeln. „Wir müssen die Geschwindigkeit verlangsamen, mit der wir die Fähigkeiten von KI-Modellen verbessern“, schrieb Anthropic-Chef Amodei an diesem Wochenende in einem Aufsatz . Open-AI-Chef Altman stimmte ihm auf der Plattform X sogleich zu und äußerte, das Entwicklungstempo zu drosseln sei in seinem Unternehmen in den vergangenen Wochen eines der Hauptthemen gewesen. Überdies sagte er der Zeitschrift „Fortune“, der Börsengang seines Unternehmens werde nicht mehr in diesem Jahr stattfinden. Angesichts der Sicherheitsdiskussion wäre er zum jetzigen Zeitpunkt „nicht ratsam“.

Auch Elon Musk, der Vorstandschef des Raumfahrtunternehmens SpaceX und des Autoherstellers Tesla, mischte sich in die Debatte ein. Er schrieb auf X: „Dario hat recht.“ Zu SpaceX gehört das KI-Unternehmen X.AI.

Ob und was daraus konkret folgt, ist in derweil noch nicht abzusehen. Bislang haben sowohl Open AI als auch Anthropic nach geäußerten Warnungen einfach weitergemacht, angetrieben von der Idee, dass besser sie als andere die Kontrolle über das mächtigste KI-Modell haben sollten. Anthropic hält sich für verantwortungsbewusster als Open AI. Open AI wiederum hält sich für immer noch besser als die Chinesen.

Die ganze KI-Debatte nimmt seit dem vergangenen Mittwoch Fahrt auf. Da schlug die Mitteilung des KI-Entwicklers Jacob Coxon auf der Plattform X große Wellen, er habe seinen Job bei Anthropic aus ethischen Erwägungen gekündigt.