Fragen und Antworten: OpenAI verschiebt Börsengang, Anthropic-Chef warnt: Was ist in der KI-Welt los?

Seit Jahren gibt es Aufrufe, die KI-Entwicklung zu verlangsamen.

Nach einem jüngsten Zwischenfall gibt es nun bei den großen Entwicklern erste Bewegung in diese Richtung.

Die Künstliche Intelligenz (KI) entwickelt sich rasant weiter.

Entwickler und andere Experten warnen davor, dass die Technologie in absehbarer Zeit zu einer reellen Gefahr für die Menschheit werden könnte, und mahnen eine entschlossenere Regulierung an, um die Gefahren einer sogenannten Superintelligenz einzudämmen – insbesondere zwei Äußerungen sorgten an diesem Wochenende für Aufsehen.

Der stern beantwortet die wichtigsten Fragen: Warum verschiebt OpenAI seinen Börsengang? Der mit Spannung erwartete Börsengang des ChatGPT-Entwicklers OpenAI wird in diesem Jahr nach Angaben von Firmenchef Sam Altman nicht mehr über die Bühne gehen.

Er verwies in einem Interview des Magazins „ Fortune “ vorwiegend auf die aktuelle Debatte um die Gefahren hochentwickelter Künstlicher Intelligenz. „Man wäre schlecht beraten, genau jetzt an die Börse zu gehen“, sagte Altman.

Auf die Nachfrage, ob er sich auch den Verzicht auf einen Börsengang im kommenden Jahr vorstellen könnte, erwiderte Altman: „Ich würde sagen, nicht 2026.“ Wovor warnt der Anthropic-Chef? Der Chef des großen KI-Labors Anthropic forderte, die Entwicklung der Technologie zu verlangsamen.

Er sei nun besorgt, dass in sechs bis zwölf Monaten ein Schwarm von KI in der Lage sein könnte, das gesamte Internet zu übernehmen und potenziell Hunderte Milliarden Dollar Schaden zu verursachen, schrieb Dario Amodei in einem Blogeintrag .

Binnen weniger Stunden bekam Amodei Zuspruch von einem zentralen Rivalen: Sam Altmann.

Er sei auch der Ansicht, dass das Tempo bei der Entwicklung leistungsstärkster KI-Modelle moderiert werden müsse, schrieb der OpenAI-Chef auf X.

Amodei plädierte zwar für eine koordinierte branchenweite Pause in der westlichen Welt.

Zugleich werde Anthropic – ohne auf andere zu warten – in einem ersten Schritt dauerhaft unabhängige Beobachter ins Unternehmen lassen, die schon in der Trainingsphase die Sicherheit von KI-Modellen begutachten sollen.

Altman nannte das eine gute Idee und kündigte an, dass OpenAI das auch machen werde.

Warum jetzt solche Botschaften? Bei einer jüngst bekannt gewordenen, aufsehenerregenden Hacking-Attacke war Software von OpenAI in einem Testlauf eigenständig aus der abgesicherten Umgebung ausgebrochen und drang auf eigene Faust in Systeme der KI-Firma HuggingFace ein.