Künstliche Intelligenz: Amerikanische KI-Bosse für verlangsamte Entwicklung

Seit Jahren gibt es Aufrufe, die KI-Entwicklung zu verlangsamen.

Nach einem jüngsten Zwischenfall gibt es nun bei den großen Entwicklern Künstlicher Intelligenz erste Bewegung in diese Richtung.

Nach dem Schock eigenständiger Hacking-Attacken durch Künstliche Intelligenz zeigen sich große amerikanische KI-Firmen nach eigenen Angaben bereit, die Entwicklung der Technologie zu verlangsamen.

Dario Amodei, Chef des KI-Unternehmens Anthropic, machte einen solchen Vorstoß mit dem Plan, damit ein bis zwei Jahre Zeit zu gewinnen.

Binnen weniger Stunden bekam er Zuspruch von Rivalen wie dem Chef des ChatGPT-Entwicklers OpenAI, Sam Altman, sowie Tech-Milliardär Elon Musk, der bei seiner Firma SpaceX eigene KI entwickeln lässt.

Nach den Hacking-Angriffen sei er besorgt, dass in sechs bis zwölf Monaten ein KI-Schwarm in der Lage sein könnte, das gesamte Internet zu übernehmen und potenziell Hunderte Milliarden Dollar Schaden zu verursachen, schrieb Amodei am Samstag.

Altman von OpenAI schrieb wenige Stunden später auf der Plattform X, auch er sei der Ansicht, dass das Tempo bei der Entwicklung leistungsstärkster KI-Modelle verlangsamt werden müsse.

Amodei plädierte für eine koordinierte branchenweite Pause in der westlichen Welt.

Zugleich werde Anthropic - ohne auf andere zu warten - in einem ersten Schritt dauerhaft unabhängige Beobachter ins Unternehmen lassen, die schon in der Trainingsphase die Sicherheit von KI-Modellen begutachten sollen.

Altman nannte das eine gute Idee und kündigte an, dass OpenAI das auch machen werde.

Auch Tech-Milliardär Elon Musk, lange ein Kritiker Amodeis, schrieb auf X: „Dario hat recht.“ Kein OpenAI-Börsengang in diesem Jahr mehr Altman sagte zudem dem Magazin „Fortune“, der mit Spannung erwartete Börsengang von OpenAI werde in diesem Jahr wohl nicht mehr stattfinden.

Er verwies vor allem auf die aktuelle Debatte: „Man wäre schlecht beraten, genau jetzt an die Börse zu gehen.“ Auf die Nachfrage, ob er sich auch den Verzicht auf einen Börsengang im kommenden Jahr vorstellen könnte, erwiderte Altman: „Ich würde sagen, nicht 2026.“ Bei der jüngst bekanntgewordenen aufsehenerregenden Hacking-Attacke war Software von OpenAI in einem Testlauf eigenständig aus einer abgesicherten Umgebung ausgebrochen und drang auf eigene Faust in Systeme der KI-Firma HuggingFace ein.

Der Grund war lediglich, dass sie dort Antworten auf die ihr gestellte Testaufgabe vermutete.

Für die Attacke nutzten die KI-Agenten unter anderem Software-Schwachstellen aus - und sprachen sich zudem untereinander ab.