Nach Zwischenfällen: Sogar der Chef von Anthropic drückt plötzlich auf die KI-Bremse

Seit Jahren gibt es Aufrufe, die KI-Entwicklung zu verlangsamen.

Nun springt sogar der Chef einer der größten Firmen auf den Zug auf.

Er habe Angst, dass die KI das gesamte Internet Nach dem Schock eigenständiger Hacking-Attacken durch Künstliche Intelligenz fordert der Chef des großen KI-Labors Anthropic , die Entwicklung der Technologie zu verlangsamen.

Er sei nun besorgt, dass in sechs bis zwölf Monaten ein Schwarm von KI in der Lage sein könnte, das gesamte Internet zu übernehmen und potenziell Hunderte Milliarden Dollar Schaden zu verursachen, schrieb Dario Amodei in einem Blogeintrag.

Binnen weniger Stunden bekam er Zuspruch von einem zentralen Rivalen, dem Chef des ChatGPT-Entwicklers OpenAI.

Er sei auch der Ansicht, dass das Tempo bei der Entwicklung leistungsstärkster KI-Modelle moderiert werden müsse, schrieb Sam Altman auf der Online-Plattform X.

Amodei plädierte zwar für eine koordinierte branchenweite Pause in der westlichen Welt.

Zugleich werde Anthropic – ohne auf andere zu warten – in einem ersten Schritt dauerhaft unabhängige Beobachter ins Unternehmen lassen, die schon in der Trainingsphase die Sicherheit von KI-Modellen begutachten sollen.

Altman nannte das eine gute Idee und kündigte an, dass OpenAI das auch machen werde.

Bei der jüngst bekanntgewordenen aufsehenerregenden Hacking-Attacke war Software von OpenAI in einem Testlauf eigenständig aus der abgesicherten Umgebung ausgebrochen und drang auf eigene Faust in Systeme der KI-Firma HuggingFace ein.

Der Grund war lediglich, dass sie dort Antworten auf die ihr gestellte Testaufgabe vermutete.

Für die Attacke nutzten die KI-Modelle unter anderem Software-Schwachstellen aus – und sprachen sich zudem untereinander ab.

Anthropic-Chef warnt vor „katastrophalem Schaden“ durch KI Für ihn sei besorgniserregend, dass ein KI-Schwarm mit größeren Fähigkeiten, aber derselben Einstellung „katastrophalen Schaden“ hätte anrichten können, betonte Amodei.

Als besonderes Risiko sieht er die Fähigkeit von KI-Software, sich selbst weiterzuentwickeln.