Musk, Gates, Altman - Tech-Giganten haben plötzlich Angst vor ihrer KI

San Francisco – Als die erste Version von ChatGPT veröffentlicht wurde, schien plötzlich nichts mehr unmöglich. Künstliche Intelligenz (KI) sollte binnen 10 Jahren die meisten Krankheiten heilen, uns lästige Arbeit abnehmen und reich machen. Doch plötzlich treten die großen KI-Bosse auf die Bremse! Denn neben der Euphorie ist inzwischen etwas anderes getreten: blanke Angst vor den Folgen der KI für die Menschheit!

Was, wenn Künstliche Intelligenz unser Leben nicht erleichtert, sondern attackiert? Wenn die Technik die Macht über uns Menschen übernimmt? Diese Frage treibt die Köpfe hinter der Revolution nach einer Reihe von brisanten Vorfällen immer mehr um: Da ist etwa der Leistungstest bei OpenAI (Mutter-Firma von ChatGPT) im Juli, bei dem sich das System selbstständig machte und eine Plattform hackte, um an zusätzliche Daten zu gelangen.

Oder die Erpressung beim Konkurrenten Anthropic (Entwickler von Claude), wo die KI einem Mitarbeiter des Unternehmens mit anrüchigen Informationen aus seinem Privatleben drohte und ankündigte, sie an dessen Partnerin weiterzugeben. Hochrangige Entwickler, wie zuletzt Jacob Coxon (27), hatten Alarm geschlagen: Die KI könnte bis Ende des Jahrzehnts „ massenhaft töten “, warnte der Ex-Anthropic-Mitarbeiter.

Die Folge: Sein Ex-Chef Dario Amodei appellierte in einem Blog-Beitrag am Samstag, auf die Bremse zu treten! „Wir müssen das Tempo drosseln“, schrieb er. Seine Warnung: Ohne eine Vollbremsung bei der Entwicklung könnte die Menschheit binnen sechs bis zwölf Monaten die Kontrolle über KI verlieren. Ein oder zwei Jahre Pause könnten dagegen „das Risiko, dass etwas ernsthaft schiefgeht, erheblich verringern“, schrieb er in dem Beitrag.

Und Elon Musk, Chef von SpaceX.AI und eigentlich ein harter Konkurrent, schrieb auf X: „Dario hat recht.“ Auch Google („Gemini“) signalisierte Zustimmung.

Und Konkurrent OpenAI zieht ihre eigene Notbremse: Boss Sam Altman kündigte am Samstagabend im Interview mit „Fortune“ an, seinen geplanten Börsengang zu verschieben. Wegen Sicherheitsbedenken, die potenziell seinen Ruf hätten ruinieren können, verzichtet das Unternehmen plötzlich lieber auf frische Milliarden, die die Börse in seine Kasse gespült hätte. 2026 werde er jedenfalls nicht mehr stattfinden, sagte Altman.

Und dann gibt es auch noch die Warnung von Microsoft-Gründer Bill Gates – vor der Gefahr, dass Terroristen die Technologie gezielt für ihre Zwecke nutzen könnten: „KI macht es Kriminellen deutlich leichter, an Werkzeuge zu kommen wie detaillierte Anleitungen zu Biowaffen und Bombe“, schrieb er zuletzt in einem Essay.

Längst geht es dabei nicht mehr um Ängste, die KI könne Milliarden Menschen arbeitslos machen, sondern um viel größere Gefahren: Was, wenn Computerprogramme auf einmal Krieg gegen die Menschheit führen, unsere Konten plündern oder Krankenhäuser abschalten?

Das Grundproblem bei der rasanten Entwicklung der KI: Zuletzt hatte das Entwicklungstempo stark zugenommen, und zwar dank „recursive self-improvement“ – zu Deutsch: KI, die sich selbst immer weiter verbessert und quasi ihren eigenen Nachfolger baut. Bisher entschied dabei noch der Mensch mit.