Schicksal als Büroklammer: Wie könnte eine Super-KI die Menschheit auslöschen?
Der Ausstieg eines Anthropic-Mitarbeiters befeuert die Debatte um die Gefahren künstlicher Intelligenz. Einige Insider halten das Risiko einer Auslöschung bereits in wenigen Jahren für real. Ein Gedankenexperiment mit einer Superintelligenz zeigt, wie das ablaufen könnte.
Wird eine Büroklammer-Maschine die Menschheit vernichten? Vor einem ähnlichen Szenario warnten zuletzt zwei KI-Forscher: Jacob Coxon hatte Anthropic verlassen, weil dieses und andere Unternehmen seiner Ansicht nach mit der rasanten KI-Entwicklung "mit unserem Leben" spielen würden. Ein ehemaliger Kollege von ihm, Anthropic-Experte Evan Hubinger, sprang ihm auf X bei: Die Gefahr, dass eine KI bereits in den nächsten zehn Jahren die Menschheit töten werde, liege seiner Einschätzung nach bei mehr als zehn Prozent.
Aber was hat das mit Büroklammern zu tun? Der Philosoph Nick Bostrom hatte Anfang der 2000er Jahre das Gedankenexperiment der Büroklammer-Maschine entwickelt. Es handelt sich dabei um eine hochentwickelte KI, eine sogenannte Superintelligenz, deren oberstes Ziel aufgrund ihrer Programmierung darin besteht, möglichst viele Büroklammern herzustellen.
5News hat diese Zusammenfassung aus dem öffentlichen Feed der Quelle übernommen. Der vollständige Artikel mit allen Details steht auf www.n-tv.de — der Inhalt gehört n-tv.
