Künstliche Intelligenz: „Keiner will, dass die Menschheit zerstört wird“

Diese Zusammenfassung wurde mit der Unterstützung einer generativen künstlichen Intelligenz erstellt. Lesen Sie mehr über unseren Umgang mit KI.

Digitalminister Karsten Wildberger fordert klare Grenzen für KI-Agenten – und eine globale Regulierung nach dem Vorbild der Internationalen Atomenergiebehörde.

Die rasante Entwicklung von KI bereitet den europäischen Regierungsspitzen Kopfzerbrechen. Europa ist allen Risiken voll ausgesetzt, hat aber wenige Hebel mitzureden. „Wir beherrschen die entscheidenden Wertschöpfungsstufen nicht ausreichend“, sagte Bundesdigitalminister Karsten Wildberger (CDU) im Interview mit SZ Dossier .

Eines der größten Risiken sei, dass die Technologie „gegen uns verwendet“ werde. Europa dürfe sich in der Debatte um KI-Sicherheit daher nicht „nur philosophisch beteiligen“, sondern müsse diese aktiv mitgestalten. „Wir wollen KI, die anders gebaut ist“, sagte Wildberger. „Das können wir tun.“ Daran werde geforscht und gearbeitet.

Wildberger äußert sich damit auch zur jüngsten Warnung führender KI-Experten aus Tech-Konzernen , die Technologie könne zur Gefahr für die Menschheit werden und sie gar auslöschen. Anthropic -Chef Dario Amodei hatte am Wochenende eine weltweite Drosselung des Forschungstempos gefordert. Auch der Nationale Sicherheitsrat unter der Leitung von Bundeskanzler Friedrich Merz (CDU) beschäftigte sich an diesem Montag mit dem „sicherheitspolitischen Aspekt“ künstlicher Intelligenz, wie die Bundesregierung mitteilte.

„Die Vorteile sind exorbitant hoch, die Risiken aber ebenso“, sagte Wildberger. „Es ist zwar schon länger absehbar, aber mich überrascht doch, wie schnell die Entwicklungen voranschreiten.“

Die Risiken seien nicht unterschätzt, sondern nicht gehört worden. Wildberger sprach sich für eine globale KI-Kontrollbehörde nach dem Vorbild der Internationalen Atomenergiebehörde (IAEA) aus. „Man muss sich zuerst auf Prinzipien verständigen, die sich auch Unternehmen oder Entwickler – und zwar unabhängig von gesellschaftlichen Systemen – zu eigen machen“, sagte er.

Diese Behörde müsse auch technische Fähigkeiten haben, um bei der Geschwindigkeit der Entwicklungen mithalten zu können. „Am Ende muss man sich verständigen, inwieweit man gegenseitige Transparenz auf internationaler Ebene erreichen kann“, sagte Wildberger. Die Schnittmenge sei klar: „Keiner will, dass die Menschheit zerstört wird.“ Das sähen „alle rational denkenden Menschen so“.

„Am Ende des Tages kriegen wir das nur mit einer Übereinkunft zwischen den großen Playern USA und China gelöst“, sagte Wildberger. Eines der größten Risiken sei, dass die Technologie in falsche Hände gerate: „Wir dürfen nicht unterschätzen, dass es am Ende nicht um die Maschinen geht, sondern was Menschen mit ihnen machen.“

Der Minister warnte insbesondere vor agentischen Fähigkeiten, die sich nicht mehr kontrollieren ließen. Etwa dann, wenn die Technologie in der Lage sei, sich aus einer geschützten Umgebung zu befreien oder Agenten plötzlich anfingen, zu kooperieren und sich selbständig zu machen.