Künstliche Intelligenz: Staatschefs fordern strenge Kontrolle hochentwickelter KI

Staats- und Regierungschefs fordern eine globale Kontrollbehörde für leistungsfähige KI-Systeme.

Was der neue Drei-Punkte-Plan vorsieht.

Angesichts rasanter technologischer Fortschritte und jüngster Sicherheitsvorfälle dringt eine Gruppe von 22 Staats- und Regierungschefs auf eine schärfere internationale Aufsicht über besonders leistungsfähige Systeme Künstlicher Intelligenz.

Eine am Rande der Generalversammlung der Vereinten Nationen in New York vorgestellte Erklärung verlangt verbindliche Sicherheitsregeln für Entwickler sowie den Aufbau einer weltweiten Kontrollbehörde nach dem Vorbild internationaler Aufsichtsorganisationen.

Zu den Erstunterzeichnern des Aufrufs gehören neben den Initiatoren aus Finnland und Norwegen auch Bundeskanzler Friedrich Merz (CDU) sowie die Präsidentin der Europäischen Kommission, Ursula von der Leyen.

Bürgerrechtler kritisieren das Vorhaben hingegen als zu zögerlich und fordern stattdessen harte Strafen gegen die Führungskräfte führender Technologie-Unternehmen.

Sorge vor Kontrollverlust über selbstständige Programme Auslöser des diplomatischen Vorstoßes, der maßgeblich vom finnischen Präsidenten Alexander Stubb und dem norwegischen Regierungschef Jonas Gahr Støre vorangetrieben wurde, sind Berichte über besorgniserregende Fähigkeiten neuester Computerprogramme.

In der Erklärung heißt es, man habe zuletzt beobachten müssen, wie hochleistungsfähige Systeme eingebaute Schutzvorkehrungen umgingen, Sicherheitslücken ausnutzten und unbefugten Zugriff auf reale Computernetze erlangten.

Führende Forscher und Unternehmenschefs warnten bereits davor, dass das Entwicklungstempo die menschliche Kontrollfähigkeit überholen könnte.

Künstliche Intelligenz müsse daher zwingend unter menschlicher Leitung, Aufsicht und Kontrolle bleiben und im Einklang mit dem Völkerrecht stehen.

Drei-Punkte-Plan für weltweite Schutzstandards Das Papier formuliert drei zentrale Forderungen: Hersteller müssen nachvollziehbare Sicherheitsvorkehrungen treffen und unabhängigen Fachleuten vor der Freigabe neuer Programme umfassende Prüfungen ermöglichen.

Zudem sollen Regierungen einheitliche Vorgaben schaffen und schwerwiegende Störfälle gegenseitig melden.

Schließlich fordern die Unterzeichner die Staaten der Vereinten Nationen auf, den Aufbau einer weltweiten Einrichtung zu prüfen, die verbindliche Maßstäbe setzt, Kontrollen durchführt und Staaten zusammenruft, sobald bestimmte Leistungsgrenzen überschritten werden.

Neben europäischen Ländern haben sich unter anderem Australien, Kanada, Kenia, Singapur und Südafrika angeschlossen.