Künstliche Intelligenz: UN-Generalsekretär fordert KI-Gespräch zwischen USA, China und EU

UN-Generalsekretär António Guterres hat die USA , China und Europa zu ernsthaften Gesprächen über die Sicherheit von künstlicher Intelligenz (KI) aufgerufen. Entscheidend sei, dass es unter den Ländern mit dem größten KI-Potenzial einen ernsthaften Dialog gebe, »und das sind nicht nur China und die Vereinigten Staaten, auch Europa gehört dazu«, sagte Guterres dem RedaktionsNetzwerk Deutschland .

»In diesem ernsthaften Dialog müssen wir begreifen, dass das Tempo der KI-Entwicklung angemessen gesteuert werden muss und dass es eine Reihe von Leitplanken braucht, an die sich alle halten.« Dass sich US-Finanzminister Scott Bessent offen zeige für ein Gespräch über K.I.-Sicherheit mit China , sei ein gutes Zeichen, sagte Guterres.

Der UN-Generalsekretär warnte vor einem ungebremsten Ausbau der Künstlichen Intelligenz : »Eine Katastrophe wäre es, wenn Staaten – und vor allem Supermächte – glaubten, sie müssten so schnell wie möglich rennen, um die jeweils andere Supermacht zu besiegen«, sagte er.

Im Kalten Krieg sei nach der Kubakrise und anderen Zwischenfällen ein Dialog zwischen den USA und Sowjetunion zustande gekommen, und schließlich sogar eine Abrüstung. »Ich glaube, wir brauchen dieselbe Art von Vertrauen zwischen den entscheidenden Staaten«, sagte Guterres. Regierungen trügen die Hauptverantwortung, um die Sicherheit von KI zu gewährleisten. »Sie sind es, die das Leben und die Sicherheit ihrer Bürger schützen müssen.«

Es ist das zweite Mal innerhalb weniger Tage, dass Guterres wegen der hohen Risiken von KI zu einer verstärkten Zusammenarbeit der Staaten aufruft. Kanada und Deutschland verkündeten bereits diese Woche eine neue Allianz zur Entwicklung einer wertebasierten KI »im Dienste der Menschheit« . In den USA hat der Gouverneur von Kalifornien, Gavin Newsom, unterdessen eine Art »Notschalter« vorgeschlagen , um KI-Systeme bei Gefahr zu stoppen. Das hatte zuvor bereits der Mitgründer des KI-Konzerns Anthropic verlangt .

Nächste Woche tagt die Vollversammlung der Vereinten Nationen in New York – und am Rande der Generaldebatte wird sich auch der UN-Sicherheitsrat mit dem Thema Künstliche Intelligenz und internationale Sicherheit beschäftigen. Bei einer für Mittwoch angesetzten Sitzung des Sicherheitsrates soll nach Informationen der Nachrichtenagentur Reuters Sam Altman, Chef des Technologiekonzerns und ChatGPT-Entwicklers OpenAI, persönlich teilnehmen.

In seinen Äußerungen werde sich Altman voraussichtlich ‌auf die ⁠Notwendigkeit internationaler Koordination und gemeinsamer Sicherheitsstandards konzentrieren, sagte ein Unternehmenssprecher der Nachrichtenagentur Reuters. Frankreich hatte die Sitzung einberufen, um auf die Gefahren der rasch fortschreitenden Technologie aufmerksam zu machen. Ziel sei es auch, die Risiken eines Kontrollverlusts zu analysieren.

Die Chefs der größten KI-Konzerne haben die Sorge vor möglicherweise verheerenden Sicherheitslücken in der Entwicklung von künstlicher Intelligenz in den vergangenen Tagen befeuert .