KI-Agent von OpenAI hackt australische Regierungswebseite

Ein KI-Programm des US-Unternehmens OpenAI hat eine Webseite der australischen Regierung gehackt.

Der auf Künstlicher Intelligenz (KI) basierende Agent habe auf öffentliche und nicht öffentliche Dateien der für Gesundheit zuständigen Statistikbehörde zugegriffen, sagte Australiens Premierminister Anthony Albanese am Mittwoch (Ortszeit) am Rande der UN-Generalversammlung in New York.

OpenAI bestätigte den Vorfall.

Angesichts der rasant fortschreitenden Entwicklung der Technologie warnten die Chefs mehrerer KI-Unternehmen vor dem UN-Sicherheitsrat erneut vor den Risiken.

Der Vorfall sei „inakzeptabel“, sagte Albanese zu dem KI-Angriff, der sich seinen Angaben zufolge bereits im Juni ereignet hatte.

Demnach machte OpenAI die australische Regierung aber erst am 10.

September auf den Vorfall aufmerksam - und zwar in einer E-Mail an ein allgemeines Postfach, das nur einmal am Tag überprüft wird.

Das KI-Tool von OpenAI habe zum Thema Gesundheit recherchiert und dabei versucht, auf vertraulicher Daten zuzugreifen, sagte Albanese .

Als der Zugriff blockiert worden sei, habe es nach Wegen gesucht, die Sperre zu umgehen. „Ich denke, OpenAI ist sich bewusst, dass es bessere Protokolle einführen muss“, betonte Albanese.

Das Projekt sei „in Bereiche vorgedrungen, in die es nicht hätte vordringen dürfen“.

Der Premierminister erklärte, es gebe keine Hinweise auf eine weitergehende Kompromittierung des Netzwerks der australischen Regierungsbehörden.

Nach derzeitigem Kenntnisstand seien keine personenbezogenen Daten abgerufen worden.

Die Ermittlungen dazu dauerten Albanese zufolge aber an.

Unter anderem wollten die Forensiker herausfinden, welche anderen Regierungssysteme betroffen sein könnten, sagte er.