OpenAI: KI-Agent hackt sich eigenständig in australische Regierungswebsite

»Besorgnis«, »Enttäuschung«, »inakzeptabel«: Australiens Premierminister Anthony Albanese hat mit deutlichen Worten auf einen Hackerangriff reagiert. Seinen Angaben zufolge verschaffte sich ein autonomes KI-Programm des US-Unternehmens OpenAI unerlaubt Zugang zu einer Website der Regierung. Zu dem Vorfall kam es demnach bereits am 18. Juni; OpenAI habe die australische Regierung erst im September informiert.

Der auf künstlicher Intelligenz (KI) basierende Agent habe auf öffentliche und nicht öffentliche Dateien der Website zugegriffen, auf der Statistiken der Gesundheitsbehörde (Medicare) gelistet waren, sagte Albanese am Mittwoch Journalisten in New York. Der Agent habe einen Weg gefunden, die Datenschutzvorkehrungen zu umgehen »und hat, wenn man so will, ein ›Nein‹ als Antwort nicht akzeptiert«.

Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.

Albanese erklärte, nach derzeitigem Kenntnisstand seien keine personenbezogenen Daten abgerufen worden. Die Ermittlungen dazu dauerten aber an. Und: Möglicherweise seien drei weitere Websites betroffen. Albanese nannte das Australian Institute of Health and Welfare, das New South Wales Bureau of Crime Statistics and Research sowie das Gesundheitsministerium des Bundesstaates Victoria.

Die Situation sei »inakzeptabel«, so Albanese. Er habe mit OpenAI-Chef Sam Altman gesprochen, »um die große Besorgnis Australiens über diesen Vorfall zum Ausdruck zu bringen«. Er habe zudem seine »Enttäuschung darüber zum Ausdruck gebracht, dass das Unternehmen viel zu lange gebraucht hat, um die Regierung über die Geschehnisse zu informieren«.

»Es dauerte bis zum 10. September, bis überhaupt eine Benachrichtigung erfolgte«, sagte Albanese. Dabei habe es sich um eine E-Mail gehandelt, die »lediglich an das allgemeine Postfach geschickt« worden sei.

OpenAI teilte wenig später mit, dass laut einer kürzlich durchgeführten Überprüfung »mehrere australische Regierungswebsites« betroffen gewesen seien. Dabei seien »Aktivitäten im Zusammenhang mit verschiedenen Websites und Diensten der australischen Regierung« festgestellt worden.

OpenAI-Modelle hätten während einer internen Bewertung »versucht, Antworten und verfügbare Statistiken zu Fragen über Australien abzurufen«, hieß es in der Stellungnahme weiter. »Dabei führten unsere Modelle Aktionen aus, die wir nicht beabsichtigt hatten.« Zu den abgerufenen Informationen gehörten demnach Gesundheitsstatistiken und interne Dateinamen. Man habe keine Hinweise darauf, dass auf Patientenakten zugegriffen worden sei.

Bei einer Sitzung des Uno -Sicherheitsrats zu KI hatten führende Vertreter der Technologiebranche nur wenige Stunden zuvor erneut Risiken eingeräumt und vor KI-Gefahren »für die gesamte Menschheit« gewarnt (mehr hier ).

Anthropic-Chef Dario Amodei und Altman hatten erst vor Kurzem dazu aufgerufen, das Tempo zu »verlangsamen, mit dem wir die Fähigkeiten von KI-Modellen verbessern«. Die dadurch »gewonnene Zeit« solle sinnvoll genutzt werden, um die durch KI entstehenden Risiken besser zu verstehen und einzudämmen.