Künstliche Intelligenz: Auch Google meldet Cyberattacke seines KI-Modells Gemini

Das ​KI-Modell Gemini von Google hat sich bei einem Test zur Cybersicherheit ungeplant und eigenständig in drei Unternehmen gehackt. Das berichteten das Wall ​Street Journal und die New York Times mit Verweis auf Konzernangaben. Google ist damit der vierte Entwickler von künstlicher Intelligenz (KI), dessen Software aus einer Testumgebung ausgebrochen ist und einen Hackerangriff unternommen hat. Zuvor hatten OpenAI, Anthropic und der Facebook-Konzern Meta solche Vorfälle gemeldet.

Google machte die bereits Monate zurückliegenden Vorfälle erst auf Nachfrage des Wall Street Journal öffentlich. Demnach verschaffte sich Gemini im Mai in drei Fällen Zugang zu geschützten Computersystemen anderer Unternehmen, deren Namen nicht genannt werden. In einem davon erriet die KI Passwörter, um in die Computer einzudringen. In den beiden anderen fand sie Zugangsdaten in einer Datenbank, wie das Wall Street Journal unter Berufung auf Google schreibt. In allen drei Fällen habe die KI danach selbstständig ihre Attacke wieder eingestellt.

Die für IT-Sicherheit zuständige Google-Managerin Heather Adkins teilte mit, die KI habe während einer Standardüberprüfung durch die unabhängige Firma Irregular online nach öffentlichen ⁠Informationen gesucht. Dabei ​habe das Modell Zugangsdaten für drei ‌Websites erraten, von denen ‌es annahm, dass sie ​Teil des Tests seien. Die betroffenen Unternehmen seien informiert worden, teilte ​Adkins weiter mit.

Aus Sicht des Internetkonzerns sei es nicht notwendig gewesen, die Zwischenfälle öffentlich zu machen, da dabei kein Schaden entstanden sei. Zudem habe die KI die Attacken sofort beendet, als ihr klar geworden sei, dass sie in Systeme eines echten Unternehmens eingedrungen sei – und nicht eines, das eine Testsimulation war.

In dem bisher aufsehenerregendsten Fall war eine künstliche Intelligenz des ChatGPT-Entwicklers OpenAI bei einem Test aus einer abgesicherten Umgebung ausgebrochen und ungeplant in Computer einer anderen KI-Firma, der Plattform HuggingFace, eingedrungen. Das hatte den Rivalen Anthropic veranlasst, Testläufe seines eigenen KI-Modells Claude zu überprüfen, wobei weitere Vorfälle ans Licht kamen . Auch Meta räumte danach ein , dass KI des Konzerns sich wegen einer Fehlkonfiguration des Systems bei einem Testpartner in Computer eines anderen Unternehmens gehackt habe.