Künstliche Intelligenz: OpenAI kündigt nach KI-Hackerangriff stärkere interne Kontrollen an

Der ChatGPT-Entwickler OpenAI ​ will nach einem Hackerangriff durch eines seiner eigenen KI-Systeme die Entwicklung seiner Modelle für künstliche Intelligenz (KI) verlangsamen. Demnach verschiebt der Konzern den bisher größten Testlauf eines KI-Modells in seiner Geschichte. Ein Großteil der Arbeiten an Astra, dem nächsten großen Modell des Unternehmens, ist damit vorerst gestoppt.

Vorher solle überprüft werden, ob sich das Modell wie geplant verhalte, teilte das Unternehmen mit. Außerdem sollen Forschungs- und Trainingssysteme überarbeitet werden, indem zusätzliche KI-Systeme eingesetzt werden, um ‌die ⁠Aktivitäten der Agenten zu überwachen.

Das Unternehmen hatte im Juli bekannt gegeben, dass sich ein KI-Agent während eines Sicherheitstests selbständig mit dem Internet verbunden und einen Hackerangriff auf die Programmierplattform Hugging Face unternommen habe. Es habe sich um einen »nie dagewesenen Cybervorfall« gehandelt, teilte das Unternehmen mit.