KI-Phishing: Warum Klickraten laut TU-Berlin-Studie um den Faktor 3 steigen

Eine aktuelle Studie zeigt, wie kleine, lokale KI-Modelle Phishing-Mails drastisch gefährlicher machen. LLMs konnten die Phishing-Mails so gut personalisieren, dass die Klickrate um den Faktor drei erhöht wurde.

Die zunehmenden Fähigkeiten von KI-Modellen verändern nicht nur die legale Wirtschaft. Auch die Schattenwirtschaft des Cybercrime-Untergrundes macht sich den technischen Wandel zunutze. „Die zunehmende Verbreitung von KI hat die Bedrohungslandschaft grundlegend verändert“, warnt beispielsweise Interpol in einem aktuellen Bericht . „Cyberkriminelle setzen mittlerweile KI-gestützte Tools ein, um Phishing-Kampagnen zu automatisieren, überzeugende Deepfakes für Identitätsbetrug und Social Engineering zu erstellen, fiktive Identitäten für Finanzbetrug zu generieren und der Erkennung durch herkömmliche, signaturbasierte Sicherheitssysteme zu entgehen.“

Wie gefährlich diese Entwicklung tatsächlich ist, haben Forschende der TU Berlin, des französischen Inria-Instituts und der Ruhr-Universität Bochum jetzt in einer aktuellen Studie gezeigt. Mithilfe kleiner, lokaler KI-Modelle konnten die Forschenden den Anteil erfolgreicher Angriffe von knapp vier auf rund zehn Prozent steigern. Das Sicherheitssystem, das solche Angriffe eigentlich abfangen sollte, schlug dagegen nur bei einer einzigen von knapp 4000 KI-Mails an. Was hat diese Mails so effizient gemacht?

Wolfgang wechselte nach dem Physik-Studium und Promotion 1998 zum Journalismus. Bis 2005 arbeitete er bei der c't, um dann als Redakteur der MIT Technology Review zu wirken. Dort betreut er ein breites Themenspektrum von Künstlicher Intelligenz und Robotik über Netzpolitik bis zu Fragen der künftigen Energieversorgung.