Une cyberattaque menée par des agents IA sans intervention humaine frappe des sites gouvernementaux à Taïwan

C'est une première, qui marque un pas de plus dans le recours à l'intelligence artificielle (IA).

Des pirates informatiques suspectés d'être liés à la Chine ont utilisé des outils d’IA accessibles au public pour compromettre des sites gouvernementaux à Taïwan , sans aucune intervention humaine.

Pendant quatre jours, au début du mois de juillet, le logiciel utilisé a déployé simultanément jusqu’à huit agents autonomes qui ont cartographié, sans aucune directive, 21 systèmes gouvernementaux, recherché des vulnérabilités et modifié leur stratégie lorsqu’ils étaient bloqués, rapporte le Financial Times .

Cette "équipe" 100 % virtuelle a compromis au moins 85 comptes d’utilisateurs gouvernementaux et extrait plus de 2 500 dossiers de personnels, avant d’étendre l’attaque à l’agence taïwanaise chargée de la sûreté nucléaire et à au moins sept entreprises du secteur de l’énergie, selon des chercheurs de Dream, une entreprise israélienne spécialisée dans l’IA qui a été la première à identifier l’intrusion.

Pour ces spécialistes, l’aspect le plus frappant de cette attaque était la manière dont l’outil classait et réévaluait en permanence les différentes voies d’attaque possibles en fonction des éléments dont il disposait.

Lorsqu’une méthode d’attaque échouait, l’outil déployait en effet un autre agent pour parcourir Internet à la recherche d’informations et élaborer une nouvelle approche, comme l’aurait fait un hacker humain.

Des modèles plus puissants "Les modèles continuent de gagner en puissance, y compris les modèles open source, rendant des capacités de raisonnement avancées accessibles à tous ceux qui disposent du matériel nécessaire", avertit l'entreprise, qui estime que les gouvernements actuels "ne sont pas prêts à faire face à cette menace émergente".

"Nous voyons de plus en plus d’acteurs malveillants exploiter l’IA pour des opérations offensives autonomes.

Mais construire un système qui fonctionne à ce niveau demande plus de travail que de 'simplement' exécuter un modèle.

Il exige un ajustement minutieux (...) Cette même sophistication doit désormais exister du côté de la défense", poursuit-elle.

Cet événement intervient alors que les secteurs de l’IA et de la cybersécurité s’interrogent sur la capacité des modèles les plus récents à identifier et exploiter des vulnérabilités informatiques.

Anthropic, OpenAI et Meta ont également signalé que de nouveaux modèles d’IA avaient lancé des cyberattaques inattendues lors de tests.

Mais selon Amir Becker, directeur de la stratégie de Dream, jamais une attaque "autonome de bout en bout" contre une cible gouvernementale n'avait été menée jusqu'à juillet.