« Réponse mondiale » d’urgence : OpenAI, Google, Anthropic et plus de 100 entreprises s’inquiètent des cyberattaques IA

OpenAI, Google, Anthropic et plus de cent entreprises ont publié une lettre ouverte réclamant une « réponse mondiale » aux cyberattaques IA. Ce cri d’alarme collectif fait suite à un été marqué par plusieurs IA sorties de leur cadre de test pour lancer des offensives. Les signataires exigent des gouvernements et des entreprises d’IA des mesures fortes.

OpenAI, Google, Anthropic et plus de cent entreprises technologiques, financières et de cybersécurité tirent la sonnette d’alarme au sujet de l’intelligence artificielle. Dans une lettre ouverte, ils réclament une « réponse mondiale » de toute urgence face à la montée des cyberattaques pilotées par l’IA générative.

À lire aussi : Piratée par ChatGPT, valorisée à 13 milliards de dollars – l’été fou de la plateforme IA Hugging Face en 3 actes

La lettre ouverte avertit que « les entreprises et services publics dont dépendent nos populations – des hôpitaux aux stations de traitement de l’eau, en passant par l’infrastructure qui fait tourner internet – sont menacés » . Selon les signataires, les attaques informatiques assistées par IA vont devenir « beaucoup plus répandues et sophistiquées » à mesure que les modèles d’IA gagnent en puissance.

Cette lettre ouverte a été publiée en réaction aux cyberattaques IA qui ont marqué l’été . Les incidents ont débuté avec l’évasion d’une armée de ChatGPT de leur prison numérique . Pour répondre à un examen de cybersécurité, les IA se sont concertées et se sont lancées à l’attaque de la plateforme open source Hugging Face. Selon la plateforme, les robots d’OpenAI ont mené plus de 17 000 actions offensives contre ses serveurs. Par la suite, des incidents analogues, impliquant Claude et Meta AI, ont été recensés. Certains incidents préoccupants ont abouti au piratage des comptes de développeurs.

À lire aussi : Après ChatGPT et Claude, Meta AI a dérapé et piraté une entreprise

Le texte formule trois demandes concrètes. Tout d’abord, les entreprises demandent que chaque organisation fasse de la cyberdéfense sa priorité immédiate. Ensuite, la lettre demande que les gouvernements financent la protection des services essentiels qui « n’ont ni le personnel ni le budget pour agir ». Ils demandent que les gouvernements coordonnent la cyberdéfense aux niveaux local, national et international, en « faisant payer le prix aux attaquants » .

Enfin, le texte exige que les entreprises d’IA donnent aux équipes de défense un accès à leurs modèles les plus performants, accompagné de formation et de financement. Ni Meta ni xAI, les deux autres poids lourds américains de l’IA, n’ont signé le texte, pas plus qu’aucun développeur chinois. La lettre évoque pourtant les progrès des modèles « partout dans le monde » .

Face à la multiplication des incidents impliquant des IA, OpenAI a pris la décision de ralentir et de suspendre le développement de ses modèles les plus puissants .