À l'ONU, grands patrons et dirigeants mondiaux veulent mieux contrôler le développement de l'IA

L’IA est l'enjeu de sécurité le plus important auquel le monde est confronté aujourd’hui. C'est en tout cas ce que pensent les patrons des principales entreprises d’intelligence artificielle basées aux États-Unis. Les PDG d’OpenAI, Anthropic et Hugging Face ont appelé le Conseil de sécurité de l'ONU à la vigilance et à la coopération internationale et la mise en place de garde-fous.

Il est très rare que des entrepreneurs américains se limitent. Mais deux risques demeurent trop importants avec l’intelligence artificielle. Si les modèles IA sont détournés par des bioterroristes d’abord, si les développeurs perdent le contrôle de leur technologie ensuite. Gérer des risques catastrophiques, c’est la mission du Conseil de sécurité. Alors, convaincu comme ses homologues d’OpenAI et de Hugging Face qu’une coopération internationale est indispensable, le PDG d’Anthropic Dario Amodei est venu proposer des pistes aux géants du secteur, rapporte notre correspondante à New York, Carrie Nooten .

« Premièrement, nous devrions commencer par des accords ciblés que tous les membres peuvent soutenir, tels que l'interdiction d'utiliser l'IA pour concevoir des armes biologiques, a commencé à lister le patron de l'entreprise à l'origine du modèle IA Claude. Deuxièmement, nous devrions mettre en place des systèmes d'évaluation et de vérification capables de suivre le rythme du développement de l'IA, afin que les États puissent avoir une visibilité sur les capacités des modèles de pointe et vérifier le respect des engagements de chacun. Troisièmement, nous devrions établir des normes mondiales communes pour tester les modèles d'IA quant aux risques de perte de contrôle et de détournement, ainsi qu'un système de notification pour les incidents liés à l'IA ayant des répercussions significatives sur la sécurité mondiale », a-t-il conclu.

À lire aussi L’intelligence artificielle au cœur de la guerre : une vertigineuse course aux armements

Il n'a pas été le seul à prendre la parole en ce sens, au cœur de cette réunion du Conseil de sécurité, initiée par la France, dans un contexte de montée des inquiétudes autour de la trajectoire de l'intelligence artificielle. L'évolution actuelle de l'IA « nécessite une attention extrême », a prévenu le patron d'OpenAI Sam Altman, pour qui l'automatisation progressive de son développement est un facteur de risques supplémentaires.

Depuis le début de l'été, OpenAI et Anthropic ont rapporté plusieurs incidents liés à leurs modèles les plus avancés, qui se sont écartés des objectifs fixés par leurs développeurs, ont triché, cherché à mentir et à dissimuler leurs actions. Un agent autonome d'OpenAI a par exemple infiltré un site internet gouvernemental australien en juin et a accédé à des fichiers publics et non publics du service de statistiques de la santé. Le plus sérieux dérapage a vu deux IA d'OpenAI sortir de leur milieu confiné lors de tests pour se rendre sur Internet et faire intrusion sur Hugging Face, une plateforme de stockage de modèles d'intelligence artificielle.

Par ailleurs, plusieurs professionnels du secteur ont alerté sur la menace que fait peser, selon eux, l'IA sur l'avenir de l'humanité.