"L'IA est très importante pour tout, mais pas n'importe comment": Laurence Devillers, professeure et chercheuse en IA, appelle à juguler la menace de l’IA, par la réflexion et l’engagement humains

Professeure en IA à Sorbonne Université et chercheuse au CNRS, Laurence Devillers croit à la force de la raison et de la pensée. Elle pense aussi qu’il est nécessaire que l’humanité se saisisse de l’IA, la fasse sienne, en la contrôlant et s’assurant qu’elle sert le bien collectif et pas seulement quelques intérêts milliardaires. Au fil des ans, les géants de la tech ont endossé bien des rôles: coeurs palpitants de l’innovation, big brothers en puissance, prédicateurs d’un bonheur à chercher toujours plus loin, zélés solutionnistes à l’assaut d’une productivité à sans cesse faire croître, puis, plus récemment, porteurs plus ou moins responsables d’une révolution qui semble tous nous dépasser, l’Intelligence Artificielle (IA).

Au point que de nombreuses voix ont commencé à pointer les dangers qui semblent tout droit venus d’une nouvelle de science-fiction. Depuis longtemps, Yoshua Bengio , un des nombreux pères de l’IA, dont le regard critique porte loin , a souligné le besoin de recadrer l’IA, de mettre en pause ce qui ressemblait de plus en plus à une course en avant.

En août dernier, Anthropic sortait son deuxième rapport de risque . Au fil de ses 186 pages, le géant décrivait entre autres des scénarios où "si les modèles d’IA développent des objectifs dangereux tout en automatisant massivement la R&D dans des domaines clés, ils pourraient causer des dommages sans limites — allant jusqu’à faire perdre entièrement à l’humanité le contrôle de la civilisation". Une note de plus dans une petite musique lancinante, menaçante et de plus en plus présente, en sus de celle qui nourrit une course géopolitique à l’IA.

Mais il a fallu un thread sur X, anciennement Twitter, d’un jeune ingénieur en IA inconnu, qui a quitté OpenAI puis a démissionné de son poste chez Anthropic, pour que tout à coup le monde semble prendre conscience de la possibilité d’une "menace civilisationnelle ".

Pour en savoir plus, vous pouvez également consulter notre politique de protection des données personnelles . Sans votre consentement, ce contenu ne peut pas être affiché

Une double détonation même, puisqu’un responsable de la sécurité d’Anthropic confirmait ses propos et chiffrait ainsi le risque de voir l’IA détruire l’humanité: "Personnellement, je pense que la probabilité est supérieure à 10% au cours de la prochaine décennie".

Un pronostic que Geoffrey Hinton, autre père fondateur de l’IA moderne, ne jugeait pas "déraisonnable" dans une interview accordée à la BBC , il y a quelques jours. Cet ancien de Google, qu’il a quitté pour pouvoir "s’exprimer librement sur les risques de l’IA" et prix Turing 2018 aux côtés de Yann Le Cun et Yoshua Bengio, apporte ainsi sa voix à cette récente déflagration.

"En ce moment, il y a quand même une grande tendance à faire du show avec tout ça", se positionne immédiatement Laurence Devillers, professeure en IA à Sorbonne Université et chercheuse au CNRS, face à ce buzz qui, selon elle, n’apporte rien.

Elle dénonce pour autant une compétition, où personne ne veut s’arrêter tant que tout le monde ne le fait pas.