IA : Donald Trump à contre-courant des patrons du secteur

Donald Trump a rejeté, dimanche 13 septembre, les appels des plus grands dirigeants de l'intelligence artificielle à ralentir le développement des modèles d'IA.

"Celui qui gagne l'IA, gagne", a martelé le milliardaire américain aux journalistes en marge de l'Irish Open à Dublin, affirmant que les Etats-Unis devaient absolument conserver leur avance sur la Chine dans ce secteur.

Tous ceux qui alertent sur les risques de cette technologie sont des "forces très négatives", a-t-il tancé, ajoutant que les scénarios noirs évoqués ces derniers jours "n'arriveront pas".

Une fin de non-recevoir à une série de prises de position particulièrement inattendues au sein de l'industrie.

Samedi, Dario Amodei, le patron d'Anthropic, a publié un texte proposant de ralentir le rythme auquel les entreprises améliorent les capacités de leurs modèles d'IA.

Il y défend notamment un dispositif permettant à des évaluateurs indépendants de contrôler les mesures de sécurité des entreprises, ainsi qu'une coordination entre les acteurs du secteur et entre les pays.

Sa proposition a rapidement reçu le soutien de Sam Altman, patron d'OpenAI, et même d' Elon Musk , fondateur de xAI.

"10% de chances d'extinctions" pour l'humanité ? L'inquiétude grandit au sein du secteur, notamment après la démission début septembre d'un chercheur d'Anthropic , Jacob Coxon, qui a dénoncé dans un post sur X la manière dont les entreprises développent leurs modèles et a appelé à une coordination internationale face à ce qu'il considère comme une menace.

Evan Hubinger, responsable de la recherche sur l'alignement chez Anthropic, a abondé dans son sens, estimant à plus de 10 % le risque que l'IA provoque la disparition de l'humanité dans les dix prochaines années.

Un rapport d'Anthropic est également venu alimenter ces inquiétudes.

Publié le 10 septembre, il documente l'utilisation de ses modèles par des acteurs en Chine, en Russie, en Iran et au Yémen pour mener des cyberattaques, surveiller des dissidents et concevoir des missiles, des bombes et des drones.

Le rapport fait aussi état de cas où les modèles auraient été utilisés pour tenter de concevoir des armes biologiques .

L'entreprise dit avoir bloqué plusieurs de ces usages.

Le débat s'invite dans la campagne américaine Le débat a rapidement gagné le terrain politique américain, à moins de deux mois des élections de mi-mandat du 3 novembre.