Le « plaidoyer vibrant » du PDG d’Anthropic pour ralentir les progrès de l’intelligence artificielle

“ Il est temps de lever le pied sur le développement de l’intelligence artificielle” . Ce n’est pas exactement ce qu’a écrit Dario Amodei, le PDG d’Anthropic, l’un des leaders de l’intelligence artificielle mais le Wall Street Journal a préféré le paraphraser. Dans “un essai de 4 000 mots” , comme le présente NBC, Amodei a appelé à “ralentir le rythme auquel nous améliorons les capacités des modèles d’intelligence artificielle” et à “utiliser sagement le temps que nous gagnons”. Pourquoi ? “Je crains que d’ici 6 à 12 mois, des modèles soient capables de prendre le contrôle de l’intégralité d’internet, ce qui pourrait entraîner des centaines ‌de milliards de dollars de dégâts” , ‌explique-t-il.

Ce n’est pas la première fois qu’Amodei évoque les risques éventuels de l’IA, rappelle le New York Times mais il s’agit là “d’un des plaidoyers les plus vibrants à ce jour pour des mesures d’urgence de la part d’un cadre d’une entreprise de l’IA” . Politico y voit également “une escalade notable des figures les plus importantes de la course à l’IA” .

Le contexte de cet appel à agir compte. “Le débat sur le danger de l’IA s’est intensifié cette semaine” , note TechCrunch. “C’est la semaine au cours de laquelle le débat sur le danger de l’IA a fait son entrée dans la conscience du public” , confirme Axios. Les tweets d’un ancien chercheur d’Anthropic ont fait beaucoup parler. Il y raconte que les entreprises de l’IA “jouent avec nos vies” et que certains de leurs dirigeants pensent sincèrement qu’ “elle pourrait tous nous tuer d’ici la fin de la décennie” . Le message d’Amodei n’est pas “une réponse directe” à cette alerte, constate Axios . Il parle en revanche de la cyberattaque menée par des modèles d’OpenAI contre la start-up Hugging Face il y a quelques semaines et de la vitesse à laquelle l’IA a progressé récemment.

“Nous avons entendu de plus en plus d’avertissements de chercheurs de l’IA sur les dangers de l’intelligence artificielle” , souligne TechCrunch . “Dario Amodei ne s’en fait pas seulement l’écho, il présente trois grandes stratégies” , ajoute le site. D’abord, il propose d’impliquer des personnes chargées d’évaluer les risques au sein de ces entreprises. Ensuite, il suggère d’établir des standards communs dans les nations démocratiques et il recommande de trouver un moyen de collaborer avec les gouvernements autoritaires sur ces questions.

Tout ce qu’il faut savoir sur l’actualité de la Silicon Valley, vue par les médias américains

Tout ce qu’il faut savoir sur l’actualité de la Silicon Valley, vue par les médias américains

Sam Altman, le cofondateur d’OpenAI, et Elon Musk, à la tête - entre autres - de SpaceXAI, ont rapidement approuvé ses idées. “Dario a raison” , a tweeté Musk. “Je suis d’accord avec Dario” , a commenté Altman. “Un consensus rare au sein d’entreprises concurrentes” , remarque Politico . Le Washington Post estime que cette unité affichée “augmente les chances de voir l’industrie trouver des moyens d’œuvrer ensemble pour ce ralentissement” .