« Dario a raison » : ce que pourrait cacher l’étrange union sacrée des géants de l’IA

Le 12 septembre, Dario Amodei publiait « We Must Pace the Frontier » , une tribune appelant l’industrie à ralentir volontairement le rythme des avancées en IA. Le patron d’Anthropic part d’un constat : il estime que les capacités des modèles progressent désormais plus vite que les outils permettant d’évaluer et de maîtriser leurs risques. Son idée n’est pas de décréter un moratoire général, mais de laisser la recherche en sécurité et les institutions rattraper leur retard.

Pour ce faire, il déroule un dispositif en trois volets : installer des évaluateurs indépendants au sein des laboratoires, avec un accès comparable à celui des employés ; coordonner les efforts des entreprises d’IA « opérant dans des pays démocratiques » autour de standards de sécurité communs ; puis engager des discussions internationales, notamment avec la Chine, sur les limites à ne pas dépasser.

Anthropic est coutumière du fait de tirer la sonnette d’alarme et d’appeler à la régulation. Mais cette fois, c’est la vague de soutien qui a particulièrement surpris. « Dario is right » , a écrit Musk sur X quelques heures après la publication. Sam Altman a suivi le mouvement, en surenchérissant le 13 septembre.

Si le mouvement surprend, tant ces trois rivaux ont l’habitude de se tirer dessus à boulets rouges , la convergence reste cohérente. Musk comme Altman avaient déjà appuyé dans ce sens.

Dès 2023, le patron de SpaceX avait lui-même signé, en vain, une lettre appelant les laboratoires à suspendre pendant six mois l’entraînement de systèmes.

Et depuis quelques semaines, c’est au tour d’OpenAI d’accumuler les appels en ce sens, notamment après l’incident Hugging Face . En portant notamment une lettre commune mettant en garde contre un développement de l’IA plus rapide que notre capacité à la contrôler.

À cela, s’ajoute l’attention du grand public, décuplée depuis la démission très médiatisée de Jacob Coxon, chercheur passé par OpenAI puis Anthropic, qui a affirmé le 9 septembre que les personnes qui construisent l’IA craignent qu’elle ne mette l’humanité en danger d’ici la fin de la décennie.

Son fil sur X, vu des dizaines de millions de fois, a replacé le débat sur un curseur extrême : l’IA doit-elle ralentir pour éviter de tous nous tuer ?

Et votre vie numérique devient sereine Bitdefender Premium Security est une solution de cybersécurité européenne qui vous protège automatiquement contre les pirates et toutes les menaces du web. Profitez de vos activités en ligne en toute tranquillité Sponsorisé La cybersécurité est en promo Un accord mondial improbable ? Avant de juger les intentions réelles derrière ces signaux d’alarme, tentons d’évaluer la possibilité de voir ces initiatives prendre forme.

Pour les géants américains de l’IA, la première difficulté se trouve au sein même de leur pays. Washington considère l’intelligence artificielle comme un enjeu de compétition stratégique avec Pékin, et Donald Trump a déjà rejeté l’idée d’un ralentissement unilatéral, estimant qu’il risquerait de donner un avantage aux entreprises chinoises.