Les patrons de l’IA veulent ralentir la course, mais personne ne sait vraiment comment faire

Dario Amodei a appelé ce week-end à freiner le développement des intelligences artificielles les plus puissantes. Sam Altman et Elon Musk ont soutenu cet appel, mais aucun des trois n'a précisé comment un tel ralentissement pourrait se mettre en place.

On vous en parlait la semaine dernière, Dario Amodei a proposé de confier à des évaluateurs indépendants le contrôle des modèles d'IA en cours d'entraînement, avant d'étendre progressivement cette surveillance à l'ensemble du secteur, puis aux gouvernements du monde entier. Le patron d'Anthropic redoute qu'un système capable de concevoir lui-même la génération suivante échappe à tout contrôle humain.

Mais le lendemain, le POTUS Donald Trump a affirmé que les États-Unis devançaient la Chine dans cette course. « Celui qui gagne dans le domaine de l'IA gagne », a-t-il déclaré. Pékin n'a pas non plus l'intention de freiner ses laboratoires. Alors qui va ralentir le premier ? Et comment ralentir l'IA, concrètement ?

Ed Zitron est le patron du cabinet EZ Primary Research. Il doute de la faisabilité du plan de Dario Amodei. « Personne n'a donné d'explication concrète de ce que signifie le terme "ralentissement" », a-t-il déclaré à la BBC. Selon lui, les laboratoires chinois profiteraient d'un arrêt de l'entraînement outre-Atlantique pour combler leur retard. Les marges des entreprises américaines pourraient progresser à court terme, mais leurs produits accuseraient un retard durable sur la concurrence chinoise.

Le 29 juillet dernier, plus de 1 200 salariés d'OpenAI, de Google et d'Anthropic avaient réclamé, dans un texte commun signé notamment par le scientifique en chef d'OpenAI Jakub Pachocki et par la vice-présidente de Google chargée de la sécurité Anca Dragan, une coordination internationale pour ralentir le développement des systèmes les plus avancés . Aucune entreprise ne pouvait ralentir seule, estimaient-ils, au risque de céder l'avantage à ses concurrentes.

En repoussant l'entrée en Bourse d'OpenAI après 2026, Sam Altman est le seul pour l'instant, à parler de ce ralentissement annoncé. « En ce moment, avec tout ce qui se passe en matière de sécurité, ce serait un moment mal avisé pour entrer en Bourse », a-t-il déclaré ce week-end, alors que son entreprise visait une valorisation d'environ 860 milliards d'euros.

Politiquement parlant, après le « piratage » de Hugging Face par des agents d'OpenAI , les sénateurs Richard Blumenthal et Josh Hawley ont demandé des explications à Sam Altman et deux autres élus, John Thune et Ted Cruz, proposent d'imposer des audits de sécurité indépendants aux systèmes jugés les plus dangereux.

Pour Alexander Voicu, de l'entreprise britannique Synthesia, l'incertitude vient moins des risques immédiats que du rythme d'évolution de la technologie elle-même. « Nous savons que ces systèmes gagnent en puissance, mais nous ignorons où et comment ils seront utilisés », a-t-il expliqué à la BBC, avant d'ajouter qu'une réglementation précipitée risquerait de produire des effets néfastes.

Sasha Luccioni, fondatrice de Sustainable AI, a une autre lecture de la crise actuelle.