OpenAI, Google et Anthropic prépareraient leur propre gendarme de l’IA

OpenAI, Google et Anthropic travailleraient sur l’élaboration d’un organisme centré sur le contrôle de l’intelligence artificielle. Indépendamment du gouvernement américain, des entreprises farouchement concurrentes établiraient ainsi elles-mêmes les normes qui contrôlent l’IA.

OpenAI, Google, Anthropic et plus de 100 entreprises ont exigé une « réponse mondiale » d’urgence aux cyberattaques liées à l’IA. De son côté, OpenAI a appelé à l’instauration de normes nationales obligatoires en matière de sécurité de l’IA, tout en instaurant des garde-fous pour GPT-6 Astra afin d’empêcher son dernier modèle d’échapper à tout contrôle. Les messages d’alerte demandant des régulations étatiques se multiplient, mais restent pour l’instant sans réponse. Face à ce manque de réactivité, OpenAI, Anthropic et Google réfléchiraient à la création d’ un organisme de contrôle de l’IA . Ces trois grands fournisseurs d’IA établiraient donc eux-mêmes leurs propres normes de sécurité.

Dans un article de blog publié le 9 septembre dernier et intitulé « La fenêtre politique de l’IA est ouverte. Nous devons agir », OpenAI a appelé à l’instauration de normes nationales obligatoires en matière de sécurité de l’IA. Le problème est que Donald Trump ne se montre pas favorable à ces potentielles normes qui ralentiraient le développement de l’intelligence artificielle. Pourquoi ralentir alors que la Chine continue ses avancées de son côté, sans mettre en place de régulations strictes ?

Mais OpenAI ne semble pas vouloir attendre un feu vert du gouvernement américain pour mettre en place des normes de sécurité . Dans l’article de blog, l’entreprise annonçait également vouloir promouvoir « des normes pilotées par l’industrie ». OpenAI indiquait notamment : « Nous collaborerons avec d’autres laboratoires de pointe pour faire progresser les normes d’IA de pointe, en lançant dès maintenant une initiative volontaire, avec ou sans soutien gouvernemental ».

Mais qui sont ces « laboratoires de pointe » ? Selon The Information, il s’agit notamment d’ Anthropic et de Google. En effet, le média américain rapporte qu’Anthropic, OpenAI et Google auraient discuté en coulisse de la création d’ un organisme centré sur la régulation de l’intelligence artificielle . Cet organisme, indépendant de l’État américain, établirait ses propres normes et instaurerait ses propres outils de sécurité pour évaluer les modèles d’IA avancés et leurs risques . OpenAI s’était déjà dit prêt à lever le pied , tout en refusant d’être le seul à le faire. La création d’un tel organisme pourrait permettre d’aligner les principaux fournisseurs américains d’intelligence artificielle en matière de sécurité. Du moins, en théorie.

Toujours selon The Information, qui a pu consulter une personne proche du dossier, Sam Altman estime que les grands laboratoires d’IA devront établir cette structure par eux-mêmes , sans l’appui du gouvernement américain. Si l’intention a de quoi rassurer les plus craintifs face aux capacités de l’IA, il reste à voir comment elle peut être appliquée dans les faits.