Face à "l'IApocalypse", un traité de non-prolifération est la seule solution

L’"IApocalypse" fait parler d'elle.

Deux événements ont mis le feu aux poudres.

D’une part, l’attaque de la société Hugging Face (qui propose des solutions d’IA) par des IA d’OpenAI (le géant de l’IA générative qui détient ChatGPT).

L’attaque a été lancée de manière autonome par les modèles d’OpenAI sans avoir été commanditée par des responsables humains.

D’autre part, la démission fracassante de Jacob Coxon, jeune ingénieur d’Anthropic (l’autre géant de l’IA générative qui commercialise Claude).

Coxon a quitté ses fonctions en postant une série de messages sur X s’inquiétant que l’on s’achemine à grands pas vers une "superintelligence" capable de "tous nous tuer d’ici à la fin de la décennie".

Depuis, toute l’attention se focalise sur le risque, bien réel, de perte de contrôle de l’IA .

Au point que, pour la première fois, les patrons des trois plus importantes entreprises du secteur, à savoir Sam Altman (OpenAI), Dario Amodei (Anthropic) et Elon Musk (xAI) aient publiquement exprimé leur accord pour ralentir le développement des modèles les plus puissants.

Sans parler de ralentissement, un encadrement du développement de l’IA est-il réaliste ? De prime abord, c’est le scepticisme qui semble devoir s’imposer.

Les géants de l’IA générative, de même que, sur le plan géopolitique, la Chine et les Etats-Unis, sont lancés dans une course au développement de l’IA la plus puissante.

Ce qui n’est évidemment pas propice à la coopération.

C’est le fameux dilemme du prisonnier.

Les acteurs doivent arbitrer entre une coopération bénéfique à tous et une fuite en avant qui pourrait leur permettre de rafler la mise.

Dans ce cas de figure, c’est évidemment la fuite en avant qui l’emporte.