Intelligence artificielle : pompiers pyromanes

Hypocrisie ou alerte sincère ? Samedi 12 septembre, Dario Amodei, le patron du géant de la tech Anthropic, a appelé à ralentir le développement de l’intelligence artificielle (IA) « pour que la prévention des risques soit en mesure de suivre le rythme ». Ce message, auquel se sont ralliés ses principaux concurrents, fait écho à plusieurs autres de même nature lancés depuis juin. Plus ou moins anxiogènes – certains chercheurs parlent de péril possible pour l’humanité –, ils soulignent la puissance de l’IA, ce qui incite à investir dans le secteur. Est-ce le but recherché ou y a-t-il vraiment de l’inquiétude, alors que se multiplient les incidents au cours desquels des modèles d’IA échappent à leurs concepteurs ?

Quelles que soient les arrière-pensées, ce côté « Retenez-moi ou je fais un malheur » n’est pas digne. Ces chefs d’entreprise sont comptables du monde que leurs technologies préparent. À eux de mettre de l’ordre dans les programmes, et à nous, comme utilisateurs et comme citoyens, d’accepter ou non de les utiliser.

Mais il revient aux États, d’abord, de prendre leurs responsabilités. Notre souveraineté, et à entendre ces lanceurs d’alerte notre vie future, doit être débattue publiquement à Bruxelles ou Washington, pas simplement confiée aux conseils d’administration de la Silicon Valley. À ce jour, aucune régulation mondiale n’existe, aucune loi fédérale ne se prépare aux États-Unis. Il est vrai que la compétition est féroce, avec la Chine notamment, et l’administration Trump redoute plus que tout de perdre son avance. Mais l’ambition de faire la course en tête ne justifie pas tout. Il est temps de prendre le risque de ralentir et de parier que d’autres suivront. C’est naïf ? C’est nécessaire. Et c’est ce qu’appelle de ses vœux Léon XIV, dans Magnifica humanitas , quand, au rêve de toute-puissance, il oppose le discernement.