Actualité : Les quatre remparts indispensables pour empêcher l’IA d’échapper à notre contrôle

Plusieurs anciens employés d’OpenAI, d’Anthropic et de Google DeepMind viennent d’alerter publiquement sur le danger mortel que fait peser l’intelligence artificielle sur l’humanité. Loin de céder à cet alarmisme, deux éminents chercheurs de Princeton refusent la résignation. Ils démontrent qu’au lieu de capituler, une stratégie concrète permettrait de neutraliser la menace.

Entre les discours alarmistes d’une partie de la Silicon Valley et l’indifférence de la Maison-Blanche et de Donald Trump , qui balaient ces craintes d’un revers de main, le débat sur les dérives de l’IA semblait jusqu’à présent dans l’impasse. Les universitaires Sayash Kapoor et Arvind Narayanan préfèrent quant à eux proposer une voie alternative pour aborder le problème avec méthode et pragmatisme.

Selon eux, l’industrie fait fausse route en misant quasi exclusivement sur la notion d’alignement moral. Cette approche purement théorique, qui consiste à vouloir inculquer nos valeurs éthiques au code informatique, montre vite ses limites, car une machine très avancée pourrait simplement faire semblant d’obéir pendant les tests pour cacher ses véritables intentions.

Pour contourner ce piège, les deux experts s’appuient sur les règles éprouvées de la sécurité informatique pour proposer une protection en profondeur, articulée autour de quatre remparts complémentaires.

Le premier pilier reste l’alignement des modèles, nécessaire pour fixer un cap éthique initial, mais largement insuffisant s’il reste isolé. Le deuxième niveau impose un contrôle opérationnel direct. Il s’agit d’isoler les systèmes dans des environnements de test sécurisés, les fameuses sandboxes , de surveiller leurs opérations en temps réel et de maintenir une supervision humaine obligatoire pour chaque action critique. Un ensemble de garde-fous classiques, déjà mis en échec au cours des dernières semaines par de nombreux modèles .

Le troisième volet repose sur la défense en aval. Pour contrer le risque de cyberattaques massives capables de saboter nos infrastructures vitales, comme des centrales électriques ou des réseaux d’eau potable, les organisations doivent elles aussi armer leurs défenses avec leurs propres IA. Une façon de rééquilibrer efficacement le rapport de force face à des menaces de plus en plus nombreuses et sophistiquées.

Enfin, la résilience forme la dernière ligne de défense. Si les précédents remparts ne suffisent pas, des protocoles de secours manuels et des plans de reprise immédiate devront prendre le relais pour garantir le fonctionnement des services essentiels en cas d’offensive destructrice ou de dérapage de l’IA.

Une stratégie rationnelle, mais qui a malheureusement peu de chances d’être mise en place, car elle imposerait des régulations strictes et un ralentissement des déploiements, à contre-courant des priorités politiques et de la course au développement et aux profits de certains géants de la tech.

Envie de faire encore plus d'économies ? Découvrez nos codes promo sélectionnés pour vous.