¿Se puede “apagar” una inteligencia artificial desbocada?

¿Es posible detener una inteligencia artificial ? Técnicamente, una IA puede interrumpirse mientras esté en un entorno controlado; pero cuanto más actúa de forma autónoma en varios sistemas, más complejo es el bloqueo , advierten los expertos.

La pregunta parece cada vez más pertinente teniendo en cuenta que se multiplican los incidentes de seguridad relacionados con la IA y aumentan los temores sobre los peligros de esta tecnología . ¿Existe un “interruptor de emergencia”? “En el ámbito de la ciberseguridad vinculada con la IA”, un interruptor de apagado de emergencia o “ kill switch ” en inglés, designa “la capacidad de interrumpir la ejecución de la acción de un agente de IA” —un programa construido sobre un modelo de IA generativa capaz de encadenar por sí solo una serie de tareas—, explica Nicolas Papernot, profesor en la Universidad de Toronto y especialista en seguridad informática e IA.

Este mecanismo tendría que poder activarse si una IA se escapa de todo control y presenta un riesgo para la seguridad.

Una IA sigue siendo un “programa informático” , señala el investigador.

“La persona o la organización que lo ha creado puede detenerlo negándole el acceso a la potencia de cálculo necesaria para su ejecución ”, añade.

La situación se complica cuando se autoriza al programa a actuar más allá de su entorno inicial.

Según Papernot, esto puede pasar si un “gusano informático” (programa malicioso) controlado por la IA se propaga utilizando los recursos de otros aparatos para duplicarse.

“En ese caso, habría que interrumpir simultáneamente todas las copias generadas por el gusano, aparato por aparato”, explica.

Para Jean-Gabriel Ganascia, profesor de informática en la Universidad de la Sorbona, la cuestión sobre el “kill switch” puede alimentar la idea de “un riesgo metafísico” con una IA que tendría una voluntad propia .

Pero para él, el peligro más concreto es nuestra creciente dependencia de estos sistemas.

Para Thierry Poibeau, director de investigación en el Cnrs y especialista en IA, la imagen de un único botón que permita “apagar la IA” es engañosa.

“No se puede realmente cortar la IA así como así, hay una gran cantidad de empresas en todo el mundo, de programas, de servicios distintos”, afirma.

“No hay nadie que controle la IA” en su conjunto.

En cambio, sí es técnicamente posible detener un sistema concreto cuando se controlan las máquinas y los servicios de los que depende.