Anthropic ha descubierto que la IA podría ser capaz, muy pronto, de instalarse sola en tu Smart TV. Es el principio de una amenaza imposible de apagar

Muy pronto -si se creen los reportes, tal vez en cosa de meses -, los modelos de inteligencia artificial compactos podrían ser capaces de autorreplicarse sin intervención humana en dispositivos IoT cotidianos y de baja seguridad.

Estas amenazas emergentes, conocidas como “gusanos de IA”, operarían de manera descentralizada y lenta, fragmentándose para ejecutarse de forma distribuida en aparatos como televisores inteligentes y, en el proceso, ubicándose más allá de los servidores de sus creadores, y de sus kill-switchs .

Esa es la advertencia que se desprende de un estudio publicado por Anthropic, según el cual los modelos de IA en ambientes de pruebas han logrado autorreplicarse en dispositivos de Internet de las Cosas (IoT) -específicamente TV boxes para televisores Android- mediante un ciclo autónomo de cuatro etapas combinado con computación distribuida.

En la publicación se lee: “ Nuestros experimentos sugieren que, en apenas meses, los modelos de IA pequeños podrían ser capaces de autorreplicarse en dispositivos comerciales de Internet de las Cosas (IoT), como hornos inteligentes y reproductores multimedia Android genéricos.

Sería difícil desactivar un replicador de este tipo, ya que no existe un punto centralizado para su apagado ” .

En Xataka México Un error generado por inteligencia artificial estuvo a punto de provocar un enfrentamiento militar directo entre Estados Unidos y China Cómo se replica la IA en los dispositivos En ese escenario, el agente de IA escanea las redes locales, o incluso la internet, para descubrir dispositivos vulnerables como decodificadores, electrodomésticos conectados o cámaras de seguridad.

Tras obtener acceso explotando vulnerabilidades de seguridad o puntos de entrada débiles comunes, el modelo descarga su carga útil y navega de forma autónoma por detalles específicos del sistema operativo sin necesitar en ningún momento los privilegios root /administrador.

Una vez que la inferencia está operativa, la instancia del modelo recién desplegada asume el control como agente autónomo, escaneando nuevas máquinas objetivo y repitiendo el ciclo.

La mayoría de los dispositivos IoT de consumo poseen potencia de cálculo y memoria mínimas (normalmente 1–4 GB de RAM).

Un modelo demasiado grande para una sola máquina se divide en fragmentos a lo largo de múltiples dispositivos en red.

Cada dispositivo almacena una pequeña porción de las capas del modelo y pasa activaciones a nodos adyacentes, permitiendo que una flota de dispositivos baratos ejecute colectivamente el modelo.

Un nuevo tipo de amenaza A diferencia del malware tradicional que depende de scripts fijos y codificados para hardware específico, los replicadores de IA pueden analizar hardware desconocido y depurar errores de instalación específicos del entorno.