Anthropic revela uso indebido de su IA; informa utilización en armas, espionaje y vigilancia

Anthropic entregó un informe en el cual describe cómo actores maliciosos utilizaron su sistema de inteligencia artificial (IA) Claude para actividades de vigilancia patrocinadas por el Estado, operaciones de propaganda y otros fines.

A continuación, se presentan algunos de estos casos, que han contribuido a la creciente preocupación por los riesgos que plantea la rápida evolución de la inteligencia artificial.

Programas espía en Malí Un consultor tecnológico en Bamako , que colaboraba con el servicio de inteligencia estatal de Malí (bajo control de la junta militar), utilizó Claude Code para crear "Lakana 360", un sistema de vigilancia capaz de monitorear aproximadamente 25 millones de tarjetas SIM en la red móvil del país.

La aplicación, que Anthropic no fue capaz de desactivar, puede captar llamadas, mensajes de texto y tráfico de voz, e incluso identificar a personas por su voz aunque cambien de tarjeta SIM.

Puede igualmente detectar quién está utilizando cifrado o una VPN.

Drones kamikazes en Rusia Un pequeño equipo de desarrolladores -probablemente independientes- en Rusia utilizó Claude para crear software destinado a operar drones autónomos "kamikaze".

El enjambre de drones estaba programado para seleccionar sus propios objetivos y estrellarse contra ellos para detonar, sin que una persona tomara la decisión final.

En su programación, el equipo seleccionó repetidamente una ubicación en la región ucraniana de Donetsk como objetivo y utilizó VPN para eludir los bloqueos geográficos de Anthropic.

Los desarrolladores afirmaron haber recibido financiación de programas de investigación gubernamentales y militares rusos.

Sin embargo, Anthropic consideró que se trataba de un pequeño equipo independiente y no de una operación oficial.

Fabricación de misiles en Yemen Un grupo en el norte de Yemen utilizó Claude Code para ayudar a fabricar armas.

La popular herramienta de programación colaboró en el diseño del software de un cohete guiado, elaboró planos para un misil de largo alcance y contribuyó al desarrollo de un tipo de misil aún más rápido, conocido como vehículo de planeo hipersónico.

Para evitar ser descubiertos, dividieron el trabajo en conversaciones separadas con la IA.

Anthropic afirma que no hay pruebas de que llegaran a completar un arma funcional, aunque el grupo sí realizó un lanzamiento de prueba de un cohete.