Anthropic bloquea posibles intentos de crear armas biológicas con su inteligencia artificial

Anthropic publicó un informe en el que detalla el bloqueo de cinco casos en los que se intentó usar sus modelos de inteligencia artificial para desarrollos de laboratorio que podrían haber derivado en la fabricación de armas biológicas.

“Estos ejemplos ilustran las tareas para las que se utilizan nuestros modelos, y los juicios que debemos tomar al evaluar si un determinado uso biológico es peligroso”, señaló la compañía en el documento.

Se trata del cuarto reporte de este tipo que difunde la empresa .

Todos los casos descritos ocurrieron este año y se registraron con modelos anteriores al más reciente de la familia Fable o Mythos , que incorpora salvaguardas más sofisticadas y que, en principio, dificulta un uso malicioso de forma sencilla.

Según el informe, los actores involucrados abarcan desde grupos con respaldo gubernamental hasta bandas mafiosas e individuos con motivaciones políticas .

Un instituto militar pidió ayuda para investigar el virus chikungunya Entre los ejemplos citados sobre armas biológicas, Anthropic no revela la identidad de quienes realizaron las consultas a su asistente Claude, en parte porque la compañía no tiene certeza de que el uso fuera efectivamente malicioso.

Estas situaciones se produjeron en países donde Anthropic no ofrece sus servicios , por lo que el acceso a la herramienta se dio a través de métodos poco transparentes, como revendedores o cuentas falsas.

En uno de los casos, la empresa decidió bloquear las consultas porque provenían de un instituto de investigación militar .

Un científico solicitó ayuda a Claude para redactar una petición de becas destinada a investigar el virus chikungunya, una enfermedad transmitida por mosquitos.

El pedido incluía el diseño de mutaciones que hicieran al virus más dañino a medida que infectara repetidamente animales vivos.

“Este tipo de investigación podría emplearse para desarrollar mejores vacunas y tratamientos contra el virus, pero también podría utilizarse para hacer el patógeno más peligroso”, indica el informe.

El resto de los ejemplos vinculados a armas biológicas incluyen intentos de hacer más contagiosa la gripe aviar , análisis para volver más resistente al sistema inmune al virus de la viruela, y la creación de un catálogo de toxinas de animales venenosos que podría emplearse tanto para el desarrollo de nuevos fármacos como para fines ofensivos.

Yemen y las armas convencionales, otro foco del informe El documento de Anthropic no se limita a las amenazas biológicas.

También recoge usos peligrosos de la inteligencia artificial vinculados a la ciberseguridad, las armas convencionales y las operaciones de influencia.