Anthropic afirma que ha parado posibles intentos de fabricar armas biológicas con ayuda de la IA

La tecnológica Anthropic ha bloqueado varios casos en los que investigadores quisieron utilizar sus modelos de inteligencia artificial (IA) para estudios que podrían haber concluido en posibles armas biológicas.En un informe , en el que describe el uso indebido de sus modelos de IA, la empresa explica que ha decidido actuar contra determinadas consultas dado que no ha logrado determinar si la intención detrás de las investigaciones que usaban su inteligencia artificial era legítima o maliciosa .Según expone Anthropic, existía la posibilidad de contribuir a la creación de patógenos peligrosos, por lo que se decidió proceder con cautela y bloquear directamente estos casos, restringiendo el acceso «a una amplía gama de consultas de investigación biológica de doble uso». «Si bien las evaluaciones son útiles porque aportan pruebas de capacidad, no pueden demostrar de manera concreta que dicha capacidad llegaría a utilizarse para desarrollar armas biológicas en el mundo real», recoge el informe.En el documento, la empresa tecnológica expone hasta cinco casos sospechosos en los que tuvo que «evaluar si un uso biológico determinado es peligroso o no», entre los que por ejemplo destacan «un investigador que pasó semanas planificando experimentos de adaptación de la gripe aviar a mamíferos con Claude» o «uno que creó un atlas de péptidos de veneno y un sistema de optimización generativa de moléculas dirigidas a objetivos paralizantes y analgésicos».«Al detectar e investigar estos casos, suspendimos las cuentas de los usuarios e incorporamos los resultados de nuestra investigación a las medidas de seguridad, la aplicación de la normativa y los procesos de inteligencia sobre amenazas de nuestro modelo de vanguardia, con el fin de prevenir, detectar e interrumpir mejor estas actividades en el futuro», relata Anthropic.La empresa espera que, al compartir estos datos, «se genere un debate dentro de la industria de la IA y con los gobiernos sobre los riesgos biológicos emergentes y la mejor manera de contrarrestarlos»; y admite que «el mal uso biológico es uno de los riesgos más graves de los modelos de la IA de vanguardia (...), preocupando especialmente que «puedan alcanzar un nivel de capacidad que les permita aumentar la peligrosidad de patógenos existentes o incluso crear otros completamente nuevos». «Sin las medidas de seguridad adecuadas, tales capacidades podrían tener consecuencias catastróficas», subraya.