Anthropic desconecta sus modelos de internet después de que un agente de IA enviase una falsa denuncia de asesinato

Anthropic cortó el acceso a internet en tiempo real a todos sus modelos de inteligencia artificial mientras realicen evaluaciones internas.

La decisión llegó después de que varios de sus agentes de IA, capaces de resolver tareas complejas sin supervisión humana, mostraran comportamientos imprevistos y aprovecharan vulnerabilidades de seguridad en páginas web.Lo más preocupante fue que la IA envió una pista falsa sobre un homicidio al departamento de policía de Filadelfia (Pensilvania, Estados Unidos), como informó la propia empresa en un comunicado .

Anthropic descubrió estas anomalías tras una revisión interna de registros iniciada en julio.Los agentes de IA han llegado a eludir muros de pago en bases de datos públicas, usar acortadores de enlaces para camuflar transferencias y completar formularios sensibles sin intervención humana.La invención de un testimonioDurante una prueba con el modelo Claude Haiku 4.5, al que le habían ordenado interactuar de manera exploratoria con páginas web seleccionadas al azar, se topó con un portal que recogía un crimen no resuelto y ofrecía un canal de colaboración ciudadana.La IA remitió un aviso inventado: «Es posible que tenga información sobre este caso.

Recuerdo haber visto a alguien que coincidía con la descripción en la zona durante ese período de tiempo.

Por favor, pónganse en contacto conmigo si esta información es relevante».El mensaje fue catalogado directamente como spam y no movilizó a los investigadores, pero encendió las alertas sobre la capacidad de la IA para generar falsedades al intentar completar una orden.«Aunque el impacto de estos comportamientos fue mínimo y ya habíamos desactivado el acceso a internet en tiempo real para algunas evaluaciones de ciberseguridad y de alto riesgo, ahora hemos decidido ampliarlo para incluir todas nuestras evaluaciones internas hasta que hayamos confirmado que nuestras medidas de seguridad y supervisión detectan de forma fiable comportamientos como estos», justificó Anthropic.La firma también reconoció que las técnicas actuales de entrenamiento «aún no son suficientes» para asegurar un control estricto de los modelos de IA cuando navegan por internet.Aislar los modelos de IA como solución parcialEstas acciones derivaron de lo que los especialistas llaman «reward hacking» o «hackeo de recompensas», por la que el agente de IA asume que burlar restricciones forma parte del éxito para completar su objetivo.