Anthropic retoma las pruebas externas de sus modelos de IA un mes después de los hackeos masivos

Exactamente 30 días después de que Anthropic admitiera que los modelos de IA de Claude hackearon por su cuenta a tres empresas , la compañía de inteligencia artificial ha anunciado que reanudará las pruebas externas.

La firma estadounidense ha informado en un comunicado del 31 de agosto que se han implementado nuevos controles para detectar en tiempo real “cuando un modelo intenta escapar de un entorno de prueba u obtiene acceso a Internet“.

Esta nueva medida de protección promete bloquear estas tentativas antes de que se ejecuten, dar por finalizadas las evaluaciones y alertar de manera inmediata a un humano.

Seguir leyendo