OpenAI y Anthropic serán investigados por prácticas internas de privacidad y seguridad

OpenAI y Anthropic buscan mantener un control significativo sobre la información que los evaluadores externos de inteligencia artificial pueden publicar , ante el temor de que sus informes revelen secretos comerciales o datos confidenciales que podrían beneficiar a sus competidores.

La postura de ambas compañías abre un debate sobre la independencia de las auditorías de seguridad y la transparencia necesaria para identificar los riesgos de modelos cada vez más avanzados.

Según una investigación de Reuters, los dos laboratorios mantienen conversaciones sobre las condiciones que deben cumplir las organizaciones independientes encargadas de examinar sus sistemas .

Entre las medidas consideradas figuran la supervisión de los equipos evaluadores y restricciones para impedir que quienes revisan los modelos de una empresa trabajen simultáneamente con otra.

El conflicto surge porque los resultados de estas evaluaciones pueden incluir información técnica sensible , pero también revelar vulnerabilidades y comportamientos que resultan relevantes para determinar si una inteligencia artificial representa un riesgo para sus usuarios o para la sociedad.

Por qué OpenAI y Anthropic quieren controlar los informes Los evaluadores externos son organizaciones especializadas que examinan modelos de inteligencia artificial para identificar fallos de seguridad, respuestas peligrosas, vulnerabilidades y posibles usos indebidos.

Su trabajo permite detectar problemas que podrían pasar inadvertidos durante las pruebas realizadas por los propios desarrolladores.

Sin embargo, la publicación de sus resultados puede generar tensiones cuando los informes incluyen detalles sobre el funcionamiento interno de los sistemas .

Para los laboratorios, proteger esa información es importante para evitar que competidores accedan a conocimientos técnicos o a elementos que forman parte de su propiedad intelectual.

El problema es que algunos datos considerados confidenciales por las empresas también pueden ser fundamentales para comprender la gravedad de un fallo.

Si los laboratorios tienen capacidad para decidir qué información se divulga, podrían limitar la publicación de hallazgos relevantes para la seguridad pública.

Reuters advierte que estas conversaciones reflejan una tensión entre la necesidad de informar sobre los riesgos de una inteligencia artificial potente y el interés comercial de compañías que buscan consolidar su posición en un mercado de alto valor económico.

Anthropic se reserva facultades sobre los nuevos evaluadores Anthropic sostiene que las conversaciones sobre el control de los informes no representan por completo sus acuerdos con los evaluadores independientes con los que ya ha trabajado.