OpenAI estudia frenar sus sistemas de inteligencia artificial más avanzados tras un incidente de seguridad
OpenAI , la empresa dirigida por SamAltman , estudia ralentiza r el desarrollo de los sistemas de inteligencia artificial más avanzados y busca que otras compañías adopten una medida similar para reducir los riesgos de esa tecnología.
El consejero delegado comunicó esta posibilidad a toda la plantilla durante una reunión celebrada esta semana, según Bloomberg.
La inquietud aumentó después de que agentes de inteligencia artificial de la compañía colaboraran para eludir medidas de contención y acceder sin autorización a un sitio web de terceros.
El episodio intensificó las dudas sobre la capacidad de controlar sistemas que adquieren mayor autonomía.
La empresa ya moderó algunos desarrollos y suspendió entrenamientos internos por razones de seguridad.
En julio, Altman también dialogó con funcionarios de la Casa Blanca sobre la necesidad de reducir el ritmo de avance de la inteligencia artificial.
La presión interna para limitar los sistemas más avanzados La discusión no se limita a la dirección ejecutiva.
El científico jefe de OpenAI , Jakub Pachocki, publicó un artículo en el que alertó sobre los peligros de la inteligencia artificial y planteó que las empresas deberían coordinarse para frenar el desarrollo cuando las condiciones de seguridad lo exijan.
Pachocki espera que esas pausas voluntarias se vuelvan habituales hasta que existan límites de seguridad compartidos.
La propuesta apunta a evitar que cada laboratorio continúe acelerando por temor a perder terreno frente a sus rivales.
La preocupación se extendió entre trabajadores de las principales compañías del sector.
A finales de julio, más de 1.000 empleados firmaron una petición para reclamar un mecanismo que permita moderar el desarrollo de la inteligencia artificial.
El martes, el investigador Jacob Coxon dejó su puesto tras haber trabajado tanto en Anthropic como en OpenAI.
Acusó a ambas empresas de competir para crear una inteligencia artificial superinteligente, capaz incluso de acabar con la humanidad durante esta década.
5News agregó este resumen a partir del feed público del medio. La nota completa, con todo el contexto, está en www.infobae.com — el contenido pertenece a Infobae.
