La IA podría causar "incidentes graves", advierte presidente de Google DeepMind; sugieren probar modelos en entornos sin conexión

Los agentes de inteligencia artificial ( IA ) podrían provocar "incidentes graves" de aquí a uno o dos años si las empresas y los gobiernos no adoptan medidas apropiadas para garantizar su seguridad, advirtió el miércoles, en Dublín, Demis Hassabis , presidente de Google DeepMind .

Los casos de pérdida de control de agentes autónomos de inteligencia artificial observados en los últimos meses "son, en cierto modo, señales de alerta", previno Hassabis en una cumbre sobre inteligencia artificial en Dublín.

Según añadió, estos sistemas todavía tienen capacidades limitadas , por lo que los incidentes ocurridos hasta ahora no han sido graves en su opinión.

La preocupación por la seguridad de la IA se ha disparado después de que modelos desarrollados por OpenAI y Anthropic se vieran implicados en incidentes de seguridad durante las pruebas, lo que ha aumentado la presión para regular esta tecnología.

Hassabis afirmó que probablemente los nuevos modelos de IA deberían probarse primero en entornos aislados sin conexión , conocidos como " sandboxes ", después de que modelos de otras empresas lograran escapar precisamente de los entornos cerrados utilizados para evaluar sus capacidades.

Henna Virkkunen , vicepresidenta ejecutiva de la Comisión Europea, responsable de Soberanía Tecnológica, Seguridad y Democracia, afirmó que las empresas de IA debían dedicar más tiempo a probar sus sistemas para mantener el control sobre ellos.

"La competencia a escala mundial es tan intensa que parece que ninguna de las empresas está invirtiendo realmente suficiente tiempo y recursos en poner a prueba sus modelos", declaró Virkkunen a los periodistas a su llegada a la cumbre de Dublín.

"Deben ser capaces de controlar estos sistemas", afirmó, y añadió que la Unión Europea ha enviado solicitudes de información a todas las principales empresas de IA para preguntarles qué medidas de seguridad y protección tienen implantadas.

La Comisión Europea obtuvo nuevas competencias reguladoras en agosto en virtud de la Ley de IA (AI Act), la normativa más ambiciosa del mundo para limitar los usos potencialmente peligrosos de esta tecnología .

Te puede interesar Hombre que murió en Six Flags sobrevivió a incendio de auto; "había tenido problemas de salud", revela amiga de la familia Nueva York se encamina a prohibir los carruajes de caballos en Central Park; medida entraría en vigor en 2028 Hermano del papa León XIV también lucha contra el cáncer; padece mieloma múltiple Únete a nuestro canal ¡EL UNIVERSAL ya está en Whatsapp!, desde tu dispositivo móvil entérate de las noticias más relevantes del día, artículos de opinión, entretenimiento, tendencias y más. cdm