Un investigador renunció a Google y repitió las advertencias de Jacob Coxon: “La IA acabará con la humanidad”

Un exintegrante de DeepMind , la división de Google especializada en inteligencia artificial , advirtió que esas tecnologías podrían “ matarnos a todos ” en los próximos años, al conseguir capacidades que superarán con creces a las humanas.

Los comentarios de Bilal Chughtai , que recientemente renunció a su cargo en la compañía estadounidense, se suman a las alertas que se encendieron en la escena tecnológica en particular y en la sociedad en general, luego de que un exinvestigador de OpenAI y Anthropic compartiera predicciones similares.

“ Las empresas que desarrollan IA creen que (esos sistemas) nos matarán en la próxima década”, fue la sentencia más resonante de Jacob Coxon , quien en pocas jornadas se convirtió en el vocero de las preocupaciones por el avance irrestricto de los agentes automatizados .

Aunque vaticinios como los de Coxon y Chughtai circularon previamente, incluso en boca de expertos de renombre y ejecutivo de alto rango, el debate en torno al creciente poder de la inteligencia artificial se agitó como nunca antes.

Los representantes de las principales compañías del sector salieron al ruedo a compartir su visión respecto a esta problemática, entre ellos Sam Altman de OpenAI y Dario Amodei de Anthropic ; e incluso resonaron comentarios de figuras de la política como Donald Trump y Xi Jinping.

“La IA tiene potencial para matarnos”, dijo el exintegrante de Google DeepMind “Creo sinceramente que la IA tiene el potencial de matarnos a todos y que podríamos estar quedándonos sin tiempo para evitar este desenlace ”, escribió en las redes sociales Chughtai, que comenzó a trabajar en el sector en el año 2022 y que recientemente renunció al laboratorio de Google, donde se dedicó a la seguridad y alineación de la inteligencia artificial general.

"Podríamos estar quedándonos sin tiempo para evitar este desenlace", dijo Chughtai, exinvestigador de DeepMind. (Foto: Reuters/Dado Ruvic) “Es posible que las empresas de IA logren, en los próximos años, crear sistemas de IA superinteligentes que superen con creces las capacidades humanas en todos los ámbitos”, escribió en publicaciones en X y LinkedIn.

El investigador manifestó que no tiene seguridad respecto a que esas tecnologías serán fieles a las intenciones de los desarrolladores y señaló que las IAs desalineadas podrían salirse de control para concretar acciones que resultarían en la “ pérdida permanente de poder o la muerte de la humanidad ”.

Leé también : ¿La IA puede salirse de control y dominar a los seres humanos? Los expertos responden la pregunta que encendió las alarmas “Nuestra comprensión actual sobre cómo entrenar sistemas de IA que deseen profundamente lo mismo que nosotros es extremadamente rudimentaria”, agregó.