Jefe de la ONU ve una IA "desbocada"; Guterres pide responsabilidad a los gobiernos y una visión global

El secretario general de la ONU , António Guterres , pidió a los gobiernos que asuman responsabilidades y que impulsen una visión "global y coordinada" para hacer frente a la amenaza de una inteligencia artificial ( IA ) "desbocada".

"No podemos permitirnos ignorar las preocupaciones que se han planteado, especialmente por quienes están en primera línea del desarrollo de la IA ", aseguró Guterres en una rueda de prensa en la sede de la ONU en relación a las advertencias de los principales líderes del sector sobre el avance de la tecnología .

Hace unos días, Dario Amodei , consejero delegado de Anthropic , reclamó una mayor regulación de la IA para contener los riesgos de un avance sin límites y evitar perder el control de sistemas cada vez más potentes, propuesta que recibió el respaldo del director ejecutivo de OpenAI , Sam Altman , y del magnate Elon Musk .

El secretario general de Naciones Unidasa, que reconoció el "enorme potencial" de la tecnología, exigió "salvaguardias" que hagan que sea "segura, transparente y responsable".

En primer lugar, Guterres apostó porque los gobiernos asuman su responsabilidad para proteger a sus ciudadanos, pero reconoció que no será suficiente si esto no se traduce también en una estrategia mundial.

"La IA no se detiene en las fronteras, ni tampoco sus riegos.

Las pausas voluntarias, aisladas, imposibles de verificar y aplicadas de manera desigual no resolverán el problema", declaró.

Por eso, según avanzó, la IA será uno de los temas centrales en sus conversaciones con los líderes internacionales que acudan al debate general de la próxima Asamblea General de la ONU , que tendrá lugar entre el 22 y el 28 de septiembre.

"Necesitamos un entendimiento compartido sobre cómo avanzar en un desarrollo seguro, protegido y responsable de la IA, al tiempo que identificamos cuándo sistemas cada vez más potentes pueden requerir salvaguardias más firmes o medidas adicionales para gestionar los riesgos potenciales", apuntó.

El diplomático portugués reconoció que las divisiones geopolíticas podrían generar tentaciones en la carrera por el desarrollo de la IA, pero, a su juicio, el mundo no puede permitirse una competición en la que se sacrifique la seguridad para ganar ventaja.

Guterres calificó la " IA desbocada , la crisis climática y la profundización de las desigualdades" como las principales crisis existentes.

El año pasado, Naciones Unidas lanzó su primer organismo científico específicamente sobre esta tecnología para "garantizar que las políticas se guíen por la evidencia".