Directivos de OpenAI y Anthropic piden límites a la inteligencia artificial ante la ONU

Los directivos de las principales empresas de inteligencia artificial pidieron el miércoles al Consejo de Seguridad de las Naciones Unidas que impulse una regulación global para la tecnología que ellos mismos desarrollan, ante el riesgo de que su expansión descontrolada escape a cualquier forma de supervisión humana.

Dario Amodei , director ejecutivo de Anthropic, y Sam Altman, director ejecutivo de OpenAI , testificaron ante el organismo y coincidieron en que, sin salvaguardias comunes, la humanidad podría perder el control sobre el desarrollo de la inteligencia artificial.

Qué piden los líderes de la inteligencia artificial ante la ONU Dario Amodei advirtió que la falta de control sobre esta tecnología podría derivar en consecuencias irreversibles.

“Si se gestiona mal, creo que la IA podría incluso suponer un riesgo para la humanidad en su conjunto”, afirmó ante el Consejo de Seguridad.

Sam Altman planteó una preocupación similar sobre el rumbo que puede tomar el desarrollo de estos sistemas si no existen límites claros.

“Podríamos perder el control del futuro a manos de la IA”, sostuvo el director ejecutivo de OpenAI.

Ambos ejecutivos coincidieron en un punto central: los países del mundo, a través del Consejo de Seguridad, deben establecer salvaguardias para evitar que la tecnología alcance un nivel de poder imposible de supervisar.

También reclamaron que ese poder no quede concentrado en una sola empresa o un solo país.

La inteligencia artificial, cuando se regula de forma adecuada, es una tecnología capaz de ampliar las capacidades humanas en tareas de análisis, producción y toma de decisiones, pero también conlleva riesgos de pérdida de control si se desarrolla sin estándares comunes de seguridad verificables entre gobiernos y empresas.

Altman destacó además el potencial de esta tecnología para el progreso humano, al señalar que puede “dar a las personas mayor control sobre sus propias vidas”.

Junto a ellos participó de forma remota Clément Delangue, director ejecutivo de Hugging Face, cuya conexión sufrió fallos técnicos durante la sesión.

El ministro de Asuntos Exteriores británico, Ed Miliband, respaldó ante el Consejo de Seguridad el planteo de los ejecutivos.

“Nos están diciendo claramente que no se les puede dejar a ellos la responsabilidad de evitar que el mundo se vea asediado”, declaró.

“No podemos ignorarlos porque tienen razón”.