Anthropic y OpenAI advierten sobre riesgos de la IA para la humanidad; ante la ONU piden reglas globales para esa tecnología

Los directores de las principales empresas de inteligencia artificial instaron el miércoles a las Naciones Unidas a establecer controles sobre la tecnología en auge que están diseñando con el fin de salvar al mundo, o, al menos, a su población.

“Si se gestiona mal, incluso creo que la IA podría suponer un riesgo para la humanidad en su conjunto”, afirmó Dario Amodei , director ejecutivo de Anthropic .

“Podríamos perder el control del futuro a manos de la IA”, señaló su competidor, Sam Altman , director ejecutivo de OpenAI .

Ambos afirmaron que los países del mundo, a través del Consejo de Seguridad de la ONU , ante el cual testificaron el miércoles por la tarde, deben establecer salvaguardias, es decir, controles reales para evitar que la tecnología se vuelva demasiado poderosa como para poder controlarla.

También hicieron un llamado a la comunidad internacional para que se asegure de que el poder de la IA no se concentre en una sola empresa o país.

Altman remarcó que el sector se encuentra en una encrucijada y no debe asumir "demasiado riesgo tecnológico solo porque los beneficios sean demasiado grandes e importantes como para frenarlos".

A su juicio, la IA tiene el potencial de impulsar una nueva era similar al "Renacimiento" si se concibe como una herramienta que capacite a las personas, pero alertó del peligro de reproducir las fracturas de la Revolución Industrial si los sistemas sustituyen la agencia humana o si la tecnología escapa a su supervisión.

Altman puso especial énfasis en el riesgo de que los modelos más avanzados, aquellos capaces de programarse y mejorarse a sí mismos de forma recursiva, aceleren su desarrollo hasta el punto de que los humanos no los entiendan ni puedan seguir sus decisiones.

Por ello, señaló que las empresas necesitan la guía de los líderes mundiales para definir marcos técnicos rigurosos que permitan medir capacidades, evaluar amenazas, verificar salvaguardas y crear canales internacionales seguros para compartir vulnerabilidades críticas.

Altman apeló al consenso multilateral, pero lo hizo sin aludir directamente a potencias rivales como China : “A nivel internacional, esto significa cooperación.

En nuestra historia, ha habido momentos en que países que compiten y no siempre se llevan bien, pero aun así se unen por intereses comunes y el bien colectivo ante una nueva y poderosa tecnología.

Creemos que este debe ser uno de esos momentos”.

Para encarar este dilema, Altman desgranó los tres principios rectores de su compañía: mantener a las personas “en el centro de la toma de decisiones” para garantizar que los modelos sigan bajo estricto control humano, orientar el progreso científico y económico “por y para las personas” potenciando su capacidad de acción y “empoderar a cada individuo”.