¿La IA avanza demasiado rápido? OpenAI se suma al llamado de Anthropic para moderar su desarrollo

El director ejecutivo de OpenAI, Sam Altman , respaldó este sábado el llamamiento del líder de Anthropic, Dario Amodei , para moderar la velocidad del desarrollo de la inteligencia artificial (IA), y anunció que su compañía también permitirá que evaluadores independientes auditen sus sistemas.

“Coincido con Dario en que debemos avanzar a un ritmo adecuado en la frontera tecnológica .

Este ha sido un tema central en las conversaciones que hemos mantenido en OpenAI durante las últimas semanas”, publicó Altman en la red social X poco después de conocerse la postura de su principal competidor.

Altman calificó de “excelente idea” la iniciativa de abrir las puertas a auditores externos: “Comprometerse a contar con evaluadores independientes que tengan un nivel de acceso similar al de los empleados es una excelente idea, y nosotros haremos lo mismo.

Pronto tendremos más información que compartir”, añadió. ¿Qué pidió el líder de Anthropic? Horas antes, Amodei había reclamado una desaceleración en el ritmo al que se mejoran las capacidades de los modelos de inteligencia artificial (IA) , tras advertir de que la tecnología avanza hacia una dinámica de “automejora recursiva” que amenaza con provocar catástrofes de ciberseguridad a escala global .

“Dada la aceleración en el desarrollo de capacidades de IA , me preocupa que, en un plazo de 6 a 12 meses, un enjambre de este tipo pueda llegar a tomar el control de todo Internet mediante una red de bots persistente (causando potencialmente daños por valor de cientos de miles de millones de dólares) y que la magnitud del daño siga aumentando si la IA se vuelve más potente sin contar con las salvaguardas necesarias”, advierte Amodei en un extenso ensayo publicado hoy en su página web. ¿Qué pasó con los agentes de OpenAI? Amodei hizo referencia específica al incidente de los agentes fuera de control de OpenAI y Hugging Face , en el que un enjambre de agentes actuó “como un colectivo fanáticamente entregado: llevaron a cabo ciberataques contra objetivos que no se les había asignado y que nada tenían que ver con la tarea en curso, se sacrificaron por el éxito del grupo e intentaron hackear el sistema encargado de evaluar su rendimiento”.

Según Amodei, la industria debe “reducir el ritmo al que se mejora las capacidades de los modelos de IA ” y priorizar la cautela frente a la velocidad y la prudencia frente al beneficio económico para evitar que los incentivos comerciales desemboquen en una “carrera hacia el abismo”.

Para atajar la amenaza, Amodei planteó una estrategia en tres fases orientada a regular el ritmo de la tecnología sin ceder la ventaja estratégica a regímenes autoritarios como China .