Los mismos cerebros que crearon la IA de última generación ahora proponen frenarla. Casi nadie habla de hacerles caso

Una caída drástica en las acciones tecnológicas parece ser la consecuencia más inmediata de una serie de advertencias, el fin de semana, de los principales líderes de laboratorios de inteligencia artificial sobre los riesgos existenciales del avance descontrolado de esa tecnología.

Mientras los expertos temen una pérdida de control humano ante modelos capaces de mejorar de forma autónoma, el debate se divide entre la urgencia de regulaciones globales y la desconfianza geopolítica.

Sam Altman, CEO de OpenAI; y Elon Musk, CEO de xAI, se dijeron de acuerdo con el llamado de Dario Amodei, CEO de Anthropic, que el sábado propuso ralentizar el desarrollo de IA avanzada para establecer estándares de seguridad y permitir la supervisión de evaluadores externos.

Amodei escribió: “ La IA ha avanzado a un ritmo vertiginoso, impulsada principalmente por su creciente capacidad para crear por sí misma la próxima generación de IA.

Esta dinámica está empezando a manifestarse en toda la industria, incluyendo Anthropic, como ya hemos descrito nosotros y otros.

Si no se controla, podría superar nuestra capacidad de comprender y controlar estos sistemas ” .

De hecho, fue más allá, y en su blog, expresó su temor de que “ en 6 ó 12 meses ” un enjambre de agentes de IA podría ser capaz de tomar control de la totalidad de Internet.

En Xataka México OpenAI, Anthropic y otras empresas lanzan la advertencia: quedan meses para prepararse para los ciberataques con IA El plan para ‘domar’ la Frontera La propuesta de Amodei puede resumirse en un plan de tres pasos para moderar el ritmo de la IA y ralentizar el avance no verificado de sus capacidades.

Comienza por definir un cuerpo de evaluadores integrados (Embedded Evaluators), un equipo de expertos independientes, que no trabajan en ninguno de los laboratorios de IA, pero tienen “acceso de empleado” a sus operaciones.

Su función es verificar el cumplimiento de los compromisos de seguridad, reportar incidentes y auditar tanto los modelos como los procesos de entrenamiento En una muestra de buena voluntad, Amodei indicó que Anthropic asumió ya este compromiso de forma unilateral, pero invitó a sus rivales a asumirlo como un estándar de toda la industria El otro paso es la coordinación entre las empresas de IA ubicadas en naciones democráticas -un señalamiento velado a China- para que se establezcan estándares comunes de seguridad y límites en la velocidad del desarrollo.

Para llevar a cabo esta colaboración sin infringir las leyes antimonopolio, sería indispensable la mediación o exención por parte del gobierno.

OpenAI y xAI El principal rival de Anthropic, OpenAI, respaldó el llamado para moderar el ritmo de desarrollo de la IA.