¿Hay que ralentizar la inteligencia artificial? Los tres grandes CEO del sector dicen que sí

En los últimos años, usar IA se ha vuelto algo cotidiano para millones de personas. Aplicaciones como Gemini, ChatGPT o Claude ya forman parte del día a día y la competencia entre las grandes empresas para desarrollar sus modelos es cada vez más intensa.

El 8 de septiembre , Jacob Coxon , extrabajador de OpenAI y Anthropic , publicó una serie de tuits que encendieron la conversación. «Pasé los últimos tres años haciendo investigación de preentrenamiento tanto en OpenAI como en Anthropic. Ninguna de las dos compañías está actuando de manera responsable. Están corriendo directamente hacia una superinteligencia auto-mejorante y apostando con nuestras vidas».

Su publicación generó escepticismo. Coxon advirtió que pronto habrá «sistemas sobrehumanos» capaces de hackear cualquier estructura y adquirir poder o recursos de forma autónoma. «Todos hemos presenciado el progreso en cada uno de estos dominios, y el progreso no está desacelerando».

«Las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década. Esto no es un truco de marketing. Si acaso, muchos ejecutivos e investigadores seniors moderarán su lenguaje en la prensa para sonar sensatos, pero oigo a las mismas personas expresar miedo en privado. Ninguna otra actividad humana representa este nivel de peligro», escribió Coxon, quien anunció su renuncia en la misma publicación.

Días después, el propio director ejecutivo de Anthropic , Dario Amodei , pidió desacelerar el ritmo de desarrollo de los modelos de IA. Según él, los riesgos son «graves» y es necesario que tanto empresas como gobiernos entiendan cómo funcionan estos sistemas, cuáles son sus verdaderos peligros y qué hacer si llegan a representar una amenaza inminente.

El sábado 12 de septiembre , Amodei publicó un ensayo titulado «We Must Pace Frontier» —»Debemos Regular el Avance de la Frontera» — en el que propone un plan de tres fases.

«Anthropic se compromete unilateralmente con el primer paso. Proporcionaremos a evaluadores externos acceso permanente de nivel empleado a nuestros sistemas, para que puedan verificar el cumplimiento de nuestras medidas de seguridad, informar sobre incidentes y evaluar la alineación de los modelos durante el entrenamiento», escribió.

En el ensayo, Amodei reconoce que la IA puede traer enormes beneficios: desde encontrar curas para enfermedades hasta impulsar el crecimiento económico. Pero advierte que los riesgos son igualmente altos: pérdida de control de los sistemas, ciberataques, bioterrorismo y disrupción económica.

El objetivo, aclara Amodei, no es detener la IA sino garantizar que cumpla con estándares éticos y de seguridad antes de seguir avanzando.

Sam Altman , CEO de OpenAI , calificó el ensayo de Amodei como una gran idea. En una entrevista con la revista Fortune publicada el mismo 12 de septiembre , dijo que la posibilidad de que la IA se saliera de control era «absolutamente posible» si no se establecen regulaciones de seguridad y gobernanza.