El CEO de Anthropic pide "bajar el ritmo" del desarrollo de la inteligencia artificial para evitar que se pueda "perder el control"

El consejero delegado de Anthropic, Dario Amodei , ha abogado por "bajar el ritmo" del desarrollo de la inteligencia artificial y ha advertido de que se corre el riesgo de "perder el control" de esta tecnología y provocar "ataques informáticos" o " bioterrorismo" si no se toman medidas concretas para evitar que la industria se convierta en una "carrera hacia el abismo".

"Debemos bajar el ritmo al que mejoramos las capacidades de los modelos de IA .

Los avances seguirían siendo rápidos y aprovecharíamos sabiamente el tiempo que ganaríamos", ha afirmado Amodei en un texto publicado este sábado en su blog personal .

We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so.Anthropic is unilaterally committing to the first of these steps.

We’ll provide third-party evaluators with permanent, employee-level access to our… — Dario Amodei (@DarioAmodei) September 12, 2026 El CEO de la empresa responsable de Claude cita en concreto dos motivos para su petición.

El primero es la "automejora recursiva" de la IA, es decir, su capacidad para desarrollarse a sí misma que ha propiciado "avances drásticos" durante el verano, y que si no se controla "podría superar nuestra capacidad de comprender y controlar estos sistemas".

El segundo es el denominado " incidente de Hugging Face de OpenAI ", en el que un grupo de IA realizó ataques informáticos en equipo sin que hubiera una petición inicial al respecto.

Los riesgos que preocupan al CEO de Anthropic Amodei ha explicado en el texto que ha publicado en su blog que, como otras tecnologías, la IA conlleva "riesgos" , entre los que se incluye "perder el control de los sistemas de inteligencia artificial", así como el "uso indebido" de la misma, abarcando aquí " ciberataques", "bioterrorismo" y "graves disrupciones económicas ".

Cómo Europa puede convertirse en una superpotencia en robots humanoides que plante cara a EEUU y China Omar Kardoudi Europa quiere demostrar que no es solo la cuna científica de la robótica y convertirse en una potencia industrial capaz de competir con los líderes del sector: Estados Unidos y China En este aspecto, el CEO ha remarcado especialmente el fenómeno de Hugging Face , puesto que, durante el transcurso del mismo, un " enjambre de agentes actuó esencialmente como un colectivo fanáticamente devoto ", sacrificándose con la única finalidad del "éxito del grupo" e incluso " intentando hackear al sistema responsable de evaluar su rendimiento".

Así, el consejero delegado ha explicado que, de seguir apostando por un desarrollo sin frenos , la industria estará abocada a una carrera "hacia el abismo", impulsada únicamente por los "incentivos comerciales", algo que, a sus ojos, puede agravar todavía más estos riesgos .