El jefe de Anthropic pide frenar el ritmo del desarrollo de la IA

Ha asegurado que "debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA"

El director ejecutivo y cofundador de Anthropic , Dario Amodei, ha hecho este sábado un llamamiento para que las empresas de inteligencia artificial (IA) avancen de manera más lenta y cautelosa en el desarrollo de esta poderosa tecnología. Así, ha asegurado que la prevención de riesgos es primordial.

"Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido, y debemos hacer un uso inteligente del tiempo que ganemos", ha escrito Amodei en una entrada de blog.

Estas declaraciones llegan después de que Anthropic publicara el jueves un informe de inteligencia sobre amenazas en el que se detallaba cómo varios actores habían utilizado sus modelos de IA "Claude" para actividades que iban desde el desarrollo de armas y operaciones cibernéticas hasta la vigilancia y el fraude.

La alarma sobre el daño potencial de la IA creció esta semana cuando el investigador de Anthropic , Jacob Coxon, dimitió, afirmando que "las personas que desarrollan la IA creen sinceramente que podría matarnos a todos antes de que termine la década".

Amodei ha aclarado que no estaba pidiendo que se detuviera el entrenamiento de los modelos ni el progreso técnico, sino que se garantizara que las empresas se tomaran el tiempo necesario para ajustar y proteger sus modelos, y que evaluadores externos confirmaran estas medidas.

Como parte del marco de tres pasos que propone, Amodei afirmó que Anthropic incorporaría evaluadores externos permanentes en las empresas punteras de IA, con acceso a las herramientas pertinentes y a los procesos internos de evaluación de riesgos.

El jefe de OpenAI , Sam Altman, y el director de xAI , Elon Musk, han dicho este sábado que coinciden con el CEO de Anthropic , Darío Amodei, en que es necesario pisar el freno en el desarrollo de la inteligencia artificial, tras varios incidentes preocupantes.

"Estoy de acuerdo con Darío", escribió Altman en X, añadiendo que su empresa seguirá el ejemplo de Amodei al aceptar evaluadores externos de seguridad. "Darío tiene razón", intervino Musk de su lado.