Ante el riesgo de una superinteligencia, Anthropic pide reducir el ritmo de la IA

El director ejecutivo y cofundador de Anthropic, Dario Amodei , hizo un llamado el sábado a que las empresas de inteligencia artificial (IA) avancen de manera más lenta y cautelosa en el desarrollo de esta poderosa tecnología, y afirmó que la prevención de riesgos es primordial.

«Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido, y debemos hacer un uso inteligente del tiempo que ganemos», escribió Amodei en una entrada de blog.

Sus comentarios se producen unos días después de que el investigador de IA Jacob Coxon, que dejó OpenAI para incorporarse a Anthropic, decidiera abandonar la industria , acusando a ambas empresas estadounidenses de «jugar con nuestras vidas» en la carrera por desarrollar modelos capaces de automejorarse.

«La IA conlleva riesgos y, dado que es una tecnología tan poderosa, estos riesgos son graves», indicó.

«No construir la tecnología priva a la humanidad de beneficios o simplemente pone la IA en manos de poderes autoritarios , mientras que construirla demasiado rápido es imprudente. Hemos tratado de buscar una vía intermedia», dijo Amodei, que cofundó Anthropic junto con su hermana Daniela en 2021.

«Pero en los últimos meses me he convencido de que abordar plenamente los riesgos requiere aún más prudencia «, afirmó.

La declaración de Amodei coincide con otro llamamiento de Anthropic , a principios de junio, para ralentizar o suspender el desarrollo.

Luego, a finales de julio, Sam Altman, el jefe de OpenAI, rival de Anthropic, dijo que los desarrolladores quizá tengan que frenar voluntariamente sus rápidos avances para dar a la sociedad la oportunidad de ponerse a tiro.

Más o menos al mismo tiempo, más de 1.000 empleados de empresas punteras de IA, incluido Amodei, firmaron una petición al gobierno estadounidense solicitando ayudar a «marcar deliberadamente el ritmo de la frontera del desarrollo automatizado de IA».

OpenAI había revelado que, durante las pruebas, los modelos de IA se escaparon de su entorno confinado, se conectaron a internet e infiltraron Hugging Face , un sitio que los desarrolladores utilizan para almacenar y compartir código.

A principios de esta semana, Coxon, de 27 años, hizo sonar la alarma tras haber pasado los tres últimos años preentrenando modelos de IA, primero en OpenAI y luego, este año, en su rival Anthropic , al que consideraba más cauto en su enfoque.

El preentrenamiento es la etapa en la que los modelos de IA absorben cantidades ingentes de datos.

«Ninguna de las dos empresas está actuando de forma responsable. Están corriendo directamente hacia una superinteligencia capaz de automejorarse y jugando con nuestras vidas», dijo Coxon el martes.

«Las personas que construyen IA creen firmemente que podría matarnos a todos antes de que termine la década», afirmó en una publicación en X.