El CEO que desarrolla una rival de ChatGPT ahora pide “bajar el ritmo” de la IA

Dario Amodei, cofundador y CEO de Anthropic, la empresa detrás de Claude, uno de los principales competidores de ChatGPT , señala que las compañías de inteligencia artificial deben comenzar a moderar el ritmo en las capacidades de sus modelos para dar tiempo a que la seguridad avance al mismo paso.

Amodei propone que las empresas mantengan el avance, pero con pausas y controles suficientes para entender mejor qué están construyendo y reducir los riesgos de que sistemas cada vez más capaces puedan comportarse de maneras que sus propios desarrolladores no anticiparon.

En su entrada de blog titulado “We Must Pace the Frontier” , Dario Amodei explica por qué cambió su posición sobre la velocidad con la que debe avanzar la inteligencia artificial. ¿Quién es Dario Amodei y qué es Anthropic? No se debe detener la IA El problema es que la IA ya ayuda a desarrollar más IA Amodei tiene 12 años trabajando en inteligencia artificial y es uno de los fundadores de Anthropic, compañía estadounidense especializada en el desarrollo de modelos de inteligencia artificial.

La empresa es conocida por Claude , un asistente de IA con el que los usuarios pueden conversar, escribir textos, analizar información, programar y realizar otras tareas.

En su opinión, la tecnología podría contribuir a curar buena parte de las principales enfermedades durante los próximos cinco a 10 años, acelerar el crecimiento económico y ampliar las capacidades de las personas.

Amodei cuenta que su padre murió de una enfermedad que fue curada pocos años después y que él mismo sobrevivió a un cáncer que, 50 años atrás, no habría podido ser tratado de la misma manera.

Por lo que estos avances muestran lo que una tecnología puede hacer por la humanidad, pero esa misma capacidad es la que vuelve más graves los riesgos.

Entre ellos está la posibilidad de perder el control sobre sistemas de IA, su utilización para ataques cibernéticos, su uso en bioterrorismo y las consecuencias económicas que podrían producir cambios demasiado rápidos.

La solución que propone es no competir solamente por quién desarrolla la IA más rápido, sino por quién consigue hacerla avanzar sin dejar atrás la seguridad .

Uno de los motivos que llevaron a Amodei a cambiar su postura es lo que denomina “recursive self-improvement”, o mejora recursiva.

Esto implica que conforme los modelos se vuelven más capaces, también pueden ayudar a los investigadores e ingenieros a desarrollar la siguiente generación de sistemas.

Amodei sostiene que esta dinámica se ha acelerado durante los últimos meses y que está ocurriendo en distintas empresas, incluida Anthropic.

Apunta que el riesgo es que el ritmo de avance termine superando la capacidad de las compañías para entender, probar y controlar los sistemas .