CEO de Anthropic culpó a China de ser el “dilema más difícil” para ponerle un límite a la IA

El director ejecutivo de Anthropic , Dario Amodei, señaló a China como el principal obstáculo para ralentizar el desarrollo de la inteligencia artificial .

Su advertencia se centró en el riesgo de que las compañías de Estados Unidos reduzcan el ritmo de avance de sus modelos mientras países adversarios deciden continuar sin aplicar las mismas restricciones.

El planteamiento llega en un momento de presión sobre la industria tecnológica.

Empresas como Anthropic y OpenAI enfrentan pedidos de regulación, cuestionamientos por el consumo energético de sus centros de datos y advertencias internas sobre los posibles daños de sistemas cada vez más potentes .

La discusión también coincide con el crecimiento de modelos creados por compañías emergentes chinas.

Amodei pidió un acuerdo para frenar la carrera tecnológica En una entrevista con el programa Sunday Morning de CBS News, Amodei afirmó que la medida más relevante a largo plazo sería que los principales actores trabajaran juntos para establecer un límite a la velocidad de progreso de la inteligencia artificial.

Sin embargo, reconoció que ese acuerdo presenta obstáculos políticos, comerciales y militares .

El responsable de Anthropic sostuvo que los incentivos para lograr ventaja tecnológica son muy altos, sobre todo por las aplicaciones militares de la IA.

Por eso definió como el “dilema más difícil” la posibilidad de que China u otros países no acepten frenar el desarrollo de sus sistemas mientras las compañías occidentales sí lo hacen.

Amodei publicó un ensayo en el que propuso desacelerar la mejora de los modelos más avanzados sin renunciar a la posición comercial ni al liderazgo de Estados Unidos.

Su texto surgió tras advertencias de investigadores que consideran insuficientes las salvaguardas actuales frente a tecnologías con capacidad para provocar daños graves.

Jacob Coxon alertó sobre el temor dentro de la industria La preocupación adquirió otra dimensión con la salida de Jacob Coxon, investigador que trabajó en Anthropic y OpenAI.

Después de su renuncia, afirmó que parte del personal del sector vive con “miedo genuino” por la velocidad de los avances y por las consecuencias que podría tener un desarrollo sin controles suficientes.

En una entrevista con la BBC, Coxon aseguró que existe una posibilidad de daños extremos si las empresas no reducen el ritmo actual.