“La IA tiende a concentrar el poder”: el CEO de Anthropic cree que la solución es regular a empresas como la suya

Este fin de semana, algunas de las personas más influyentes del sector IA han tenido un debate bastante interesante en la red social X.

El desencadenante fue Gavin Baker, conocido inversor de Silicon Valley, quien en el podcast de ‘All-In’ afirmaba haber escuchado a gente decir que Dario Amodei, CEO de Anthropic, sugería que la compañía podría convertirse en la única empresa privada que quede en pie.

Tras extenderse como la pólvora, siguió un intercambio de mensajes entre Baker, Sholto Douglas (líder técnico de infraestructura en Anthropic), Amodei y hasta Yann LeCun (científico jefe de IA en Meta), entre otros.

Todos ellos mostraban su opinión sobre si debería el poder de la IA concentrarse y regularse, o distribuirse lo más ampliamente posible.

El detonante.

En el pódcast All-In, Gavin Baker, de Atreides Management, dijo que había oído de “múltiples personas” en las que confía que Dario Amodei ha sugerido que Anthropic podría acabar siendo la única empresa privada del mundo, con los gobiernos como los únicos otros actores restantes.

Baker calificaba el escenario de “soberbio”, y dijo que “sin duda disuadiría a Dario de volver a decir eso jamás a nadie”.

“ Completamente falso” .

Sholto Douglas, de Anthropic, se movió rápidamente para desmentir la afirmación, calificándola de “completamente falsa” en X.

Douglas señala el famoso ensayo de Amodei escrito el pasado mes de enero en su blog, argumentando que la concentración económica del poder es precisamente lo que más preocupa a Anthropic, no algo que la empresa esté buscando.

Si bien Baker se retractaba de la afirmación, sí replanteó su crítica en torno al propio mensaje público de Amodei, en el que según él ha presentado de forma consistente a la IA como algo lo suficientemente peligroso como para requerir regulación.

Para Baker, la regulación concentra inevitablemente el poder en “unas pocas empresas y políticos elegidos”.

También invocaba la frase de Mark Zuckerberg en aquel manifesto sobre la IA , en el que contaba que apostarlo todo a un único poder concentrado benevolente “no ha conducido históricamente a resultados seguros ni positivos”.

En Xataka Stripe acaba de apostar 7.000 millones a una idea: nunca habrá un único modelo de IA que sirva para todo Por otra parte, Baker también señalaba que el impulso regulatorio de Amodei se había estancado en gran medida, recordando que la mayoría de los principales laboratorios de IA, menos Anthropic (y algún otro como Amazon), habían firmado la carta abierta de Jensen Huang , CEO de Nvidia, en la que pedía al Gobierno de los Estados Unidos que no pusiera restricciones ni regulaciones severas a los modelos de frontera.