Qué significa desacelerar el desarrollo de la IA, el pedido de Anthropic respaldado por Musk y Altman

En noviembre de 2023, la primera cumbre mundial sobre seguridad de la inteligencia artificial, celebrada en Bletchley Park, Inglaterra, puso el foco en las amenazas más graves imaginables que plantean los modelos de IA más potentes .

Muchos consideraban entonces que se trataba de ciencia ficción y que los riesgos reales eran más mundanos, como la pérdida de empleos o el fraude en exámenes.

Tres años después, Dario Amodei, director de Anthropic , instó el pasado sábado a ralentizar el ritmo de desarrollo de la IA , y los líderes de dos empresas rivales, Sam Altman, de OpenAI, y Elon Musk, se mostraron de acuerdo.

El planteo se suma a otras voces de alarma dentro del propio sector.

El investigador Jacob Coxon, que dejó Anthropic, declaró a la BBC que el personal encargado de desarrollar estos sistemas sentía un “miedo genuino” por el futuro de la humanidad .

El conjunto conforma un coro de voces serias que abogan por una desaceleración, aunque la propuesta, lejos de ser una solución sencilla, enfrenta obstáculos prácticos y geopolíticos considerables.

La carrera de Estados Unidos contra China Uno de los principales frenos a cualquier pausa es la competencia geopolítica .

El presidente Donald Trump afirmó que Estados Unidos lleva ventaja sobre China en la carrera de la IA y sostuvo que “quien gane en IA será el vencedor” .

China, por su parte, no muestra intención de quedar en segundo lugar.

El consenso entre observadores del sector es que, aunque una empresa decida frenar su desarrollo, las demás no lo harán, por lo que quien se detenga simplemente quedará rezagado .

La dinámica recuerda al momento álgido de la campaña por el desarme nuclear, cuando el problema, igual que ahora, era que nadie quería dar el primer paso.

A esto se suma la pregunta de quién supervisaría una desaceleración de este tipo y si sería viable depender de que las empresas de IA fueran transparentes sobre lo que hacen y, sobre todo, sobre lo que deciden no hacer.

El plan de tres puntos de Amodei genera dudas Amodei propuso en su publicación un esquema con tres elementos: supervisión independiente de los modelos de IA durante su desarrollo , y regulaciones tanto sectoriales como globales.

Sin embargo, algunos observadores cuestionan su aplicación práctica.