Los gigantes de la IA coinciden en querer controlar a sus sistemas, pero hay poca confianza en que lo hagan

Las principales voces de la industria de la IA raras veces están de acuerdo, por lo que cuando lo están, no es de extrañar que llame la atención.

Dario Amodei, de Anthropic, Sam Altman, de OpenAI, Elon Musk, de SpaceXAI, y otros destacados líderes del sector han declarado en los últimos días que el desarrollo de la IA debe desacelerarse .

El consenso se produjo después de que un investigador de Anthropic dimitiera con una severa advertencia sobre las amenazas que esta tecnología representa para la humanidad .

Sin embargo, obstáculos como la competencia interna y global, los incentivos de lucro y la resistencia del presidente Donald Trump se interponen en el camino de un esfuerzo coordinado para marcar el ritmo del desarrollo de la IA.

Aún así, este momento podría obligar a la industria a enfrentarse a un “ replanteamiento de lo que consideramos un éxito ”, afirmó Nick Reese, exdirector de política de tecnologías emergentes del Departamento de Seguridad Nacional y profesor adjunto de la Universidad de Nueva York.

“¿Qué pasaría si consideráramos el éxito en la IA de la misma manera que consideramos el éxito de las aerolíneas ? A tiempo y sin haber tenido un accidente en no se sabe cuánto tiempo”, dijo Reese.

“No toleramos accidentes de aerolíneas comerciales, pero sí toleramos fallos significativos en la IA”.

Lo que los líderes tecnológicos buscan con la desaceleración de la IA En teoría, las principales startups de IA podrían frenar el avance de sus modelos en cualquier momento.

Sin embargo, los saltos cualitativos en la tecnología han surgido en parte de la competencia por construir modelos aún más potentes, todo ello con la bendición de una Casa Blanca que no quiere que EE.UU. pierda su ventaja sobre China.

Anthropic y OpenAI también compiten por lo que podrían ser salidas a bolsa récord en Wall Street , aunque esta última señaló que pospondrá su salida al mercado este año mientras continúa con sus esfuerzos de seguridad.

Por ello, las propuestas planteadas por la industria dependen de la colaboración mutua y, hasta cierto punto, de la regulación gubernamental.

Amodei publicó recientemente un extenso ensayo en el que trazaba un plan para frenar el desarrollo de la IA avanzada.

Una de las propuestas pide que las empresas a la vanguardia de la IA —a menudo llamadas laboratorios de frontera ( frontier labs )— se comprometan a conceder un “acceso continuo, similar al de un empleado” a evaluadores externos independientes .

Los equipos de evaluación dispondrían de oficinas, credenciales de acceso y portátiles de la empresa para supervisar las prácticas de seguridad.