“Inteligencia distorsionada”: la crítica de un premio Nobel de Economía en medio de la polémica por la carrera de la IA

La renuncia y denuncia de Jacob Coxon , un investigador de inteligencia artificial que trabajó en OpenAI y luego en Anthropic por la carrera a su juicio “irresponsable” en que están enfrascadas las empresas del sector, sin medir los riesgos de que a partir de su “superinteligencia” la IA ejecute ciberataques y adquiera recursos o poder fuera del control de la humanidad, sigue generando revuelo.

La industria de la IA, dijo Coxon, “apuesta con nuestras vidas” .

Evan Hubinger , responsable de “alineación” de Anthropic, estimó en cerca del 10% la probabilidad de que la IA mate a todos los humanos, Samuel Marks , investigador de seguridad de la empresa, sostuvo “a título personal” que desarrolladores de IA creen posible la extinción humana o resultados comparables y el propio Dario Amodei , CEO de Anthropic, dio crédito a la inquietud de Coxon en un texto en el que reconoció la necesidad de moderar el ritmo de avance de la IA, pero a su vez señaló que la presión competitivo le impide “frenar solo”.

Distinta fue la reacción de Elon Musk que cuestionó a Coxon y sugirió que su hilo de posteos en la red X fue una operación coordinada, una suerte de “montaje”.

Sin embargo, tanto Musk como Sam Altman , CEO de OpenAI, se manifestaron de acuerdo con disminuir la velocidad de desarrollo de la IA.

La denuncia de Coxon ya había generado reacciones políticas en EE.UU., como la de Bernie Sanders , senador socialista de Vermont, quien aprovechó para insistir en el proyecto para prohibir el desarrollo de la SuperInteligencia Artificial que presentó junto al demócrata Greg Casar días antes de la denuncia de Coxon.

Ted Cruz , senador republicano por Texas, definió a la IA como un “riesgo catastrófico” y dijo que el posteo de Coxon le resultó muy preocupante, y Chris Van Hollen , senador demócrata, reclamó un mecanismo de salvaguardas, un régimen de pruebas y un diálogo con China, entre otras reacciones legislativas.

Economía, IA y “esfuerzo cognitivo” Fue la ocasión que esperaba Daron Acemoglu , premio Nobel de Economía 2024 y profesor del prestigioso Instituto de Tecnología de Massachusetts (MIT) para plantear nuevamente una crítica ya esbozada en trabajos previos.

“¿El problema es una Inteligencia Artificial (demasiado) avanzada o una inteligencia distorsionada?“, se preguntó en un extenso posteo en X en el que celebró que “por fin” los propios investigadores de IA “se dan cuenta de que la carrera desenfrenada en la que están involucradas estas compañías es irresponsable”.

Acemoglu cree que un problema irresuelto es la “alineación” de los los modelos que -dice- “hacen cosas que no están en línea con los objetivos humanos”.