Elon Musk califica las advertencias sobre la IA como “operación psicológica”

Elon Musk calificó como una “trampa” y una “operación psicológica” la ola de advertencias apocalípticas sobre la inteligencia artificial que difundieron esta semana investigadores y empleados de Anthropic .

La reacción del empresario se produjo un día después de que un antiguo investigador de la mencionada compañía anunciara públicamente su renuncia por temor a los riesgos que representa la tecnología que ayudaba a desarrollar.

Un investigador renuncia y advierte sobre los riesgos de la IA El origen de la controversia se remonta a un hilo publicado el miércoles por Jacob Coxon, investigador que trabajó tanto en Anthropic como en su competidor OpenAI.

Coxon anunció su renuncia y afirmó que ninguna de las dos compañías desarrollaba modelos de IA de manera responsable .

“Están jugando con nuestras vidas”, escribió en su momento, según reprodujo el hilo que se volvió viral en la red social X.

La publicación generó una cadena de reacciones entre empleados actuales de Anthropic, quienes se manifestaron de acuerdo con las preocupaciones de su excolega.

Anna Wang, que trabaja en seguridad de inteligencia artificial general en la compañía y que anteriormente se desempeñó en DeepMind de Google, sostuvo el jueves que muchos integrantes de Anthropic desean ralentizar el desarrollo de la tecnología para elaborar un plan que mitigue los riesgos.

“Todavía no existe un plan científico viable para resolver los riesgos derivados de la IA que se auto-mejora recursivamente”, escribió Wang en X.

Empleados de Anthropic hablan de riesgo de extinción humana Otros miembros del equipo respaldaron públicamente la postura de Coxon con declaraciones de similar tono.

Drake Thomas, también empleado de la compañía, dijo respetar la decisión de su excompañero de abstenerse de construir modelos que puedan suponer riesgos a escala planetaria.

“Las cosas avanzan demasiado rápido; no tenemos ni de lejos el grado de seguridad que desearemos para la superinteligencia artificial” , afirmó Thomas.

Samuel Marks, investigador de seguridad en Anthropic, escribió que los propios desarrolladores de la tecnología creen que esta podría provocar la extinción humana “o consecuencias igualmente nefastas” en los próximos años, y que la preocupación aumenta cuanto más alto es el puesto que ocupa el empleado dentro de la empresa .

En la misma línea se pronunció Evan Hubinger, quien se describe como líder de la división de alineación de la compañía, encargada de garantizar que los modelos de IA funcionen conforme a los objetivos humanos.

“¡Realmente creemos que la IA podría matar a todos los humanos!”, escribió Hubinger.