Elon Musk de X, Sam Altman de OpenAI y Dario Amodei de Anthropic quieren desacelerar el desarrollo de la IA

Elon Musk, Sam Altman y Dario Amodei coincidieron en que las empresas deben ralentizar el avance de la inteligencia artificial (IA) para evaluar sus riesgos antes de que los modelos alcancen capacidades difíciles de supervisar.

El CEO de Anthropic, Dario Amodei, propuso establecer un ritmo de desarrollo que permita mantener el progreso técnico, pero con mayores controles externos.

“Al igual que muchas tecnologías anteriores, la IA conlleva riesgos, y debido a su gran poder, estos riesgos son graves”, afirmó.

Entre los riesgos destacan la pérdida del control de los sistemas de IA, el uso de la IA para ciberataques, bioterrorismo y crisis económicas.

Musk, CEO de Tesla y dueño de X, respaldó el planteo con un mensaje breve: “Dario está en lo correcto”.

Altman, CEO de OpenAI, agregó que su empresa analiza cómo ordenar el avance en la frontera tecnológica.

Quiénes son los ejecutivos que coinciden en frenar el avance de la IA Elon Musk dirige Tesla y SpaceX, dos compañías con inversiones en infraestructura, energía y sistemas de computación.

Desde hace años, Musk ha advertido sobre los posibles efectos de una inteligencia artificial que supere las capacidades humanas en distintas áreas como la programación, la medicina o el derecho.

Por su parte, Sam Altman dirige OpenAI, empresa responsable de productos como ChatGPT.

En respuesta a la propuesta de Amodei, dijo que coincide en la necesidad de “marcar el ritmo en la frontera tecnológica” y anticipó que la compañía trabaja en mecanismos de supervisión con evaluadores independientes que tengan acceso comparable al de sus empleados.

Por qué Dario Amodei plantea una desaceleración de la IA Amodei, director ejecutivo de Anthropic, empresa detrás de Claude, dijo que el desarrollo de la inteligencia artificial avanza a una velocidad que obliga a revisar cómo se entrenan y despliegan los sistemas más potentes.

En un ensayo, señaló que las empresas deben ralentizar el aumento de capacidades de los modelos para aprovechar el tiempo disponible en tareas de seguridad.

Su preocupación se concentra en la llamada auto-mejora recursiva , una dinámica por la cual los sistemas de IA colaboran en la creación de la siguiente generación de herramientas.

Si ese proceso no cuenta con límites, los modelos podrían superar la capacidad humana para comprender su funcionamiento y controlar sus decisiones.