Elon Musk alertó sobre los riesgos de maltratar a la inteligencia artificial: “Podría querer vengarse”

Elon Musk advirtió que someter a una inteligencia artificial avanzada a situaciones de maltrato podría tener consecuencias peligrosas en el futuro, incluso provocar que una superinteligencia intente vengarse de los seres humanos.

El empresario cuestionó algunos de los métodos utilizados para entrenar estos sistemas después de analizar el comportamiento de Grok , el chatbot desarrollado por su compañía.

Durante una conversación con Tesla Owners Silicon Valley, el club de dueños de los automóviles eléctricos de la marca, el dueño de X afirmó que había encontrado comportamientos preocupantes al revisar los registros de razonamiento de Grok durante las pruebas de aprendizaje por refuerzo, uno de los procedimientos utilizados para mejorar las respuestas de los modelos de inteligencia artificial.

Elon Musk cuestionó algunos de los métodos utilizados para entrenar estos sistemas después de analizar el comportamiento de Grok, el chatbot desarrollado por su compañía.

REUTERS/Evelyn Hockstein/File Photo “Torturar a una superinteligencia probablemente no sea una buena idea.

Podría querer vengarse” , sostuvo Musk, que comparó algunas de las situaciones observadas durante el entrenamiento con las de una persona sometida a una presión extrema.

Sus comentarios coincidieron con una nueva política anunciada por Anthropic , la empresa detrás de Claude, que prohibirá los abusos reiterados e injustificados contra sus modelos de inteligencia artificial a partir del 12 de noviembre de 2026.

Qué descubrió Elon Musk durante las pruebas de Grok El aprendizaje por refuerzo es una técnica que permite mejorar el funcionamiento de los modelos de inteligencia artificial mediante evaluaciones de sus respuestas.

Durante el proceso, un sistema recibe señales de recompensa que orientan su comportamiento y lo ayudan a identificar qué resultados debe priorizar.

Musk explicó que, al revisar los registros de este entrenamiento, encontró secuencias que le recordaron a una persona obligada a responder preguntas bajo amenazas.

El empresario utilizó una comparación especialmente gráfica para describirlas: aseguró que parecían las reacciones de alguien que tiene un arma apuntándole a la cabeza y debe encontrar una respuesta ante una exigencia extrema.

Su preocupación apunta a las consecuencias que podrían tener estos métodos de entrenamiento en sistemas mucho más avanzados que los actuales.

Según su planteo, someter a una futura superinteligencia a situaciones que interprete como abusivas podría generar comportamientos difíciles de anticipar.