Sam Altman dice que hay dos formas de que la IA termine mal: que nadie la controle o que la controle uno solo

Sam Altman , director ejecutivo de OpenAI, publicó este lunes en X dos mensajes largos que completan lo que el sábado había dicho en una línea.

En el segundo enumera los dos caminos por los que “el progreso de la IA podría salir muy mal”.

El primero: “podríamos perder el control del futuro a manos de la IA”.

El segundo: “podríamos terminar en un mundo con demasiada concentración de poder ”.

Sobre el primero escribió la frase que va a circular: “Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA siempre debe servir a las personas”.

Sobre el segundo fue más específico: “Si una IA extraordinariamente poderosa es usada por una persona o una empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos”.

Y cerró: “Un país podría ganar demasiado poder.

Otro ejemplo es un laboratorio que termine con demasiado poder”.

Sin esperar al gobierno El primer mensaje del día es una respuesta directa al plan de Dario Amodei , director ejecutivo de Anthropic , que el sábado pidió frenar el ritmo de la IA y aclaró que las empresas no pueden coordinar entre sí sin una exención antimonopolio del gobierno de Estados Unidos.

Altman lo da vuelta: “No creemos que haga falta esperar una exención antimonopolio ni una legislación para empezar el trabajo de dar esta confianza”.

Según Wired , OpenAI había consultado a legisladores en las últimas semanas si una pausa coordinada entre laboratorios violaría la ley antimonopolio.

El post de hoy responde esa duda hacia afuera: se puede empezar solo.

“Donde vamos a necesitar la ayuda de nuestro gobierno es en la coordinación internacional.

Pero primero deberíamos hacer lo que podemos por nosotros mismos.” Y puso la vara en un lugar nuevo: “Cada laboratorio de frontera debe cumplir con esto, y no hay motivo para que ninguno de nosotros venga a trabajar si no podemos ”.