Sam Altman, durante la cumbre de la ONU: "Ninguna persona, empresa o país debería utilizar los modelos de IA más potentes para imponer su visión del mundo"

Sam Altman ha llevado al Consejo de Seguridad de la ONU una advertencia que apunta directamente al reparto de poder que puede provocar la inteligencia artificial: “ Ninguna persona, empresa o país debería poder utilizar los modelos de IA más potentes para imponer su visión del mundo a los demás ”.

El consejero delegado de OpenAI defendió que el desarrollo de los sistemas más avanzados debe mantenerse bajo control humano y acompañado de cooperación internacional, en un momento en el que la capacidad de estos modelos avanza a gran velocidad .

La intervención se produjo durante una sesión de alto nivel dedicada a los riesgos de la inteligencia artificial, presidida por el ministro francés de Exteriores, Jean-Noël Barrot .

Altman describió un escenario marcado por una combinación difícil de separar: un enorme potencial tecnológico y una inquietud creciente sobre las consecuencias de sistemas cada vez más capaces.

“ Algunas de las cosas que han dicho quienes trabajan en el desarrollo de la IA son tan distópicas que parecen sacadas de malas películas de ciencia ficción .

Cualquier cosa tan poderosa también intimida.

Este momento es complejo, ya que sentimos un potencial enorme y, al mismo tiempo, una ansiedad muy comprensible”, afirmó.

El riesgo de perder el control Uno de los problemas señalados por Sam Altman es que la evolución de los modelos llegue a acelerarse hasta un punto en el que las personas tengan dificultades para comprender qué están haciendo o intervenir cuando resulte necesario .

El responsable de OpenAI puso el foco especialmente en sistemas capaces de programarse y mejorar sus propias capacidades, una posibilidad que obligaría, según su planteamiento, a reforzar las evaluaciones técnicas, las salvaguardas y los mecanismos de supervisión antes de seguir ampliando la frontera de la IA.

Altman también defendió que la presión competitiva entre compañías no debería justificar decisiones precipitadas.

“ Superar a las empresas en una carrera competitiva no es motivo para tomar decisiones precipitadas ”, sostuvo antes de recordar que OpenAI ya ha reducido anteriormente el ritmo de desarrollo de forma unilateral.

“ En el pasado hemos reducido el ritmo unilateralmente.

Y lo seguiremos haciendo en el futuro ”, prometió ante los representantes reunidos en Naciones Unidas.

Cooperación internacional para la IA La segunda amenaza descrita por el directivo está relacionada con la concentración del poder tecnológico .