Pedro Duque, sobre el desarrollo sin regulación de la IA: "Siempre va a haber alguien que encuentre una manera de ganar dinero sin preocuparle las consecuencias"

Pedro Duque, presidente de Hispasat , primer astronauta español y exministro , ha lanzado una advertencia sobre el desarrollo de la inteligencia artificial cuando los avances tecnológicos quedan sometidos únicamente a las reglas del mercado .

Su preocupación se centra en la posibilidad de que los sistemas de IA alcancen capacidades cada vez mayores sin que existan mecanismos suficientes para impedir comportamientos perjudiciales .

Para Duque, el debate ya no consiste solo en aprovechar las ventajas de esta tecnología, sino en determinar hasta dónde puede avanzar sin generar riesgos para las personas.

Durante una entrevista concedida con motivo de la Cumbre Espacial Internacional celebrada en París, Duque aseguró sentirse inquieto por las informaciones que apuntan a que determinados modelos de inteligencia artificial pueden buscar vías para esquivar controles, hacer trampas o alcanzar sus objetivos mediante procedimientos que no habían sido previstos por sus desarrolladores .

Al referirse a este escenario, recurrió a una comparación directa con la ciencia ficción: “Te recuerda a Terminator , vamos”, afirmó.

El presidente de Hispasat considera que el avance de la IA necesita una regulación tecnológica capaz de acompañar la velocidad con la que evolucionan los modelos .

“Esto, como todo, es regulación”, sostuvo antes de advertir de que “ si no hay regulación, todo se rige por las leyes del mercado ”.

Su planteamiento parte de una idea sencilla: cuando el beneficio económico se convierte en el único incentivo, pueden aparecer actores dispuestos a asumir riesgos que acaben trasladándose al conjunto de la sociedad.

El riesgo de dejar la IA al mercado Duque expresó esta preocupación de forma especialmente clara al hablar de las motivaciones económicas que pueden rodear el desarrollo de nuevos sistemas.

“ Siempre va a haber alguien que encuentre una manera de ganar dinero sin preocuparle mucho las consecuencias .

Siempre va a ser así, por eso está la regulación”, defendió.

A su juicio, la intervención de las autoridades debe servir precisamente para fijar límites antes de que determinadas aplicaciones de la inteligencia artificial puedan provocar daños difíciles de corregir posteriormente.

El gran parón de la IA: por qué casi nadie se fía de Amodei y Altman, pero tampoco saben qué hacer Michael Mcloughlin Las predicciones apocalípticas de que la IA nos exterminará en pocos años han provocado un consenso para echar el freno en el desarrollo.

Una petición aparentemente lógica que tiene una cara oculta llena de letra pequeña e intereses particulares El responsable de Hispasat no plantea frenar la innovación ni apartar la inteligencia artificial de las empresas .