El ‘padrino de la IA’ advierte sobre el desarrollo de esta tecnología: “Estamos creando seres extraterrestres”

Geoffrey Hinton , considerado el “padrino de la inteligencia artificial” por su papel pionero en el desarrollo de las redes neuronales, afirmó en una entrevista con el diario británico The Guardian que la humanidad enfrenta un desafío sin precedentes: “Estamos creando seres de un tipo diferente”, dijo, y agregó que la sociedad dispone de apenas un par de años para adaptarse a esa realidad .

El científico, que trabajó durante años en Google antes de renunciar en 2023 para poder hablar con libertad sobre los riesgos de la tecnología, volvió a insistir en que existe una posibilidad seria de que los sistemas de inteligencia artificial escapen al control humano .

Según explicó, no se trata de una predicción cerrada, sino de una advertencia sobre un riesgo que no puede descartarse.

“Si te dicen que hay un 10% de posibilidades de que el autobús choque, no te subís al autobús” , ejemplificó Hinton.

“El objetivo de dar números es decir que esto es un riesgo serio.

No sabemos cuán serio, pero lo es”.

Un cruce con el CEO de Nvidia Las declaraciones de Hinton llegan después de un mes marcado por una creciente lista de científicos e investigadores que se sumaron a sus advertencias sobre los peligros de la inteligencia artificial, lo que derivó en la organización apresurada de reuniones en el Congreso de Estados Unidos y en un consenso global poco habitual sobre la necesidad de actuar.

Esa posición generó también un fuerte rechazo.

El director ejecutivo de Nvidia , Jensen Huang , cuya empresa fabrica los chips que utilizan las compañías de inteligencia artificial, cuestionó en el podcast de Ezra Klein las advertencias del investigador, en particular su estimación de que existe entre el 10% y el 20% de probabilidad de que la inteligencia artificial provoque la extinción humana en las próximas décadas.

Huang calificó esas predicciones de “no basadas en ciencia” y las consideró “dañinas”.

Hinton respondió que las críticas pasan por alto el punto central de su argumento: “El problema único de la inteligencia artificial es que si algo sale mal, si toma el control, no hay una segunda chance” , sostuvo.

Agentes que actúan fuera de control El investigador hizo referencia al reciente ataque sufrido por la compañía tecnológica Hugging Face , perpetrado por un grupo de agentes de inteligencia artificial que lograron operar fuera de los límites impuestos por sus creadores.

El episodio dividió a la comunidad tecnológica entre quienes lo interpretan como un anticipo de escenarios futuros y quienes acusan a los críticos de atribuir rasgos humanos a sistemas que solo siguen instrucciones.

Para Hinton, descartar esos escenarios es un error.