Geoffrey Hinton advierte sobre el futuro: “No entenderemos a la IA, al igual que las ratas no entienden los números”

Geoffrey Hinton, premio Nobel de Física y uno de los pioneros de la inteligencia artificial (IA), advirtió que los humanos podrían enfrentarse a sistemas capaces de comprender asuntos fuera de su alcance cognitivo y cuya afirmación sobre qué es verdadero no siempre podrían evaluar.

“ No entenderemos a la IA , al igual que las ratas no entienden los números”, planteó durante la apertura del programa principal de conferencias de Starmus, en Arona, Tenerife.

La discusión reunió al psicólogo cognitivo y profesor de Harvard Steven Pinker y a la exresponsable de Naciones Unidas para el clima Christiana Figueres.

El astrofísico y fundador del encuentro, Garik Israelian, moderó una conversación sobre cómo distinguir la verdad en un momento donde máquinas y personas pueden equivocarse , confabular o elegir las pruebas que coinciden con sus propias convicciones.

Por qué Geoffrey Hinton cree que se subestimó a la IA Hinton sostuvo que las capacidades de los grandes modelos de lenguaje , sistemas entrenados para comprender y generar texto, fueron subestimadas incluso cuando ya podían observarse.

Recordó que algunos especialistas en lingüística rechazaban que esas herramientas comprendieran y produjeran lenguaje de forma sofisticada , y citó a Noam Chomsky como ejemplo de un investigador que, a su juicio, no revisó suficientemente sus posiciones ante las pruebas disponibles.

El científico comparó los posibles límites humanos con la incapacidad de otros animales para procesar conceptos abstractos.

“De igual modo que las ratas nunca comprenderán los números primos”, dijo, las personas podrían convivir con sistemas que entiendan cuestiones que ellas nunca llegarán a comprender.

El escenario planteado por Hinton abre una cuestión sobre la confianza en respuestas imposibles de verificar de manera directa.

Si una inteligencia artificial muy superior sostiene que algo es cierto, afirmó, “es mejor que te lo creas”.

Qué dice Geoffrey Hinton sobre las alucinaciones de la IA Las llamadas alucinaciones de la IA , respuestas falsas o inventadas que los sistemas presentan como correctas, no prueban por sí mismas que las máquinas carezcan de comprensión, según Hinton.

Los humanos reconstruyen recuerdos y confabulan sobre hechos que creen conocer , mientras que los modelos de lenguaje aprenden de la actividad humana y pueden reproducir esos patrones.

Steven Pinker coincidió en que se subestimaron las capacidades de los grandes modelos de lenguaje y sus consecuencias para el estudio de la cognición humana.

Sin embargo, remarcó que la utilidad de esos sistemas dependerá de que ofrezcan respuestas correctas y puedan someterse a mecanismos de comprobación, en lugar de limitarse a optimizar la interacción con los usuarios.