La ilusión de la inteligencia artificial

En 1996, el científico Alan Sokal logró que una respetada revista académica publicara un artículo deliberadamente repleto de afirmaciones absurdas, referencias eruditas y una redacción que aparentaba ser rigurosa, dejando al descubierto una debilidad profundamente humana; cuando el lenguaje reproduce los códigos de la autoridad, la coherencia formal puede confundirse con conocimiento verdadero.

Tres décadas después, este «escándalo» sirve para ilustrar una dimensión inesperada de los grandes modelos de lenguaje (LLM), que seguramente han visto, como OpenAI, Claude, DeepSeek y otros, que producen textos fluidos, seguros y convincentes que enlazan conceptos y justifican sus conclusiones, al tiempo que generan la misma trampa cognitiva que explotó Sokal al atribuir comprensión, razonamiento y dominio de los hechos, mientras que, en realidad, opera un sofisticado sistema de predicción probabilística del lenguaje.

La «ilusión de la inteligencia artificial» consiste en atribuirle capacidades mentales que su comportamiento aparenta poseer, como la comprensión profunda, la intención, el criterio propio, la conciencia o el conocimiento fidedigno del mundo.

Por ello, es indispensable distinguir entre «pretender saber» y «disponer de conocimiento fiable», así como entre «producir una cadena lógica» y «razonar con garantías de certeza».

Aunque debamos considerar a la IA como una herramienta falible, aún es posible ampliar las capacidades propias en situaciones en las que hay restricciones de tiempo, acceso bibliográfico o disponibilidad de especialistas, si acertamos a determinar su auténtica eficacia.

El objetivo, como señala Sokal, es reconocer que la confianza excesiva puede provocar errores en trabajos científicos, informes técnicos, contenidos divulgativos y, lo que es más peligroso, en todo tipo de decisiones, ya sean económicas, sociales o relacionadas con la salud, tanto propia como ajena.

De ahí surge una oportunidad para la política científica y educativa venezolana, ya que, como ocurre con cualquier herramienta tecnológica, la IA requiere instrucciones de uso.

Por tanto, conviene entrenar a estudiantes, docentes, investigadores, periodistas y empleados públicos en su uso responsable, en la evaluación de sus fuentes, en la trazabilidad de las afirmaciones y, muy especialmente, en la protección de los datos (tanto propios como ajenos).

Además, se pueden impulsar repositorios abiertos, modelos especializados y lenguajes adaptados a las necesidades prioritarias.

Basándose en la experiencia, la solución consiste en ubicar a la IA en su terreno más fértil y utilizarla como instrumento de apoyo al razonamiento humano.