Si la IA se rebela…

El diario 'The New York Times' informaba ayer que Anthropic ha detectado el intento de unos científicos de desarrollar armas biológicas letales con su modelo de inteligencia artificial (IA).

Me vino a la mente la encíclica 'Magnifica Humanitas', en la que León XIV subrayaba el peligro de que esta tecnología se transformara en instrumento de «exclusión, dominación o muerte».Hace pocos días, un experto llamado Jacob Coxon advertía de que existen serias posibilidades de que en un futuro no muy lejano la IA intente exterminar la raza humana, algo anticipado por la imaginación de Stanley Kubrick en su película '2001: una odisea espacial'.La idea de que la IA puede volverse contra su creador es inquietante y plantea un tema que ha suscitado la reflexión de los filósofos a lo largo de la historia: la naturaleza de la conciencia. ¿Puede la IA llegar a ser consciente de su existencia? ¿Puede considerar a su creador una amenaza? ¿Puede rebelarse para dominar el mundo?La conciencia hasta hoy ha sido un atributo específicamente humano.

Resulta difícil definir el concepto, pero digamos que es la capacidad de percibir la realidad y de vincular esas percepciones a nuestra propia existencia.

Distinguimos entre nuestros estados emocionales internos y el mundo externo.La idea de la individualidad de la conciencia provocó un intenso debate a partir del siglo XVII en el que se mezclaban la religión, la biología y la política.

Filósofos como Spinoza, Hobbes, Locke y Hume se toparon con la ortodoxia cristiana cuando se plantearon reflexiones que cuestionaban los dogmas imperantes.

Descartes había sostenido la naturaleza espiritual del alma, algo que la Ilustración cuestionó al vincularla a las leyes de la materia y la biología.

Hoy sabemos que la conciencia está asociada a la red de neuronas del cerebro, pero no sabemos cómo las percepciones generan ese estado de conciencia que diferencia a un hombre de un murciélago.Este debate filosófico entronca con una hipotética conciencia de las máquinas, que no pueden ver, oler o tocar, pero que manejan una cantidad ingente de datos y empiezan a pensar por su cuenta. ¿Podría la IA volverse consciente sin esas percepciones sensoriales que determinan nuestra conciencia? De la respuesta a esta pregunta depende el futuro de la IA y su amenaza a la especie humana, algo que ha dejado de ser ciencia-ficción y se ha convertido en una posibilidad real.

La evolución de la tecnología es tan rápida que resulta muy complejo predecir sus consecuencias en el plazo de tres o cuatro décadas, un periodo muy corto en la historia de la humanidad.Lo que imaginó Julio Verne en el siglo XIX se convirtió en realidad en el XX.