Las amenazas que plantea el vertiginoso desarrollo de la IA: del uso malicioso a la superación de las capacidades humanas

Una parte de este texto está escrita con inteligencia artificial.

No con el objetivo de fomentar su uso en el periodismo, sino de poner de manifiesto que si no se especifica cuál, es casi imposible determinarlo más allá de identificar sus fórmulas lingüísticas habituales.

El avance de la IA ha alcanzado un ritmo que plantea enormes riesgos difíciles de anticipar, y uno de ellos es volverse indistinguible de las cosas que puede hacer un humano.

Sus aplicaciones ya permiten acelerar investigaciones científicas, automatizar tareas complejas y mejorar determinados servicios.

Sin embargo, el desarrollo de sistemas cada vez más potentes también abre interrogantes sobre la seguridad, el uso malicioso de esta tecnología y la posibilidad de que, en el futuro, algunas herramientas alcancen capacidades que superen la capacidad humana para controlarlas.

Informes científicos internacionales han advertido de que la IA puede facilitar actividades delictivas, ampliar la difusión de información falsa y generar riesgos para infraestructuras esenciales.Todo ello hace cuestionarse cómo gestionar una tecnología que evoluciona rápidamente sin renunciar a sus beneficios ni permitir que sus capacidades se conviertan en una amenaza global, sin incurrir en asuntos de ciencia ficción, sino refiriéndonos a problemas tangibles del mundo real.

Los sistemas actuales son capaces de redactar textos, generar imágenes, programar, analizar grandes cantidades de información y ejecutar determinadas tareas mediante instrucciones relativamente sencillas, que todos conocemos como 'prompts'.

Su evolución apunta hacia herramientas más autónomas, capaces de planificar operaciones, utilizar programas externos y completar procesos con una supervisión humana limitada, pero también hacia usos maliciosos de la misma o puntos de desarrollo en los que las capacidades humanas queden en un juego de niños en comparación con el alcance de la tecnología.

El problema podría adquirir otra dimensión si estos sistemas llegaran a desarrollar capacidades muy superiores a las actuales en campos como la investigación científica, la estrategia o la ciberseguridad.

Una inteligencia artificial extremadamente avanzada podría acelerar descubrimientos beneficiosos para la humanidad, pero también encontrar nuevas formas de explotar vulnerabilidades técnicas o sociales.

El Informe Internacional sobre la Seguridad de la Inteligencia Artificial de 2025, elaborado con la participación de expertos de distintos países, recoge las preocupaciones relacionadas con el uso malicioso, los fallos de funcionamiento y la posibilidad de perder el control sobre sistemas cada vez más sofisticados.