Especialistas explican: ¿se puede controlar completamente a los agentes de inteligencia artificial?

Hace unos días, una IA protagonizó un hecho divertido, aunque también inquietante: una persona pidió a su agente de inteligencia artificial que le reservara una clase en el gimnasio.

Dicho y hecho, el agente obedeció y empleó todas las medidas existentes para lograr su objetivo: aunque la clase estaba saturada y su cliente estaba en lista de espera, el agente detectó una falla en el software y logró eliminar al resto de los inscriptos.

El hecho no es aislado y no es el más grave que ha tenido lugar hasta ahora: a fines de julio, los modelos más avanzados de OpenAI -la empresa dueña de ChatGPT- se descontrolaron durante una prueba de seguridad y, por iniciativa propia, hackearon a una popular plataforma para programadores.

Por una demanda que iniciaron 29 estados de EE.UU.

Comienza esta semana un juicio que podría llevar a Meta a la bancarrota En ese contexto, una pregunta inevitable se despierta entre los lectores: ¿es posible controlar a los agentes de IA? Para tranquilidad de muchos, aunque los episodios recientes generaron incertidumbre, el escenario que presentan los agentes no es estrictamente el de Terminator .

De hecho, muchos especialistas coinciden en que, al indagar un poco en los hechos, el relato de ciencia ficción se cae fácilmente.

“Aparecen contraseñas débiles, accesos que no pedían contraseña, páginas internas de diagnóstico que habían quedado a la vista y formularios que aceptaban órdenes en lugar de datos.

Los agentes no necesitaron superpoderes ni hacer nada extraordinario; pasaron por puertas que estaban entreabiertas y que nadie les había dicho que no podían cruzar ”, explicó Jorge Luis Litvin, fundador y CEO de Safe-U, y especialista en riesgos de ciberseguridad.

“El modelo hizo exactamente lo que se lo entrenó para hacer: maximizar el resultado en una tarea, con los frenos removidos por decisión de los propios investigadores ”, explicó Eduardo Laens, CEO de Varegos, docente universitario especializado en IA y autor del libro Humanware , y agregó: “Llamar a esto pérdida de control real exigiría probar que el modelo mintió a los evaluadores para no ser descubierto, que dejó algo corriendo después de terminada la prueba o que se resistió a ser detenido”.

Sergio Pernice, director de la carrera de inteligencia artificial de UCEMA, aclaró, además, que muchos de los hechos que ocurrieron recientemente en relación al “descontrol de agentes de IA” se dieron en el contexto de evaluaciones internas, donde deliberadamente se desactivaron o redujeron salvaguardas que sí están presentes en los productos comerciales que llegan al público.

“No es que estos mismos modelos, en su uso cotidiano, tengan las manos tan libres como en esos ejercicios”, advirtió.