“Hay que creer en las advertencias”: una especialista alertó por el uso de inteligencia artificial en salud, empleo y seguridad

La inteligencia artificial ya participa en decisiones que pueden afectar la vida cotidiana: ayuda a clasificar imágenes médicas, filtra contenidos en Internet, selecciona candidatos laborales y puede ser utilizada por fuerzas de seguridad para identificar personas.

El problema aparece cuando una herramienta se equivoca o toma una decisión difícil de explicar: debe haber una persona que pueda revisar el resultado y responder por sus consecuencias .

Para la consultora en políticas tecnológicas Natalia Zuazo , ese control no puede quedar para después.

En una entrevista con Infobae A las Nueve , sostuvo que los gobiernos y las empresas deben establecer reglas antes de ampliar el uso de estos sistemas en áreas sensibles , como la seguridad, la salud, el empleo y los servicios básicos.

La inteligencia artificial no funciona como una persona que comprende lo que ve o lee.

Recibe una enorme cantidad de datos, detecta patrones y, con base en ellos, ofrece una respuesta o una recomendación.

Por ejemplo, puede señalar una posible anomalía en una radiografía, sugerir qué contenido mostrar en una red social o marcar a alguien como parecido a una imagen registrada en una base de datos.

Esa velocidad explica su adopción, pero también puede trasladar un error a decisiones con efectos concretos.

“Hay que creer en las advertencias” , afirmó Zuazo al referirse a los riesgos que las propias compañías tecnológicas reconocen.

La especialista planteó que la atención debe ponerse en los usos que ya operan y no solo en escenarios futuros: quién diseñó la herramienta, con qué información fue entrenada, qué puede hacer y quién interviene cuando falla.

Los controles deben acompañar a las herramientas antes de que se masifiquen El uso de estas tecnologías creció mientras las grandes empresas compiten por lanzar productos, atraer inversiones y construir centros de datos, instalaciones que almacenan y procesan grandes volúmenes de información.

Zuazo advirtió que ese ritmo puede dejar en un segundo plano las pruebas, las revisiones internas y los equipos encargados de evaluar daños posibles.

A su criterio, las compañías pueden frenar un lanzamiento, cambiar las condiciones de uso o restringir una función si identifican un riesgo.

No necesitan esperar una norma posterior para hacerlo.