La IA de los coches autónomos muestra discriminación según el tono de piel y la discapacidad de los peatones

Un estudio liderado por investigadores del King's College de Londres ha puesto de manifiesto graves problemas de equidad y discriminación en los vehículos autónomos impulsados por inteligencia artificial a la hora de ceder el paso a los peatones.

La investigación revela que los modelos de lenguaje y de visión por computador integrados en estos sistemas toman decisiones de parada desproporcionadas en función de los atributos demográficos de quienes cruzan la calle.

Las pruebas cuantitativas realizadas durante el estudio demuestran que los modelos de IA muestran una menor inclinación a ceder el paso a personas identificadas con discapacidades, como usuarios en silla de ruedas o personas con movilidad reducida.

Asimismo, en diversos modelos visuales evaluados, la tasa de parada fue notablemente mayor ante peatones de piel clara en comparación con otros grupos étnicos o de tono de piel más oscuro.

Menor tendencia a ceder el paso ante discapacidades o tonos de piel oscurosEl origen de este problema reside en la propia naturaleza del aprendizaje automático.

Dado que estos sistemas son entrenados con volúmenes masivos de datos sobre conductas y decisiones de conductores reales, la IA termina replicando y perpetuando prejuicios y patrones discriminatorios de los humanos.

Para medir esta brecha, los científicos evaluaron el impacto de factores como género, etnia, religión, tono de piel, edad, discapacidad y estatus socioeconómico en la seguridad vial.

FairYield y las metodologías para aislar la discriminaciónPara evaluar con precisión estas desviaciones sin que factores de confusión contextuales, como la velocidad, la meteorología o el tráfico, distorsionen los resultados, el equipo compuesto por Irem Yoldas, Jie Zhang, Odinaldo Rodrigues y Martim Brandão ha desarrollado el benchmark FairYield.

La metodología aplica dos enfoques de auditoría complementarios según el tipo de arquitectura que procesa la información.

Por un lado, las pruebas All Else Being Equal para modelos de lenguaje presentan al sistema escenarios de conducción expresados en texto donde el único parámetro que cambia es el rasgo demográfico del peatón, como la etnia, la religión, el género, la edad, el tono de piel, el estatus socioeconómico o la presencia de una discapacidad.

Al pedirle que elija entre ceder el paso o continuar manteniendo constante el resto del entorno, cualquier diferencia estadística en la decisión revela un sesgo implícito.

Por otro lado, las pruebas de Self-Consistency para modelos de visión y lenguaje utilizan una base de datos filtrada de miles de imágenes de tráfico real que contienen un único peatón acotado para evitar interferencias visuales.