Europa pone a ChatGPT bajo mayor supervisión y le exige cumplir nuevas reglas

La Unión Europea ha clasificado a ChatGPT como un motor de búsqueda en línea de gran tamaño, una designación que somete al servicio de OpenAI a nuevas obligaciones y a un mayor nivel de supervisión bajo la Ley de Servicios Digitales, conocida como DSA por sus siglas en inglés.

La decisión obligará a la compañía a evaluar y mitigar riesgos relacionados con la difusión de contenido ilegal, la protección de los menores y el bienestar físico y mental de los usuarios.

La Comisión Europea considera que ChatGPT cumple el requisito necesario para recibir esta designación al superar los 45 millones de usuarios mensuales promedio en la Unión Europea.

Tras la notificación, OpenAI dispondrá de un plazo de cuatro meses para adaptar el servicio a las obligaciones correspondientes, con enero de 2027 como fecha límite señalada para cumplir con las nuevas exigencias.

La decisión supone un nuevo nivel de escrutinio sobre uno de los servicios de inteligencia artificial generativa con mayor número de usuarios del mundo.

A partir de esta clasificación, la Comisión Europea también tendrá mayores facultades para investigar el funcionamiento del servicio y supervisar su cumplimiento de la normativa.

ChatGPT deberá evaluar los riesgos de su sistema La Ley de Servicios Digitales establece obligaciones específicas para las plataformas y servicios digitales que alcanzan una escala suficientemente grande dentro de la Unión Europea.

En el caso de ChatGPT, la designación obliga a analizar los riesgos sistémicos que puedan derivarse de sus sistemas y algoritmos.

Entre los aspectos que deberán ser evaluados y mitigados se encuentra la posible difusión de contenido ilegal.

También deberán analizarse los efectos negativos que el servicio pueda tener sobre los menores y sobre el bienestar físico y mental de sus usuarios.

La normativa contempla además riesgos relacionados con los derechos fundamentales, los procesos electorales y la seguridad pública .

Esto significa que la empresa tendrá que establecer mecanismos para identificar los problemas asociados al uso de sus sistemas y adoptar medidas para reducirlos.

La Comisión Europea podrá evaluar las funcionalidades de ChatGPT y otros sistemas relacionados para determinar si el servicio cumple con las obligaciones establecidas.

El organismo comunitario también será competente para supervisar la aplicación de las normas y, en caso necesario, investigar posibles incumplimientos.