União Europeia força Big Techs a rotularem conteúdo feito por IA

A União Europeia começou a aplicar novas regras de transparência para conteúdos criados ou modificados por inteligência artificial (IA). O Artigo 50 do AI Act, que entrou em vigor em 2 de agosto, determina que empresas identifiquem imagens, vídeos e áudios gerados por IA quando eles puderem ser confundidos com conteúdos reais.

A regra também abrange determinados textos produzidos ou manipulados por IA sobre assuntos de interesse público , caso não tenham passado por revisão humana ou controle editorial. A medida coloca a UE entre as regiões com regras mais rígidas para identificar conteúdos sintéticos.

O descumprimento pode resultar em multas de até 15 milhões de euros ou 3% do faturamento anual mundial da empresa. Como grandes laboratórios de IA operam em diversos mercados e o custo é alto para manter modelos ou versões de produtos diferentes para cada região, as exigências europeias também podem influenciar a forma como essas tecnologias são usadas fora do bloco.

A legislação não determina uma tecnologia específica para fazer a identificação. Em vez disso, ela exige que a origem sintética do conteúdo possa ser reconhecida. Assim, empresas de IA podem recorrer a diferentes métodos.

Uma das opções são as marcas d'água invisíveis , inseridas em imagens, vídeos ou áudios. O SynthID, do Google, é um exemplo dessa tecnologia. Como o sinal fica incorporado ao próprio conteúdo, ele pode continuar presente depois de algumas alterações, como cortes ou compressão.

Outra possibilidade é usar metadados , que registram informações sobre a origem do arquivo. O método é semelhante aos dados EXIF encontrados em fotografias digitais, mas tem uma desvantagem: essas informações podem desaparecer quando o arquivo é editado, convertido ou publicado em determinadas plataformas.

A UE também estabelece formas visuais de identificação para conteúdos gerados ou modificados por IA. Os rótulos devem aparecer de maneira clara quando o usuário entra em contato com o material. Já em conteúdos artísticos, criativos, satíricos ou de ficção, a exigência é adaptada : o aviso sobre o uso de IA precisa informar o público, mas sem prejudicar a apresentação ou a fruição da obra.

As diretrizes diferenciam conteúdos totalmente gerados por IA daqueles que foram apenas modificados. Entre os exemplos estão:

AI : indica que houve participação de IA na criação ou alteração do conteúdo, como em um deepfake com voz ou imagem artificial;

AI GENERATED : usado quando o conteúdo foi produzido integralmente por IA, como um vídeo fictício de um político ou uma música criada por IA;

AI MODIFIED : identifica conteúdos originalmente feitos por humanos que foram modificados por IA, como uma troca de rosto em uma foto real.

A principal preocupação é reduzir o impacto de desinformação, golpes e deepfakes . Com modelos de IA cada vez mais capazes de produzir imagens, vozes e vídeos convincentes, fica difícil para uma pessoa identificar sozinha se determinado material é autêntico.

A identificação também busca facilitar a rastreabilidade do conteúdo.