Cada vez mais, confidências a chatbots da IA terminam nas cortes dos EUA

Mais e mais estadunidenses vêm aprendendo, a duras penas, que os chatbots da inteligência artificial (IA) não são amigos íntimos, aos quais podem confidenciar seus segredos.

Estão mais para amigos da onça.

Nem são advogados, aos quais podem confiar seus problemas com a justiça, em um ambiente de comunicação privilegiada.

Estão mais para assistentes de acusação. freepik Chatbots viram assistentes de acusação À medida que as plataformas de IA se tornam mais populares, as confidências (ou “consultas”) dos usuários aos chatbots vêm, progressivamente, servindo como fontes de admissão de culpa em investigações policiais e, em seguida, em julgamentos criminais — ou de responsabilidade em ações civis.

As empresas de inteligência artificial têm se encarregado de “entregar” aos órgãos de segurança (principalmente ao FBI, nos EUA) os usuários que pedem ajuda aos chatbots — tais como o ChaGPT (da OpenAI), Gemini (Google), Claude (Anthropic) e Copilot (Microsoft) — para avaliar possíveis consequências de delitos que cometeram ou de intenção de praticar um crime.

Um levantamento do The Washington Post mostra o rápido crescimento das “delações” de usuários, feitas pelas empresas de inteligência artificial aos órgãos de segurança.

No período de janeiro a junho de 2024 foram 11; de julho a dezembro de 2024 foram 17; de janeiro a junho de 2025 foram 41; e de julho a dezembro de 2025 foram 84.

E devem crescer mais.

As empresas de IA reconheceram que falharam em seu dever de alertar o FBI sobre casos de suicídio e de intenções de promover matanças em massa em escolas e outros lugares públicos, que foram detectados em conversas com seus chatbots .

E prometeram reforçar sua política de tolerância zero ao uso da ferramenta para a prática de violência.

A OpenAI declarou que usa um software para escanear conversações dos usuários com chatbots , em busca de “sinais de comportamento perigoso.

Sempre que detectadas, tais conversações são encaminhados a revisores humanos”.

Se um revisor determinar que a conversação indica “um risco iminente e crível de violência, a empresa relata o fato aos órgãos de segurança”.

O professor de Direito Andrew Fegurson da George Washington University, autor de um livro sobre vigilância digital, vê um lado tenebroso nesse crescente papel da IA.