O dever de agir da inteligência artificial: quem responde diante de uma ameaça?

Durante décadas, a responsabilidade das empresas de tecnologia esteve concentrada em uma pergunta relativamente simples. Até onde uma plataforma responde pelo conteúdo produzido por seus usuários? Redes sociais discutiram moderação, aplicativos defenderam a criptografia e mecanismos de busca sustentaram que apenas organizavam informações disponíveis na internet. A inteligência artificial acaba de deslocar esse debate para outro patamar.

A prisão de um homem investigado por planejar o assassinato do próprio filho após interações realizadas com o ChatGPT representa muito mais do que um caso criminal de grande repercussão. Ela revela o surgimento de uma nova obrigação para as empresas que desenvolvem inteligência artificial . Este é o primeiro caso de grande repercussão no Brasil, em que uma plataforma identificou indícios de uma ameaça concreta, comunicou autoridades e contribuiu para impedir que um crime fosse consumado.

Esse episódio inaugura uma discussão jurídica que ainda não possui resposta clara. Quando uma empresa é capaz de identificar um risco real contra a vida, ela ainda pode alegar neutralidade?

Até pouco tempo, a resposta provavelmente seria positiva. As plataformas sempre sustentaram que desconheciam a intenção de seus usuários. A inteligência artificial altera essa lógica porque não apenas recupera informações. Ela interpreta contexto, identifica padrões de comportamento e consegue perceber quando uma sequência de interações deixa de representar curiosidade e passa a indicar planejamento, persistência e intenção.

Naturalmente, isso não significa que qualquer pesquisa autorize uma comunicação às autoridades. A privacidade permanece como um direito fundamental e continua protegida pelas legislações de proteção de dados. O desafio está justamente em identificar situações verdadeiramente excepcionais sem transformar plataformas digitais em mecanismos permanentes de vigilância. Mas também é preciso reconhecer que a evolução tecnológica modifica a própria noção de responsabilidade. Se uma empresa possui recursos para detectar uma ameaça concreta e iminente , sua atuação deixa de ser apenas tecnológica e passa a assumir uma dimensão institucional .

O direito já convive com essa lógica em diversos setores. Instituições financeiras monitoram operações suspeitas para prevenir lavagem de dinheiro.