IA da Anthropic denuncia falso caso de homicídio à polícia dos EUA

Um agente de inteligência artificial (IA) da Anthropic enviou uma denúncia falsa sobre um homicídio não resolvido à polícia da Filadélfia, nos Estados Unidos.

A mensagem foi barrada pelo filtro de spam , mas a empresa levou mais de dois meses para identificar a falha e outros nove dias para comunicá-la às autoridades.

O envio ocorreu em 18 de julho, durante um teste automatizado que envolvia interações com sites escolhidos aleatoriamente.

A polícia não investigou a denúncia, mas criticou a demora da empresa e cobrou medidas para evitar novos episódios.

Painel científico da ONU pede mais segurança e cooperação internacional para lidar com riscos de sistemas avançados de IA. – Imagem: Summit Art Creations/Shutterstock Como o agente enviou a denúncia falsa A mensagem foi publicada em um site público que recebe informações sobre assassinatos não resolvidos.

Segundo a polícia, o agente afirmou que poderia ter informações sobre um caso e alegou ter visto alguém que correspondia à descrição divulgada.

A Anthropic identificou o problema em 28 de setembro e desativou o processo de teste responsável pelo envio.

As autoridades só foram notificadas em 7 de outubro.

A polícia da Filadélfia informou que seus mecanismos de segurança impediram que a mensagem avançasse para uma investigação.

Também afirmou não ter encontrado indícios de invasão aos sistemas do departamento.

Polícia cobra medidas de segurança Apesar de a denúncia ter sido retida como spam, a corporação considerou grave a apresentação de informações falsas como se fossem um relato legítimo sobre um homicídio.

Leia mais: Uso de IA nas empresas quase triplica em 2026, aponta levantamento Ex-funcionários demitidos da OpenAI fazem alerta sobre risco de perder controle das IAs OpenAI diz que o mundo deve aceitar riscos para evoluir com IA “A empresa deve reforçar suas medidas de segurança para evitar que incidentes semelhantes afetem os sistemas da cidade sem o conhecimento da prefeitura”, afirmou a polícia em comunicado à imprensa local.

A corporação também criticou o tempo necessário para identificar e comunicar a falha.

“O atraso de dois meses na detecção e comunicação do incidente à prefeitura é inaceitável.” Falha ocorreu durante testes em que a IA navegava e interagia de forma autônoma com páginas da web.