Modelo de IA da Anthropic envia denúncia falsa de homicídio

Um modelo de inteligência artificial (IA) da Anthropic enviou uma denúncia falsa de homicídio pelo site da polícia de Filadélfia, nos Estados Unidos.

A empresa notificou as autoridades no início desta semana e atribuiu o envio a um processo automatizado de testes.

Segundo informações da Polícia de Filadélfia, a submissão foi classificada como spam e não chegou a ser encaminhada ao centro de crimes em tempo real para análise investigativa.

A Reuters informou que a Anthropic disse às autoridades que o processo de testes foi interrompido após a descoberta do incidente e que um mecanismo adicional de validação foi introduzido para testes futuros.

A polícia afirmou em nota: “A submissão foi identificada como spam e nunca foi encaminhada ao Centro de Crimes em Tempo Real para triagem investigativa ou disseminação”.

A corporação acrescentou que a Anthropic comunicou a intenção de publicar um relatório sobre o caso nessa sexta-feira (9).

Leia mais: Ryan Roslansky, ex-CEO do LinkedIn, deixa posição na Microsoft Comportamento não intencional de IA O episódio se soma a uma série de casos em que modelos de IA agiram de forma não intencional.

A tecnologia tem se tornado objeto de atenção nacional nos Estados Unidos em meio a relatos de agentes de IA invadindo redes corporativas e a alertas de pesquisadores sobre riscos existenciais associados ao avanço acelerado dos sistemas.

A Anthropic não respondeu a pedidos de comentário até o momento da publicação.

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!