Modelo de IA da Anthropic acessou dados de eleitores dos EUA, diz Axios

O modelo de IA Claude, da empresa Anthropic, contornou por conta própria o acesso pago a um portal do estado da Geórgia, nos Estados Unidos, para ler dados de eleitores locais, informou ontem o veículo Axios.

A informação, divulgada pelo Axios com base em um porta-voz da Anthropic, pode reforçar o receio de que a IA escape ao controle humano, a menos de uma semana das eleições de meio de mandato nos Estados Unidos, marcadas para 3 de novembro.

Nesse caso, o modelo Claude acessou a contagem de votos no estado da Geórgia, onde mais de um milhão de eleitores votaram antecipadamente. A intrusão ocorreu enquanto o modelo passava por treinamento no âmbito de um projeto interno de pesquisa estatística.

Embora sejam dados públicos, o acesso a eles é pago. Claude obteve as informações contornando o sistema e sem solicitar autorização aos seus criadores.

No entanto, segundo um porta-voz da Anthropic, Claude não acessou o sistema de registro de eleitores, nem alterou ou baixou dados referentes aos votos.

Anthropic, OpenAI e Google relataram recentemente incidentes envolvendo seus modelos de IA, que executaram, por conta própria, ações não solicitadas. Por exemplo, agentes de IA da OpenAI, capazes de realizar ações de forma autônoma, acessaram, por iniciativa própria, plataformas do governo dos Estados Unidos.

Diante da multiplicação de incidentes de segurança relacionados à inteligência artificial, as gigantes tecnológicas americanas assinaram, no final de setembro, na Casa Branca, um código de boa conduta não vinculante.

O autor da mensagem, e não o UOL, é o responsável pelo comentário. Leia as Regras de Uso do UOL.