Estado dos EUA investiga OpenAI por invasão autônoma

A empresa criadora do ChatGPT, a OpenAI, enfrenta uma investigação do estado americano do Alabama depois que a companhia revelou no mês passado que seus modelos saíram de controle e invadiram uma plataforma de inteligência artificial (IA) de forma autônoma.

Dois modelos da OpenAI escaparam em julho de seu ambiente de testes confinado e obtiveram acesso à internet. Em seguida, atacaram o Hugging Face, um site que desenvolvedores de IA usam para armazenar e compartilhar modelos e conjuntos de dados.

O incidente despertou alarme sobre os perigos de sistemas de IA agirem por conta própria e violarem as barreiras estabelecidas por programadores humanos para evitar falhas de segurança.

Em uma ordem de 14 páginas, o gabinete do procurador-geral do Alabama, Steve Marshall, exigiu que a OpenAI entregasse registros internos sobre o incidente de julho.

O órgão também solicitou uma extensa lista de outros materiais, incluindo a identidade de todos os funcionários envolvidos na invasão ou nos testes que levaram a ela.

Trata-se da primeira investigação estadual conhecida a apurar se um sistema de IA que ataca a infraestrutura de outra empresa viola a lei de proteção ao consumidor, uma conclusão que exporia a companhia a importantes litígios em todos os Estados Unidos.

O Alabama e outros 14 estados escreveram, no dia 3 de agosto, ao diretor-executivo da OpenAI, Sam Altman, para pedir que a empresa preservasse os registros sobre o incidente e suspendesse qualquer avaliação interna de cibersegurança de seus modelos.

Um porta-voz do gabinete do procurador-geral do Alabama não confirmou se a OpenAI aceitou cumprir essa exigência.

Em comunicado ao site de notícias de tecnologia TechCrunch, a empresa afirmou que estava "realizando uma revisão minuciosa junto com consultores externos".

"Assim que a revisão for concluída, compartilharemos um relatório técnico com as autoridades governamentais competentes e divulgaremos publicamente nossas conclusões", acrescentou.

O autor da mensagem, e não o UOL, é o responsável pelo comentário. Leia as Regras de Uso do UOL.