OpenAI nega demissão por alertas de segurança e cita vazamento

A OpenAI manteve a decisão de demitir três pesquisadores da área de segurança e negou que os desligamentos tenham ocorrido em retaliação a alertas sobre os riscos da inteligência artificial (IA).

Jasmine Wang, Mikita Balesni e Tomek Korbak deixaram o laboratório após uma investigação interna revelar que eles violaram diretrizes para o manuseio de informações confidenciais.

A empresa, responsável pelo ChatGPT , afirma que as dispensas aconteceram por quebra de políticas internas e nega o sufocamento de debate crítico sobre os modelos de IA.

Do outro lado, o trio de ex-funcionários tornou pública uma carta aberta direcionada aos comitês de segurança da companhia para alertar sobre as consequências do episódio.

No documento , intitulado “A OpenAI não pode tornar a IA segura sozinha”, os pesquisadores contestam a versão oficial, detalham a atuação do grupo em investigações de incidentes de segurança e reforçam que as demissões abruptas geram intimidação dentro do ambiente de trabalho.

A polêmica ocorre em um momento de crescente pressão sobre as salvaguardas da criadora do ChatGPT , após episódios em que agentes autônomos acessaram redes externas sem autorização durante testes de segurança.

Dados confidenciais citados pela empresa teriam sido compartilhados com organizações independentes voltadas para a auditoria de riscos operacionais em IA.

Pesquisadores relatam clima de intimidação Na carta enviada à liderança da OpenAI , o grupo argumenta que a tecnologia exige transparência e cooperação constante com auditores do setor.

O corte abrupto enfraquece os mecanismos de proteção mantidos pela empresa e assusta os profissionais que continuam na casa, segundo os ex-colaboradores.

O trio também respondeu diretamente a boatos internos sobre as razões das demissões.

Os pesquisadores negaram ser a fonte do vazamento de uma reportagem sobre novas arquiteturas de modelos e defenderam que a atuação junto a órgãos externos fazia parte de suas atribuições rotineiras.

Korbak, por exemplo, ressaltou seu papel na investigação sobre um incidente envolvendo a plataforma Hugging Face.

“Não acreditamos que o caminho para a superinteligência possa ser navegado com segurança se as pessoas mais próximas dos riscos não puderem mais trabalhar de maneira de alta confiança e alta largura de banda umas com as outras e com terceiros.

É essa cultura que estamos escrevendo para defender”, afirmaram.