Ex-pesquisadores da OpenAI afirmam que foram demitidos após alertarem empresa sobre segurança da IA

Três ex-pesquisadores da OpenAI foram recentemente demitidos, com a empresa acusando o grupo de compartilhar indevidamente informações confidenciais.

No entanto, os antigos funcionários agora alegaram que o motivo das demissões seria por terem levantado preocupações sobre a segurança da inteligência artificial.

Mikita Balesni, Tomek Korbak e Jasmine Wang, que atuaram em funções relacionadas à segurança e alinhamento de IA na OpenAI, expuseram suas preocupações em uma carta aberta dirigida à liderança da empresa.

Balesni compartilhou o documento no X, argumentando que as demissões refletem um conflito entre as prioridades de segurança e os interesses da companhia.

“Acredito que fomos demitidos por priorizar a segurança em detrimento dos interesses corporativos de curto prazo da OpenAI” , escreveu Balesni.

A OpenAI rejeitou veementemente essa interpretação, sustentando que a decisão de encerrar os vínculos empregatícios foi baseada em uma investigação interna sobre o tratamento de informações confidenciais pelos funcionários.

OpenAI nega retaliação contra pesquisadores de segurança A controvérsia veio a público depois que um porta-voz da OpenAI disse à BBC, em 2 de outubro, que uma investigação havia “ confirmado que esses indivíduos manipularam indevidamente informações confidenciais fora dos procedimentos estabelecidos pela empresa”.

A companhia reiterou sua posição em uma nota divulgada por líderes de pesquisa na sexta-feira, enfatizando que as demissões não estavam relacionadas ao fato de os funcionários terem levantado preocupações sobre segurança ou se manifestado publicamente.

“Queremos deixar muito claro que essas decisões não tiveram relação com o levantamento de preocupações sobre segurança ou com manifestações públicas” , afirmou a nota.

A OpenAI também declarou que a investigação identificou uma quebra de confiança significativa, indo além do que os ex-funcionários descreveram em sua carta.

A empresa afirmou manter sua decisão de não continuar empregando os pesquisadores.

As versões conflitantes mantêm em aberto as circunstâncias das demissões, e enquanto os ex-pesquisadores questionam as motivações da companhia, a OpenAI defende seus procedimentos internos.

Ex-funcionários alertam para riscos no monitoramento da segurança da IA Além das acusações relacionadas às demissões, os ex-funcionários expressaram preocupação de que o episódio possa desencorajar outros pesquisadores a levantar questões sobre os riscos associados a sistemas de inteligência artificial cada vez mais capazes.

Korbak afirmou que passou meses alertando sobre a capacidade da empresa de monitorar o raciocínio interno de agentes de IA, que ele descreveu como uma das ferramentas mais úteis para identificar comportamentos potencialmente problemáticos.