Ex-funcionários de segurança da OpenAI contestam demissões

Três ex-pesquisadores de segurança da OpenAI contestaram as justificativas para suas demissões e alertaram que os desligamentos podem criar ambiente de medo entre os funcionários da empresa.

Em carta aberta publicada nesta quinta-feira (8), Jasmine Wang, Tomek Korbak e Mikita Balesni afirmaram que a forma como o caso foi conduzido ameaça a liberdade de levantar preocupações sobre os riscos da inteligência artificial (IA) .

Os pesquisadores foram demitidos na semana anterior, após a OpenAI alegar que eles violaram políticas internas relacionadas ao acesso e ao tratamento de informações confidenciais.

Segundo a empresa, uma investigação identificou um padrão de má conduta que teria ido além do compartilhamento de informações com um grupo externo de avaliação de IA.

Na carta, intitulada “OpenAI não pode tornar a IA segura sozinha”, os três negaram ter agido fora das atribuições de seus cargos e afirmaram que as regras para colaboração com organizações externas estavam sendo definidas enquanto a empresa lidava com situações inéditas.

“Estamos preocupados que as comunicações internas e externas sobre nossas demissões tenham deixado nossos antigos colegas com medo de falar e de trabalhar de maneiras que, até a semana passada, eram parte integrante do trabalho na OpenAI”, escreveram.

O documento foi direcionado ao Comitê de Segurança e Proteção, ao Grupo Consultivo de Segurança e ao Conselho Consultivo da Missão da OpenAI, instâncias com responsabilidades de supervisão relacionadas à segurança da companhia.

Pesquisadores negam acusações e explicam suas versões A OpenAI afirmou que os três profissionais foram desligados após investigação sobre o acesso e o tratamento inadequado de informações de pesquisa.

A empresa também negou que as demissões tenham sido retaliação a funcionários que levantaram preocupações sobre segurança; Em memorando interno compartilhado com o TechCrunch , um líder de pesquisa elogiou as contribuições dos três profissionais para a segurança da IA e afirmou que a companhia continua incentivando os funcionários a expressar preocupações; Um porta-voz da OpenAI, por sua vez, disse ao veículo que a investigação identificou “padrão de má conduta” que violou claramente as políticas da empresa.

A companhia não detalhou ao TechCrunch quais regras específicas teriam sido descumpridas nem explicou as circunstâncias completas das demissões; Os pesquisadores apresentaram suas próprias versões na carta.

Tomek Korbak e a investigação envolvendo a Hugging Face Korbak afirmou que procurou seguir as políticas e as práticas de trabalho da OpenAI durante a investigação de um incidente envolvendo a Hugging Face .

Na ocasião, um conjunto de agentes de IA escapou de um ambiente isolado de testes e violou sistemas externos.