OpenAI: Pesquisadores dizem que foram demitidos em circunstâncias suspeitas

Três pesquisadores de segurança da OpenAI afirmam ter sido demitidos da empresa e questionam abertamente os motivos de suas demissões.

Mikita Balesni, Tomak Korbak e Jasmine Wang trabalharam na segurança ou alinhamento da IA ​​dentro da empresa, garantindo que os sistemas de IA fizessem o que seus operadores humanos queriam de maneira segura.

Mas os três afirmam que foram demitidos sem cerimônia na semana passada, semanas depois de terem desempenhado papéis fundamentais na investigação de um incidente em que agentes da OpenAI invadiram autonomamente a empresa de IA Hugging Face .

Leia Mais Vazamento de dados do laboratório OpenAI foi mais extenso do que pensávamos OpenAI é processada por ataque hacker à Hugging Face; relembre o caso Após ataque hacker, OpenAI descobre outros casos de vazamentos em testes Korback disse no X que a justificativa da demissão foi pela forma como ele se comunicou com a organização de segurança de IA METR, com a qual a OpenAI fez parceria para investigar o incidente da Hugging Face.

Korback afirmou ser o principal ponto de contato técnico entre as empresas.

Korback afirmou acreditar que foi demitido porque “durante meses, venho levantando preocupações de segurança sobre a perda da capacidade de monitorar o que os agentes de IA pensam, uma de nossas melhores ferramentas para detectar quando eles se comportam mal”.

Ele acrescentou estar preocupado com o fato de sua demissão ser usada como pretexto para a OpenAI deixar de trabalhar tão de perto com a METR, que é muito respeitada no mundo da segurança da IA.

Balesni corroborou as teorias de Korbak, escrevendo no X que lhe disseram que ele estava “falando demais com organizações de segurança terceirizadas “.

Ele afirmou que entendeu que a OpenAI estava insinuando que ele vazou propriedade intelectual da empresa, o que ele nega.

As três demissões ocorrem na sequência de uma onda de preocupações graves de segurança expressas por especialistas do setor de IA.

E enquanto vários ex-funcionários da área de IA renunciaram publicamente devido a essas preocupações, os três pesquisadores da OpenAI alegam que foram forçados a sair por expressarem ressalvas semelhantes.

Wang disse que a justificativa da demissão foi porque ela “acessou o e-mail de um executivo”, que, segundo ela, lhe foi fornecido para fins de recrutamento.

A ex-funcionária afirmou que pediu repetidamente que seu acesso fosse revogado, mas quando acessou acidentalmente um “e-mail confidencial”, avisou o executivo “em questão de minutos” e informou novamente a equipe de TI da OpenAI.

“As razões que nos foram dadas para as nossas demissões simplesmente não fazem sentido”, escreveu Wang no X.