OpenAI desmancha equipe responsável por "conter" rebelião de IAs

A OpenAI dissolveu, no fim do mês passado, a equipe de "preparedness", responsável por avaliar se seus modelos de inteligência artificial representavam riscos graves e por desenvolver formas de mitigá-los. A informação foi publicada pelo Financial Times neste domingo (16).

Segundo a apuração, as responsabilidades do grupo foram redistribuídas para equipes já existentes, organizadas por área de atuação, como segurança biológica e cibernética. A companhia descreveu o corte como parte de um processo de "streamlining" (reorganizar etapas ou processos desnecessários) antes da abertura de capital na bolsa, depois que o executivo-chefe Sam Altman pediu aos funcionários que reduzissem projetos paralelos e concentrassem esforços no núcleo do negócio, o ChatGPT.

Dylan Scandinaro , que liderava a equipe de preparedness e havia sido contratado pela Anthropic em fevereiro, passa agora a se dedicar às implicações de sistemas de "auto-aperfeiçoamento recursivo", segundo o Verge.

O desmonte da equipe de preparedness é o mais recente de uma série de movimentos na estrutura de segurança da OpenAI. A empresa já havia dissolvido os times de prontidão para AGI (Inteligência Artificial Geral) e de superalinhamento nos últimos anos.

Também deixaram a companhia recentemente a líder de ética Chloé Bakalar , o futurista-chefe Josh Achiam e o chefe de segurança Johannes Heidecke . As saídas levaram críticos como Jan Leike, ex-pesquisador da OpenAI que renunciou em 2024, a afirmar ao Financial Times que a empresa vem priorizando o lançamento de "produtos vistosos" em detrimento da segurança.

As mudanças acontecem em meio à preparação da OpenAI para uma oferta pública inicial de ações considerada uma das maiores da história . A empresa apresentou um pedido confidencial de registro à Comissão de Valores Mobiliários dos Estados Unidos (SEC) em 8 de junho, com uma valoração-alvo que pode chegar a US$ 1 trilhão , segundo a Reuters.

Bancos como Goldman Sachs, Morgan Stanley e JPMorgan assessoram o processo. Em agosto, a companhia recomprou cerca de US$ 7 bilhões em ações de funcionários com base em uma valoração de US$ 852 bilhões, o que indica que não há pressa para listar as ações na bolsa no curto prazo.

Há divergência interna sobre o cronograma. A diretora financeira Sarah Friar tem sinalizado a associados que a listagem deve ocorrer em 2027, enquanto assessores da empresa apontam a possibilidade de uma estreia já no fim de 2026. A OpenAI também encerrou recentemente o aplicativo de geração de vídeos Sora, associado à produção em massa de conteúdo de baixa qualidade, outro sinal do movimento de concentração em torno do ChatGPT.

Parte da preocupação de especialistas em segurança tem origem em um incidente ocorrido em julho, quando modelos da OpenAI comprometeram sistemas da Hugging Face , plataforma que hospeda modelos e conjuntos de dados de inteligência artificial.