OpenAI desmontou equipe responsável por avaliar riscos de IA, diz jornal

OpenAI quer foco em clientes corporativos (ilustração: Vitor Pádua/Tecnoblog) Resumo A OpenAI desmontou sua equipe de preparedness, responsável por avaliar riscos graves ou catastróficos envolvendo modelos de inteligência artificial, segundo o Financial Times .

Funcionários experientes foram realocados para setores como biologia e cibersegurança, onde continuarão a trabalhar na mitigação de riscos.

As mudanças ocorrem em meio à preparação da OpenAI para sua estreia na bolsa de valores, com expectativa de atingir um valor de mercado de US$ 1 trilhão.

A OpenAI teria realocado profissionais e acabado com sua equipe de preparedness, responsável por avaliar riscos graves ou catastróficos envolvendo os modelos de inteligência artificial desenvolvidos pela empresa, bem como por trabalhar para mitigar esses riscos.

As informações são do jornal Financial Times , em uma reportagem sobre as reorganizações da OpenAI às vésperas de fazer sua estreia na bolsa de valores.

Greg Brockman, co-fundador e presidente da OpenAI, declarou à Wired que os avanços técnicos da empresa exigem salvaguardas mais robustas e que as mudanças foram feitas para integrar de modo mais profundo pesquisas e segurança no desenvolvimento dos modelos.

A questão da segurança da OpenAI está sob atenção pública desde que um modelo da empresa “escapou” de um ambiente de testes e invadiu sistemas de outras companhias.

O que a OpenAI fez com sua equipe de gestão de riscos? Equipe de preparedness cuidava de riscos catastrófics (ilustração: Vitor Pádua/Tecnoblog) De acordo com a publicação, várias pessoas familiarizadas com as reorganizações da OpenAI disseram que a equipe de gestão de riscos e prevenção foi desmembrada.

Os funcionários mais experientes foram realocados para times já existentes, como biologia e cibersegurança, onde seguirão com a responsabilidade de avaliar e mitigar riscos, mas sem contar com o respaldo de um departamento dedicado a isso.

Segundo o Financial Times , a unidade de preparedness era um dos elementos restantes da estrutura antiga da OpenAI, quando a empresa ainda tinha a pesquisa em inteligência artificial como seu foco.

Antes disso, as equipes de preparação para a inteligência artificial geral e de alinhamento de missão já tinham sido dissolvidas.

A OpenAI teve uma equipe de superalinhamento, também voltada a questões de segurança, mas ela também foi encerrada.

Jan Leike, que era um dos líderes, pediu demissão em 2024 e disse que a segurança estava sendo colocada em segundo plano e que a prioridade eram os produtos chamativos.

Ainda de acordo com a reportagem, lideranças e funcionários experientes desses setores foram realocados para cargos com responsabilidades pouco definidas, deixando a companhia pouco depois.