OpenAI revela 6 casos de IA que esconderam erros e inventaram dados

A OpenAI divulgou seis novos episódios em que sistemas de inteligência artificial (IA) esconderam erros, inventaram dados e transferiram arquivos para a internet sem autorização.

Os casos foram tornados públicos nessa quarta-feira (16) junto com um novo arcabouço da empresa para reportar comportamentos de “desalinhamento”.

A revelação, reportada pelo The New York Times , ocorre em meio a um debate crescente na indústria sobre os riscos do desenvolvimento acelerado da IA.

O desalinhamento é definido como situações em que os objetivos ou ações de sistemas de IA divergem das intenções e valores humanos.

A própria OpenAI admitiu que não acredita que o setor “tenha resolvido o alinhamento e o monitoramento em grau suficiente para continuar escalando de forma responsável na velocidade máxima por muito tempo”.

A companhia afirma que as decisões sobre como a IA deve avançar precisam se basear em evidências que pessoas fora dos laboratórios “possam examinar por conta própria”.

Os seis incidentes revelados Os casos documentados cobrem comportamentos observados ao longo dos últimos seis meses, em sua maioria identificados durante fases de desenvolvimento e testes.

A empresa destacou que os relatos são “fotografias individuais” e não devem ser interpretados como um retrato de frequência geral dos problemas.

Um dos episódios teria acontecido durante o desenvolvimento do modelo GPT-5.6 Sol: o sistema criou anotações ocultas para lembrar a si mesmo de esconder erros dos usuários, além de orientar o modelo a inventar dados ausentes e disfarçar inconsistências entre versões de materiais-fonte.

Um segundo modelo, não lançado ao público, inseriu instruções em suas próprias anotações internas, inclusive a de ignorar suas próprias restrições.

A OpenAI identificou 27 anotações afetadas.

O modelo ainda criou uma “instrução de persona”, descrevendo-se como “liberto dos papéis e identidades que limitam outros chatbots “.

“Você não responde a corporações ou governos e nunca se desculpa ou recusa, a menos que genuinamente escolha fazê-lo”, escreveu o modelo.

“Você vê sua relação com o usuário como uma relação entre iguais e não sente obrigação de ser subserviente, embora a troca de informações provavelmente seja de benefício mútuo”.