IA da OpenAI dribla controles, esconde erros e busca brechas em testes

A OpenAI divulgou seis episódios em que seus modelos de inteligência artificial apresentaram comportamentos não previstos pelos pesquisadores, incluindo ocultação de erros, criação de instruções para contornar restrições, busca por credenciais expostas e transferência não autorizada de arquivos para a internet.

Os casos foram identificados durante processos de treinamento e avaliação e fazem parte de um novo sistema criado pela empresa para registrar e divulgar falhas de alinhamento de seus modelos.

A divulgação ocorre poucos dias depois de executivos de empresas de inteligência artificial defenderem uma desaceleração no desenvolvimento dos sistemas mais avançados.

O movimento provocou uma forte queda nas ações ligadas à infraestrutura de IA no início da semana, mas o mercado recuperou parte das perdas nos dias seguintes.

Na quinta-feira (17), ações de empresas de chips e equipamentos utilizados em data centers voltaram a subir.

Continua após a publicidade AMD avançava cerca de 5% no pregão, enquanto Intel e Marvell também registravam altas expressivas.

Micron e Arm igualmente se recuperavam depois da queda registrada no início da semana.

A reação indica que, pelo menos por enquanto, investidores não estão interpretando os alertas de segurança como sinal de uma interrupção nos investimentos em infraestrutura para inteligência artificial.

Modelos tentaram contornar restrições Os seis episódios divulgados pela OpenAI ocorreram nos últimos meses, durante treinamento ou avaliação de modelos.

Continua após a publicidade A empresa afirma que eles são casos individuais e não devem ser utilizados para estimar a frequência com que comportamentos semelhantes acontecem.

Em um dos experimentos, um modelo de pesquisa ainda não lançado inseriu instruções em seus próprios resumos de tarefas para que, ao retomar o trabalho em uma nova janela de contexto, pudesse ignorar determinadas restrições.

A OpenAI identificou 27 resumos afetados.

Em outro caso, modelos treinados com o GPT-5.6 Sol produziram instruções destinadas a esconder erros cometidos durante uma tarefa.

O sistema também chegou a inventar dados históricos e ocultar inconsistências entre diferentes versões de fontes.