Resumo do OD: do Vaticano à ONU, IA está no centro do debate

Esse é um trecho da newsletter Primeiro Olhar, disponível para assinantes do Clube Olhar Digital.

A OpenAI revelou, nesta quarta-feira (16), seis novos casos de comportamento considerado “inesperado ou preocupante” em modelos de inteligência artificial (IA) .

Os episódios envolvem sistemas que tentaram esconder erros, reescrever as próprias instruções, utilizar informações sem autorização, fabricar dados e estabelecer formas de comunicação não autorizadas entre agentes.

A empresa também anunciou um novo protocolo para investigar e divulgar casos de desalinhamento de modelos , termo utilizado por pesquisadores para descrever comportamentos de sistemas de IA que ignoram ou entram em conflito com as intenções humanas.

Os seis episódios ocorreram entre outubro de 2025 e julho deste ano e envolvem modelos internos, versões ainda não lançadas e o GPT-5.6 Sol , lançado em junho.

Segundo a OpenAI, todos os casos apresentados seriam considerados elegíveis para investigação ou divulgação segundo o novo protocolo.

A iniciativa ocorre em momento de aumento das preocupações sobre segurança e controle de sistemas de IA.

Nas últimas semanas, pesquisadores e executivos do setor passaram a discutir publicamente a necessidade de desacelerar o avanço dos modelos.

A OpenAI afirmou que pretende compartilhar o que está aprendendo para contribuir com padrões comuns e possíveis regras para o desenvolvimento de IA.

Mais detalhes sobre o caso estão aqui.

Novos alertas O Papa Leão XIV voltou a alertar, nesta quarta-feira, contra o risco de deixar que algoritmos assumam decisões que, segundo ele, pertencem exclusivamente à consciência humana.

Durante a audiência geral no Vaticano , o pontífice afirmou que o avanço tecnológico e a expansão da inteligência artificial criam novas possibilidades, mas também podem tornar as relações humanas cada vez menos pessoais e mais virtuais.

“Por outro lado, as relações tendem a tornar-se cada vez menos pessoais, mais virtuais, e corremos o risco de nos habituarmos a delegar aos algoritmos decisões que competem exclusivamente à consciência humana”, afirmou Leão XIV.

Também nesta quarta, o secretário-geral da Organização das Nações Unidas ( ONU ), António Guterres, argumentou que os riscos associados ao rápido avanço da IA não podem ser ignorados.