Empresas de IA irão se explicar no Conselho da ONU; o que está em jogo?

OpenAI, Anthropic e a chinesa DeepSeek foram chamadas para falar sobre riscos da inteligência artificial no Conselho de Segurança da ONU, o órgão que lida com ameaças à paz internacional. O encontro parece um "puxão de orelha" global: cresce o medo de IAs cada vez mais poderosas fazerem coisas fora do combinado - e, no meio disso, EUA e China disputam quem manda no futuro da tecnologia.

*O Conselho de Segurança (com 15 países) se reúne nesta quarta-feira, em Nova York, durante a Assembleia Geral da ONU, para discutir "IA e segurança internacional", segundo a Reuters.

*A França, que preside o Conselho neste mês, convocou a sessão para olhar dois riscos: o uso malicioso de IA e a possibilidade de "perda de controle" de modelos avançados, de acordo com uma nota francesa citada pela Reuters.

*O Conselho tem a missão de manter a paz e a segurança internacionais - na prática, é a mesa onde a ONU discute crises e tenta coordenar respostas quando um tema pode virar problema entre países.

*O órgão já tinha feito sua primeira reunião sobre riscos de IA em 2023, quando a China alertou que a tecnologia não deveria virar um "cavalo solto" e os EUA disseram que ela pode ser usada para censurar ou reprimir pessoas.

*Sam Altman, CEO da OpenAI, planeja fazer uma declaração presencial ao Conselho, segundo a Reuters.

*Diplomatas esperam participação de representantes seniores da Anthropic; o CEO Dario Amodei deve participar remotamente, segundo a Bloomberg.

*As chinesas DeepSeek e Moonshot foram convidadas a fazer declarações, segundo a Reuters.

*A presença da DeepSeek ainda não é certeza: até segunda-feira (22), a Reuters não tinha confirmado quem falaria pela empresa nem se ela compareceria pessoalmente; o fundador Liang Wenfeng não planeja ir, segundo fontes ouvidas pela agência.

*Um ponto que torna a DeepSeek diferente das rivais americanas é o modelo de distribuição: ela publica "pesos" (o "miolo" do modelo, que permite que terceiros rodem a IA por conta própria). As empresas chinesas ainda são acusadas de destilarem (quando uma IA menor é treinada por um modelo maior) os modelos americanos.

* Risco de IA fora do controle: líderes do setor voltaram a pedir uma desaceleração coordenada no avanço das IAs mais poderosas, com o argumento de que elas podem melhorar rápido demais e escapar da supervisão humana.

* IA em guerra e segurança: o Georgetown Institute for Women, Peace and Security (GIWPS) defende que a ONU use estruturas que já existem (como diretrizes e acordos do sistema ONU) para sair do "voluntário" e chegar a regras com força real, porque a tecnologia já está entrando rápido em áreas como vigilância, decisões em campo e sistemas militares.

* Desinformação em escala industrial: o GIWPS também aponta que deepfakes e campanhas de desinformação geradas por IA já circulam numa escala que sistemas de moderação não conseguem acompanhar, com impacto desproporcional sobre grupos mais vulneráveis, como mulheres que atuam em direitos humanos.

* Uma disputa geopolítica disfarçada de debate técnico: a conversa sobre "segurança" vira, inevitavelmente, briga por liderança.