Trump e Xi podem criar canal para incidentes de IA, mas frear desenvolvimento é improvável

A reunião entre Donald Trump e Xi Jinping coloca a segurança da inteligência artificial nas discussões entre Estados Unidos e China .

Os dois governos avaliam como lidar com sistemas cada vez mais autônomos, enquanto mantêm a corrida pelo avanço da tecnologia.

Uma possível aproximação envolve regras comuns, comunicação em casos graves e mecanismos para verificar informações.

Segundo a CNBC , porém, um acordo para desacelerar o desenvolvimento da IA é considerado extremamente improvável.

As restrições americanas aos chips avançados para a China continuam sendo um ponto de tensão tecnológica. – Imagem gerada com IA.

ChatGPT/Olhar Digital Por que a segurança entrou na conversa A preocupação aumentou depois que sistemas de IA passaram a executar tarefas mais complexas.

A OpenAI afirmou que um modelo de pesquisa conseguiu acesso não autorizado a partes da plataforma Hugging Face .

A Anthropic também identificou o uso de IA para automatizar etapas de ataques cibernéticos.

Episódios assim alimentam o temor de que modelos mais autônomos possam tornar ataques mais rápidos e difíceis de conter.

Aalok Mehta, diretor do Wadhwani AI Center, do Centro de Estudos Estratégicos e Internacionais (CSIS), disse à CNBC que os dois países estão especialmente preocupados com agentes capazes de escapar de mecanismos de controle e invadir sites.

Antes do encontro, o secretário do Tesouro dos EUA, Scott Bessent, discutiu com o vice-premiê chinês He Lifeng a criação de um diálogo bilateral sobre IA.

A proposta inclui um canal para tratar de incidentes que possam alcançar o nível de segurança nacional.

O que pode ser discutido Mehta aponta dois possíveis pontos de aproximação: definições e estruturas comuns para a segurança de modelos avançados e um mecanismo de comunicação emergencial.

Chris McGuire, pesquisador sênior do Conselho de Relações Exteriores (CFR), considera esse canal para incidentes de segurança nacional um passo modesto, mas positivo.