OpenAI pede que EUA liderem criação de padrões globais para controlar riscos de IAs avançadas

A OpenAI quer que os Estados Unidos liderem um esforço internacional para criar padrões técnicos globais para sistemas de inteligência artificial (IA) de fronteira, incluindo tecnologias capazes de realizar aprimoramento recursivo de suas próprias capacidades.

A proposta foi apresentada pela empresa em publicação nesta segunda-feira (21), enquanto líderes mundiais se reúnem para a Assembleia Geral das Nações Unidas ( ONU ).

A iniciativa ocorre em meio ao debate internacional sobre como acompanhar o avanço de sistemas de IA cada vez mais capazes.

A OpenAI defende a criação de mecanismos que permitam estabelecer padrões nacionais e internacionais complementares, além de métricas comuns e protocolos para comunicação de incidentes.

Segundo a empresa, a ideia é facilitar a comparação de evidências, a avaliação de riscos e a resposta coletiva a problemas relacionados à IA.

O foco no aprimoramento recursivo Um dos principais pontos da proposta é o chamado aprimoramento recursivo (RSI, na sigla em inglês), processo no qual sistemas de IA passam a realizar cada vez mais tarefas relacionadas ao desenvolvimento de novas gerações de IA; A OpenAI afirma que pesquisas automatizadas podem envolver diferentes níveis de supervisão humana.

À medida que os sistemas assumem mais trabalho no desenvolvimento de sucessivas gerações de IA, eles poderiam conduzir um processo de aprimoramento recursivo, potencialmente acelerando o ritmo de avanço da tecnologia; A empresa ressalta, porém, que o RSI totalmente autônomo não está acontecendo atualmente e que não deveria ser buscado enquanto não for possível realizá-lo com segurança; Segundo a OpenAI, o avanço nessa área deve depender da capacidade de preservar o controle humano e de decisões democráticas informadas sobre seus benefícios e riscos.

A empresa alerta que, sem supervisão adequada, humanos poderiam perder o controle prático sobre o desenvolvimento da IA e deixar de compreender os próprios processos de pesquisa realizados pelos sistemas.

Padrões internacionais Para a OpenAI, padrões internacionais de segurança e proteção para o desenvolvimento de IA de fronteira podem ser tão importantes quanto pesquisas de alinhamento para acompanhar o avanço da tecnologia.

A empresa aponta três desafios principais que justificariam uma coordenação internacional: Fragmentação: diferentes países podem adotar avaliações, exigências de comunicação e definições de incidentes incompatíveis entre si; Ação coletiva: países agindo individualmente podem produzir resultados que nenhum deles desejaria, especialmente diante da possibilidade de aceleração da pesquisa por sistemas de IA; Capacidade desigual: conhecimentos e atividades relacionados ao desenvolvimento de IA de fronteira estão distribuídos de maneira desigual entre os países.