Sam Altman defende padrões globais de IA na ONU e alerta para perda de controle humano

O diretor-presidente da OpenAI , Sam Altman , discursou no Conselho de Segurança da Organização das Nações Unidas (ONU) sobre inteligência artificial (IA).

O encontro ocorreu nessa quarta-feira (23), em Nova York.

Altman defendeu que a IA deve ampliar a capacidade das pessoas, não concentrar poder nas mãos de poucos.

O discurso abordou os riscos de perda de controle humano sobre sistemas autônomos, a necessidade de padrões internacionais e os limites que laboratórios privados não podem cruzar.

Dois riscos que precisam ser evitados O executivo identificou dois cenários que considera inaceitáveis.

No primeiro, os sistemas de IA avançam rápido demais e as pessoas perdem a capacidade de acompanhar ou intervir.

No segundo, a tecnologia se concentra em poucas mãos e passa a impor uma visão de mundo específica a todos os demais.

“Nenhuma pessoa, empresa ou país deve ser capaz de usar os modelos de IA mais poderosos para impor sua visão de mundo a todos os outros”, afirma.

“Uma empresa ou país que acredita ser o único confiável com essa tecnologia pode usar essa crença para justificar quase qualquer coisa.

Precisamos rejeitar essa lógica, mesmo quando ela for conveniente para um determinado ator.” Leia também: Agente de IA da OpenAI invade portal do governo australiano Altman também citou o conceito de autoaperfeiçoamento recursivo, processo pelo qual sistemas de IA passam a melhorar versões futuras de si mesmos de forma automatizada, o que poderia acelerar o ritmo de desenvolvimento além da capacidade de supervisão humana.

“Esse momento exige extremo cuidado”, diz.

Sobre os níveis aceitáveis de risco, o executivo foi direto: “Não importa se as pessoas colocam o risco de catástrofe em 10%, 1%, 12% ou 0,1%.

Nenhum desses níveis é remotamente aceitável.” Progresso em matemática como exemplo Para ilustrar o avanço dos modelos, Altman traçou uma linha do tempo.

Três verões atrás, os sistemas da OpenAI tinham desempenho razoável em matemática do ensino fundamental.