Rei Charles 3º deve se reunir com empresas de IA para debater uso pelo 'bem da sociedade'

Você tem 7 acessos por dia para dar de presente. Qualquer pessoa que não é assinante poderá ler.

O rei Charles 3º, do Reino Unido , deve se reunir nesta semana, na Escócia, com os líderes das principais empresas de inteligência artificial , em meio a temores crescentes de que o desenvolvimento rápido e descontrolado da tecnologia possa levar a uma catástrofe global .

O monarca deve se encontrar com representantes de empresas como Nvidia , Google , DeepMind, OpenAI e Anthropic , além de autoridades governamentais e outras pessoas, "para discutir como a IA pode ser desenvolvida e empregada de maneiras que beneficiem a sociedade", de acordo com comunicado do Palácio de Buckingham. O encontro ocorrerá em Ayrshire, no sudoeste da Escócia, na Dumfries House, sede da King’s Foundation, uma instituição beneficente voltada à educação.

A reunião ocorre em um momento em que profissionais do setor de IA e diretores-executivos de algumas das empresas mais poderosas da área vêm fazendo alertas sobre essas ferramentas e a velocidade com que estão evoluindo. Alguns defendem a criação de diretrizes comuns e um ritmo de avanço deliberadamente mais lento , para garantir que os seres humanos consigam acompanhar.

A reunião de Charles sobre IA examinará como a tecnologia pode ser usada para o bem, a fim de "fortalecer comunidades e melhorar vidas", afirmou o comunicado do Palácio de Buckingham, que não especificou quem participaria em nome das empresas de IA mencionadas no comunicado.

Anthropic, DeepMind, Google e Nvidia não responderam de imediato aos pedidos de comentário para confirmar sua participação. A OpenAI informou que Sarah Friar, sua diretora financeira, estaria presente.

A preocupação atual com o rápido avanço da IA foi provocada, em grande parte, por uma invasão ocorrida contra a Hugging Face , empresa de infraestrutura de IA, orquestrada por um grupo de agentes de IA criados pela OpenAI. O ataque em massa culminou no roubo de dados, no controle de um servidor e na tentativa de apagar seus rastros.

Essa invasão —e outro incidente semelhante ocorrido dentro da OpenAI pouco depois — aumentou drasticamente os temores de que as máquinas possam escapar rapidamente ao controle humano , com efeitos potencialmente devastadores.

O CEO da Anthropic, Dario Amodei, publicou no sábado (12) uma carta aberta pedindo que o desenvolvimento da IA seja desacelerado. Além da invasão à Hugging Face, ele apontou como motivo de preocupação o fato de os atuais modelos de IA serem cada vez mais capazes de criar a próxima geração de ferramentas de IA.

Amodei afirmou que essa dinâmica, conhecida como autoaperfeiçoamento recursivo, "poderia avançar mais rápido do que nossa capacidade de compreender e controlar esses sistemas", caso não seja contida.

O executivo instou empresas de IA e órgãos reguladores de todo o mundo a trabalharem juntos em uma abordagem criteriosa para o desenvolvimento da tecnologia e propôs seu próprio plano de três etapas.