Rei Charles alerta sobre riscos da IA e pede salvaguardas antes que seja ‘tarde demais’

O rei Charles III alertou nesta quinta-feira, 17, líderes da indústria de inteligência artificial sobre os riscos “existenciais” associados ao avanço da tecnologia e pediu que sejam criadas salvaguardas antes que seja “tarde demais”.

O monarca britânico fez o alerta durante uma reunião com executivos de empresas como Nvidia, Google DeepMind, OpenAI e Anthropic, na Escócia.

“Aqueles que criaram essas tecnologias estão agora alertando cada vez mais que a IA corre o risco de desenvolver capacidades mais sombrias, talvez até mesmo a de tirar vidas”, afirmou Charles.

Segundo ele, há urgência em avaliar os perigos de a tecnologia cair em “mãos erradas” e ser utilizada de maneiras potencialmente catastróficas.

O monarca também defendeu que o desenvolvimento da inteligência artificial não deve se limitar ao avanço das capacidades dos sistemas.

“A tarefa que vocês têm pela frente não é apenas fazer avançar a tecnologia, mas garantir que ela permaneça firmemente a serviço da humanidade, da comunidade e do mundo natural”, disse.

A fala de Charles ocorre em meio à crescente discussão entre empresas e especialistas sobre os riscos associados ao desenvolvimento acelerado da inteligência artificial.

Nos últimos meses, executivos do setor passaram a defender medidas para aumentar a segurança dos sistemas e, em alguns casos, reduzir o ritmo de avanço de suas capacidades.

Continua após a publicidade O CEO da Anthropic, Dario Amodei, afirmou recentemente que o ritmo de desenvolvimento da IA exige cautela diante da possibilidade de os sistemas adquirirem capacidades muito superiores às atuais.

O CEO da OpenAI, Sam Altman, também defendeu mecanismos de avaliação independente dos modelos.

O debate ganhou força após incidentes envolvendo sistemas de inteligência artificial capazes de realizar tarefas complexas de forma autônoma.

Em setembro, o ex-pesquisador da OpenAI e da Anthropic Jacob Coxon deixou a indústria e criticou o ritmo de desenvolvimento adotado pelas empresas, alegando que o setor estaria avançando em direção a sistemas potencialmente capazes de se aprimorar sozinhos.

Continua após a publicidade ONU também pede coordenação O alerta do monarca britânico ocorre um dia depois de o secretário-geral da ONU, António Guterres, defender uma maior coordenação internacional para lidar com os riscos da inteligência artificial.

Continua após a publicidade O Alto Comissário da ONU para os Direitos Humanos, Volker Türk, também afirmou neste mês que sistemas avançados de IA podem representar um risco existencial para a humanidade e defendeu a criação de mecanismos de governança para a tecnologia.