Rei Charles III se reúne com executivos de IA e pede restrições 'antes que seja tarde demais'

O rei Charles da Grã-Bretanha alertou nesta quinta-feira os executivos de inteligência artificial sobre os "perigos existenciais" que a tecnologia pode representar caso caia em mãos erradas e afirmou que salvaguardas suficientes são necessárias antes que seja "tarde demais".

" Aqueles que criaram essas tecnologias estão agora alertando cada vez mais que a IA corre o risco de desenvolver capacidades mais sombrias - talvez até mesmo a de tirar vidas", disse o rei a executivos da Nvidia, Google DeepMind, OpenAI, Anthropic e outras empresas.

"Nesse sentido, se me permitem dizer, parece haver urgência em considerar adequadamente os perigos existenciais de tais tecnologias caírem em mãos erradas e serem usadas de maneiras potencialmente catastróficas." Ele acrescentou: " A tarefa que vocês têm pela frente não é apenas fazer avançar a tecnologia, mas garantir que ela permaneça firmemente a serviço da humanidade, da comunidade e do mundo natural." O que já disseram executivos e especialistas sobre os riscos da IA Diversas cidades tiveram marchas contra a inteligência artificial ao longo do último ano Getty Images via BBC Nos últimos meses, executivos de grandes empresas de tecnologia, ativistas e organizações não governamentais passaram a defender uma pausa no avanço da inteligência artificial para tornar seu desenvolvimento mais seguro.

Por que empresas que aceleraram a corrida da IA agora defendem pisar no freio; entenda o que está por trás disso 'Freio' na IA? Debate leva gigantes da tecnologia ao radar dos investidores; ações operam mistas Muitas dessas falas expressam preocupação com a possibilidade de a inteligência artificial ganhar poder excessivo sobre a internet e até "matar seres humanos".

Além disso, elas defendem a criação de órgãos internacionais para estabelecer regras e padrões de segurança para o desenvolvimento da tecnologia.

Relembre abaixo algumas dos comentários públicos sobre os riscos da IA: Dario Amodei, CEO da Anthropic CEO da Anthropic pede que setor desacelere ritmo de desenvolvimento da IA Em artigo publicado em 12 de setembro, o CEO da Anthropic, criadora da IA Claude, pediu que as empresas de inteligência artificial moderem o ritmo de avanço das capacidades de seus modelos diante do aumento das preocupações com o uso indevido da IA.

"Dada a aceleração do desenvolvimento de capacidades de IA, me preocupa que, em 6 a 12 meses, tal enxame possa ser capaz de dominar toda a internet.

Se não for controlada, pode ultrapassar nossa capacidade de entender e controlar esses sistemas, e por isso seu desenvolvimento deve avançar com muito cuidado, se é que deve avançar", escreveu Amodei.