Capacidades da IA não devem ultrapassar controles de segurança, diz cofundador do DeepMind

16 Set (Reuters) - O cofundador do Google DeepMind, Shane Legg, alertou que o rápido ​avanço da inteligência artificial não ​deve ultrapassar os controles de segurança, ao lançar um instituto para explorar a implantação da inteligência artificial ​geral (AGI), segundo ⁠reportagem ​do Financial Times nesta quarta-feira.

Os alertas ⁠das empresas de IA ​sobre o autoaperfeiçoamento recursivo surgem no momento em que pesquisadores relatam que agentes ‌de IA cada vez mais ‌capazes ​podem escrever softwares, realizar tarefas autônomas e auxiliar no desenvolvimento de sistemas de IA. ‌Isso gera preocupações de que a tecnologia possa avançar mais rápido do que as medidas de segurança destinadas a monitorá-la e controlá-la.

O apelo do presidente-executivo da Anthropic, Dario Amodei, para desacelerar, mas não interromper, o lançamento de modelos de ponta ‌foi “interessante em termos de direção” e “vale a pena considerar”, disse Legg, de acordo com ​a reportagem.

Ele disse que é prematuro declarar que a IA ‌Geral (AGI) foi alcançada, apesar das recentes afirmações de executivos da Nvidia e OpenAI, informou o ‌FT.

Legg continua “confiante” em ‌sua previsão de 50% de chance de alcançar uma IGA “mínima” ⁠até 2028, segundo a reportagem.

O DeepMind Institute tem como objetivo ampliar o debate público sobre a AGI, que o Google DeepMind define como um ​sistema com as ​capacidades cognitivas do cérebro humano, acrescentou a reportagem.

O instituto abordará temas que incluem ciência, educação, sociedade, políticas públicas, filosofia e o desenvolvimento humano, segundo o FT.

Seus três primeiros ensaios abordam a segurança da IA, a ⁠política econômica e os princípios para um “novo utopismo”, ​segundo a reportagem.

O autor da mensagem, e não o UOL, é o responsável pelo comentário. Leia as Regras de Uso do UOL.