Cofundador do Google DeepMind diz que IA não pode ultrapassar controle de segurança

16 Set (Reuters) – O cofundador ⁠do Google DeepMind, Shane Legg, ⁠alertou que o rápido avanço da inteligência ‌artificial não deve ultrapassar os controles de segurança, ao lançar um instituto para explorar ‌a implantação da inteligência artificial geral (AGI), segundo reportagem do Financial Times nesta quarta-feira.

Os alertas das empresas de IA sobre o autoaperfeiçoamento recursivo surgem no momento em que pesquisadores relatam ⁠que ‌agentes de IA cada vez mais ⁠capazes podem escrever softwares, realizar tarefas autônomas e auxiliar no desenvolvimento de sistemas de IA.

Isso gera preocupações de que a tecnologia possa avançar mais rápido do ​que as medidas de segurança destinadas a monitorá-la e controlá-la.

O apelo do presidente-executivo da Anthropic, ​Dario Amodei, para desacelerar, mas não interromper, o lançamento de modelos de ponta foi “interessante em termos de direção” e “vale a pena considerar”, disse Legg, de acordo com ‌a reportagem.

Ele disse que é ​prematuro declarar que a IA Geral (AGI) foi alcançada, apesar das recentes afirmações de executivos da Nvidia e OpenAI, ⁠informou o ​FT.

Leia também: A rebelião das IAs: como os agentes da OpenAI invadiram a Hugging Face sozinhos Por que o ataque à Hugging Face deve aumentar sua preocupação com a IA Legg continua “confiante” ​em sua previsão de 50% de chance de alcançar uma ⁠IGA “mínima” até 2028, segundo ​a reportagem.

O DeepMind Institute tem como objetivo ampliar o debate público sobre a AGI, que o Google ​DeepMind define como um sistema com as capacidades cognitivas do cérebro humano, ​acrescentou a reportagem.

O ⁠instituto abordará temas que incluem ciência, educação, sociedade, políticas ⁠públicas, filosofia e o desenvolvimento humano, segundo o FT.

Seus três primeiros ensaios abordam a segurança da IA, a política econômica e os princípios para um “novo utopismo”, segundo a reportagem. (Por Anzar ​Mehraj) The post Cofundador do Google DeepMind diz que IA não pode ultrapassar controle de segurança appeared first on InfoMoney .