Se a IA tem uma hipótese em cinco de nos destruir, o que fazemos com as outras quatro?
Jacob Coxon, investigador da Anthropic, demitiu-se, denunciando a indiferença da indústria perante o risco de a IA poder aniquilar a humanidade.
Poucos dias depois, Dario Amodei, diretor executivo da Anthropic, publicou um ensaio em que explica como e por que razão a indústria e os governos devem unir esforços para abrandar o desenvolvimento da IA de fronteira e impedir que esta escape ao controlo humano.
Outros aderiram rapidamente.
Nada disto é novo.
Geoffrey Hinton, eminente informático conhecido como o "padrinho da Inteligência Artificial", estimou, antes de qualquer outra pessoa, entre 10% e 20% a probabilidade de uma IA avançada poder pôr fim à Humanidade nos próximos 30 anos.
Por mais alarmante que isso possa parecer, implica uma probabilidade de sobrevivência de 80% a 90%.
Então, como podemos aumentar as probabilidades de alcançar este desfecho mais seguro? Há formas de aproximar a Humanidade do lado mais seguro das probabilidades de Hinton.
Nada é garantido, mas algumas condições fariam a diferença.
A cooperação entre os Estados Unidos e a China é um foco óbvio, dado que são os países com maior influência sobre o futuro da IA.
A proposta de Amodei, que prevê avaliadores independentes integrados, limiares de capacidades e um caminho para normas partilhadas, constitui uma base sólida, mas não pode partir de uma única empresa.
Outros intervenientes, incluindo os governos, têm de estar de acordo.
O abrandamento deveria ser uma condição prévia e um objetivo imediato, para ganhar tempo para criar três mecanismos de avaliação: verificação contra o desenvolvimento e a implementação clandestinos, avaliação independente de capacidades perigosas e monitorização coletiva de incidentes com protocolos de crise.
Há um precedente de cooperação entre a China e os Estados Unidos para evitar riscos partilhados.
Em novembro de 2024, Washington e Pequim acordaram que as decisões sobre armas nucleares não deveriam ser delegadas à IA.
Resumo agregado pelo 5News a partir do feed público do veículo. A matéria completa, com todo o contexto, está em www.dn.pt — o conteúdo pertence a Diário de Notícias.
