O Dario e o lobo

Com a demissão de um trabalhador da Anthropic, veio para os jornais e para a política o tópico da extinção da humanidade por parte de inteligências artificiais.

Ora isto não é novo, antes de termos a "IA" nos nossos telemóveis e PCs, já existiam investigadores que eram pessimistas.

Especialmente por parte da Anthropic, neste caso do seu CEO Dario Amodei, é um caso recorrente.

A primeira pergunta que devemos fazer é simples: estamos a falar da inteligência artificial que existe nos laboratórios e nos produtos que usamos hoje, ou de uma tecnologia futura que ainda não sabemos construir? Os riscos imediatos da inteligência artificial não são ficção científica.

Estão no crime, na fraude, na desinformação, na vigilância e nas guerras híbridas.

Neste último caso, não falamos de uma possibilidade distante.

Já existem actores estatais e não estatais a tentar usar modelos de IA para fins militares e terroristas.

A própria Anthropic noticiou recentemente que os Houthis tentaram utilizar os seus modelos para desenvolver mísseis guiados.

A palavra importante é "tentaram": não conseguiram simplesmente pedir a um chatbot uma arma pronta a usar.

Entre ter acesso a informação e a conseguir transformá-la numa capacidade operacional existe uma distância enorme.

Jacob Coxon, o agora famoso engenheiro que saiu da Anthropic, não fala das IAs atuais irem nos matar a todos, apesar de dar um espaço curto de tempo, mas sim numa possível futura IA que tenha capacidades como conseguir replicar-se entre dispositivos e fugir ao seu criador.

Não há evidências que é possível com a quantidade de computação precisa.

No final de contas é um pouco de sci-fi a mais e ao mesmo tempo medo da velocidade do desenvolvimento tecnológico, agregando as más práticas destes laboratórios americanos com a segurança.

Há, no entanto, outra dimensão para este alarmismo, os resultados financeiros.