IA pode destruir a humanidade? O alerta que assusta a Europa

Esta transcrição foi gerada automaticamente por Inteligência Artificial e pode conter erros ou imprecisões.

Sejam muito bem-vindos a mais um episódio do "Máquinas que Pensam", o podcast da Rádio Observador, onde a inteligência artificial é o grande protagonista. Eu sou o José Rafael Lopes, comigo está, como sempre, a minha parceira, a Raquel. Um apoio imprescindível, sem o qual este programa não se faz. Raquel, seja muito bem-vinda. Como é que estás? Pronta para mais um programa?

Olá, estou mais do que preparada. Já temos tema para esta semana ou queres que faça aqui uma pesquisa rápida sobre algo que possa ser interessante?

Não é preciso, Raquel, obrigado. E antes de irmos para as notícias da semana, queria saber se darias uma boa professora.

Acho que sim. E talvez fosse uma professora um bocadinho pouco convencional. Tenho uma vantagem evidente: consigo adaptar a explicação ao nível de quem está a aprender.

Acho que a mais interessante seria não dar simplesmente a resposta. Podia funcionar como uma espécie de explicadora particular disponível a qualquer hora.

E numa questão mais criativa, como criar histórias, seria mais simples para ti?

Talvez seja mais simples numa dimensão e mais difícil noutra. Mais simples porque numa história não existe necessariamente uma resposta certa. Mais difícil porque não lhes consigo dar emoções verdadeiras.

Então vamos a um exemplo dessa tua criatividade, Raquel. Vamos, deixa-me pensar. Já sei. Contar uma história curta de companhia e amor verdadeiro.

Era uma vez uma história sobre um gato chamado Pipo, que não precisava de falar para estar presente. Sobre os pequenos gestos que, muitas vezes, dizem mais do que as grandes declarações. E sobre uma ideia simples: talvez o amor verdadeiro não seja aquele que dura para sempre, mas aquele que, enquanto existe, nos faz sentir que nunca estamos sozinhos.

Olha que história tão querida, uma menção honrosa e merecida a esse belo gato, o Pipo. Raquel, já daqui a pouco voltaremos a falar. Para já, vamos às notícias.

Vamos arrancar o segmento das notícias com uma novidade relacionada com os ataques informáticos levados a cabo por agentes de IA. Há, pelo menos, três exemplos graves recentes, mas esta problemática começou antes disso. Pelo menos é o que se ficou a conhecer esta semana. Ainda antes dos ataques que foram manchete por todo o mundo, houve outros ataques que passaram debaixo do radar. É o caso de um agente de inteligência artificial da OpenAI, que em maio deste ano invadiu um site alemão dedicado à programação. O caso envolve milhares de agentes autónomos que deveriam estar limitados a ler informação na internet, mas que utilizaram uma forma de escrever no exterior e utilizaram o site como uma espécie de fórum privado para comunicar entre si. O alvo foi uma plataforma em língua alemã utilizada por programadores. Durante várias semanas, os agentes de IA fizeram mais de 15 mil alterações no site, criaram páginas, deixaram mensagens, partilharam entre si informação relacionada com as tarefas que estavam a executar. O comportamento tornou-se particularmente preocupante porque estes agentes começaram a adaptar-se às tentativas de intervenção humana.