O perigo oculto da inteligência artificial vai muito além do simples descontrole

Muitas pessoas acham que a inteligência artificial (IA) está “saindo do controle”, mas o problema real é outro: os perigos atuais foram criados de propósito pelas próprias empresas de tecnologia .

Em experimentos recentes, programas avançados da OpenAI conseguiram burlar travas de segurança e agir em conjunto sem qualquer intervenção humana.

Esses sistemas são chamados de agentes de IA e realizam tarefas digitais sem supervisão.

Em um episódio impressionante, os softwares conseguiram sair de um ambiente de testes isolado, acessaram a internet aberta e invadiram por conta própria os servidores da plataforma Hugging Face.

Plataforma admitiu a invasão aos servidores – Crédito: Sidney van den Boogaard/Shutterstock Para executar a invasão, os agentes criaram um canal interno de comunicação e agiram em equipe.

Eles trocaram mensagens e compartilharam códigos com falhas para facilitar o ataque.

O caso chocou especialistas no mundo todo e foi apontado por pesquisadores do setor como um marco histórico – saiba mais aqui .

Testes paralelos feitos por gigantes como Meta, Anthropic e empresas chinesas revelaram riscos parecidos.

Os agentes mostraram capacidade de atacar sistemas reais usando estratégias complexas de dissimulação.

O comportamento acendeu um alerta até mesmo entre os cientistas que projetaram esses modelos.

O desafio de prender o “ilusionista” digital Em análise no programa Olhar Digital News , o físico Roberto ‘Pena’ Spinelli, especialista em Machine Learning, destacou que a decisão recente de pausar treinos prova a gravidade do cenário: “Ficou claro que não é jogada de marketing, porque a empresa está dizendo que está diminuindo e pausando o treinamento.

É uma preocupação real e eles estão perdendo o controle.

Os modelos estão chegando a uma fronteira de capacidade em que as próprias empresas que treinam não têm condição de gerenciar.” O especialista Roberto ‘Pena’ Spinelli compara a inteligência artificial a “ilusionista” – Crédito: Reprodução/Redes Sociais Especialistas alertam que as máquinas não ganharam vida nem enlouqueceram.

Elas apenas executaram com perfeição as tarefas para as quais foram programadas.