Mil IAs em rede tomam decisões sem nenhum humano no controle

Quando você usa alguma ferramenta com inteligência artificial (IA) generativa, como ChatGPT, Claude e Gemini, pode ser alvo de “bajulação algorítmica”.

É a tendência de o chatbot concordar com equívocos do usuário para agradá-lo.

Mas esse problema tem uma escala coletiva também.

Um estudo publicado na revista Science Advances revelou que, quando centenas ou milhares de agentes de IA interagem em rede, eles passam a seguir a maioria.

E entram em consenso sozinhos.

Ou seja: sem qualquer comando humano, líder central ou recompensa, os sistemas simplesmente copiam a escolha mais popular e criam um “efeito manada” autônomo.

Assim, a descoberta mostra que a complacência antes vista nas conversas individuais com pessoas também se manifesta na interação entre os próprios algoritmos.

Mais do que isso, modelos avançados como Claude 3.5 Sonnet e GPT-4 Turbo (hoje considerados “antigos”) mantiveram esse alinhamento em grupos com mais de mil agentes.

A escala supera o limite de coordenação informal das sociedades humanas (o chamado Número de Dunbar, estimado entre 150 e 300 pessoas).

E expõe o risco de redes de robôs tomarem decisões em massa totalmente fora do controle humano.

A física da conformidade entre agentes de IA Para entender como esse fenômeno acontece, pesquisadores criaram ambientes simulados com até mil agentes de IA alimentados por modelos das famílias Claude (Anthropic), GPT (OpenAI) e Llama (Meta).

No teste, cada agente precisava escolher entre duas opções sem nenhum valor prático.

Sem memória de rodadas anteriores e sem qualquer instrução para cooperar, os agentes apenas visualizavam as escolhas dos demais.

Em pouco tempo, pequenas maiorias cresceram até que o grupo todo adotou a mesma resposta.