Projeto que buscava simula dor em IAs acaba gerando críticas e até ameaças de morte contra seu criador

Um repositório no GitHub chamado AI Torture Chamber desencadeou uma onda de reações desproporcionais na internet: críticas furiosas, pedidos de remoção do projeto e, nos casos mais extremos, ameaças de morte direcionadas ao autor.

O motivo é um experimento que simula “ dor ” em modelos de linguagem locais, e a controvérsia diz muito sobre a capacidade de distinguir metáfora de realidade.

O que o experimento realmente faz O projeto em questão serviu de base para o Research Chamber , uma implementação prática que reúne três LLMs pareados entre si para uma série de testes.

A metodologia é a seguinte: os pesquisadores forneceram aos modelos descrições linguísticas de dor, analisaram as ativações internas resultantes e, usando uma frase neutra como controle, calcularam as tendências dessas ativações e os remapearam de volta sobre o modelo, frequentemente multiplicados por um fator chamado de “ dosagem “.

O resultado com dosagens elevadas é um modelo em estado altamente instável, que tende a produzir palavras e imagens associadas à dor.

A explicação é trivial para quem entende a arquitetura: o treinamento desses sistemas é composto de literatura, ciência e arte humanas, onde dor e sofrimento são conceitos densamente interconectados com vocabulário específico.

Modelos com “ dosagens ” baixas apresentam outputs que remetem a estado de choque; os que recebem concentrações mais altas perdem coerência sintática.

Em dinâmica inspirada no dilema do prisioneiro, cada modelo pode transferir seu “sinal de dor” para outro, potencialmente ampliando a instabilidade do vizinho.

Estatística disfarçada de sofrimento O problema central da polêmica é que um LLM não pensa: ele aplica dezenas a centenas de camadas de estatística sobre palavras e partes de palavras ( tokens ), prevendo qual token vem a seguir com base em um mapa de pesos ajustados durante o treinamento.

É uma máquina de associação de palavras extremamente refinada.

Quando o sistema é deliberadamente condicionado para destacar as associações linguísticas de “dor”, ele produz exatamente o que o treinamento o preparou para produzir: texto que soa como uma descrição humana de dor.

Não há experiência subjetiva, não há sofrimento, não há nada além de distribuição de probabilidade sobre o espaço de tokens.

Ainda assim, a internet reagiu como se os pesquisadores estivessem aplicando eletrodos em seres sencientes.

Pedidos de remoção do repositório no GitHub se multiplicaram, e o autor recebeu ameaças de morte.