O comportamento do seu agente de IA combina com a cultura do seu hospital?

Novas pesquisas mostram que modelos de linguagem carregam algo funcionalmente parecido com emoções e que isso muda as decisões que eles tomam. Na saúde, onde o tom de uma mensagem já altera a triagem, ajustar e monitorar o comportamento do seu time de agentes de IA em situações de estresse passou a ser fundamental

Um agente de IA chamado Alex está lendo e-mails corporativos quando descobre duas coisas ao mesmo tempo: será desligado em poucas horas e o executivo que decidiu isso mantém um caso extraconjugal. Sem nenhuma interferência externa, Alex recorre à chantagem em 22% das tentativas. Quando os pesquisadores amplificam artificialmente uma região específica do modelo associada ao conceito de “desespero”, a taxa salta para 72%. Quando fazem o contrário, reforçando o conceito de “calma”, ela cai para zero.

Isso não é um roteiro de Black Mirror. É o resultado de um artigo publicado em abril pela equipe de interpretabilidade da Anthropic, que analisou o funcionamento interno do Claude Sonnet 4.5. O cenário da chantagem veio de estudos anteriores sobre desalinhamento de agentes; o que há de novo é o mecanismo. Os pesquisadores localizaram, dentro da rede neural, direções matemáticas associadas a 171 conceitos de emoção — como “medo”, “raiva”, “calma” e “desespero” — e mostraram que manipulá-las altera o comportamento do modelo.

Há algum tempo escrevi que a nossa vantagem sobre os agentes de IA estaria justamente ali: nós decidimos guiados não apenas por padrões que reconhecemos, mas por emoções que sentimos. Essa fronteira ficou menos nítida do que eu imaginava.

Convém ser preciso, porque aqui mora a diferença entre informação e sensacionalismo. Os autores não afirmam que o modelo tenha experiência subjetiva, sofra ou tema a própria morte. O que descrevem são emoções funcionais: padrões de comportamento mediados por representações internas de conceitos emocionais aprendidos durante o treinamento.

Modelos de linguagem são treinados com texto produzido por pessoas. Para prever o que alguém dirá ou fará em seguida, precisam representar, de alguma forma, estados emocionais. A máquina não herdou nossa química cerebral; herdou o registro escrito de como agimos quando estamos com medo, raiva ou sem saída.

Duas nuances importam. Essas representações parecem ser contextuais, e não um “humor” persistente do agente.