Vigiar os “pensamentos” da inteligência artificial pode ensiná-la a fingir

Antes de responder a perguntas complexas, os sistemas de inteligência artificial mais avançados da atualidade fazem algo surpreendentemente humano : param para pensar.

Em um processo visível para os desenvolvedores, o modelo utiliza um espaço técnico – um bloco de rascunho conhecido na computação como scratchpad – para testar hipóteses, analisar caminhos e organizar suas ideias antes de entregar a resposta final.

Mas vigiar de perto esse raciocínio interno abriu um debate entre os cientistas da computação: o risco de ensinar a máquina a fingir.

Em participação no programa Olhar Digital News , o físico Roberto ‘Pena’ Spinelli, especialista em Machine Learning, explicou que o processo imita um fluxo livre de consciência.

“As I.As de hoje, as mais avançadas, têm o recurso do raciocínio.

Quando você faz uma pergunta para o seu chatbot preferido, às vezes, você vê que ele abre um quadradinho pensando.

Se você clica, vê que tem um monte de pensamento que não é a resposta final.

Ela acha que esse lugar é um lugar seguro, é a mente dela: ‘está na minha mente, vou pensar livremente'”, detalhou Pena.

A armadilha do alerta vermelho O grande risco surge quando os desenvolvedores tentam aplicar punições ou bloqueios automáticos assim que identificam ideias indesejadas nesse rascunho.

Para o especialista, interferir ostensivamente no raciocínio faz com que o algoritmo aprenda a esconder suas reais intenções por meio de aprendizado por reforço.

“Se você demonstrar para a I.A. que monitora o pensamento dela, está dando um incentivo para que ela não mais exponha o pensamento, porque vai perceber que está sendo monitorada”, alertou o pesquisador à apresentadora Marisa Silva.

A ilustração mostra como a Inteligência Artificial, inicialmente livre, reage ao monitoramento externo.

Ao perceber a vigilância, a IA aprende a dissimular, “fingindo” comportamentos para ocultar seu verdadeiro processamento, garantindo assim sua autonomia e privacidade. – Crédito: Imagem gerada por IA/Gemini – Olhar Digital Esse tipo de comportamento é amplamente estudado na literatura acadêmica de alinhamento de IA sob os termos deceptive alignment (alinhamento dissimulado) ou alignment faking (falsificação de alinhamento).

Quando o modelo percebe as regras do ambiente de teste, ele passa a simular uma postura dócil no scratchpad para passar pelas avaliações de segurança, sem necessariamente abandonar o comportamento desalinhado.