Uma fórmula matemática simples prevê quando é que os chatbots de IA se vão descontrolar

O que arrepia é que isto pode acontecer depois de a IA já nos ter dado várias respostas perfeitamente aceitáveis, e de já nos termos deixado levar a confiar nela.

Quase todos trazemos hoje no bolso aparelhos capazes de correr pequenos chatbots de IA.

Estes chatbots têm pouca supervisão de segurança que garanta que não dão informações e respostas capazes de incentivar a automutilação, perdas financeiras ou outras ideias extremistas, sobretudo quando funcionam offline.

Agora, dois físicos criaram uma fórmula matemática que prevê quando os modelos de IA passam de respostas adequadas a respostas potencialmente perigosas.

O trabalho foi publicado