WhatsApp quer usar IA para barrar golpes e proteger usuários

O WhatsApp apresentou uma prévia do Scam Alert (Alerta de Golpe) , novo recurso de segurança que usa inteligência artificial para identificar possíveis tentativas de fraude.

A ferramenta foi desenvolvida para lidar com golpes que estão ficando mais sofisticados, incluindo casos de personificação e abordagens criadas com ajuda de IA.

Por enquanto, o Scam Alert está em beta limitado em algumas regiões.

O sistema usa um modelo de aprendizado de máquina que roda no celular.

A tecnologia analisa sinais linguísticos e a estrutura das conversas para identificar padrões associados a golpes.

Quando uma mensagem é considerada suspeita, o WhatsApp mostra um alerta somente para quem recebeu a mensagem.

A partir daí, o usuário decide o que fazer: bloquear o contato, denunciar a conversa ou continuar normalmente.

O Scam Alert é totalmente opcional e fica sob controle do usuário.

A Meta afirma que é possível ativar ou desativar o recurso a qualquer momento pelas configurações do aplicativo.

Caso um alerta seja considerado falso, também dá para marcar o chat como confiável.

Nesse caso, o aviso atual é removido e o Scam Alert passa a não sinalizar novamente aquela conversa específica.

Para avaliar o funcionamento do recurso, o WhatsApp coleta dados de telemetria de forma agregada e anonimizada.

As informações indicam, por exemplo, quantas vezes os alertas foram exibidos e qual decisão o usuário tomou depois de receber um aviso.

Esses dados são processados em servidores especializados da AMD e da Nvidia, que utilizam Ambientes de Execução Confiáveis (TEEs) para proteger as informações durante o processamento.