A IA da Meta precisava fazer ligações, mas quem estava do outro lado da linha eram humanos; entenda o teste

A Meta testou uma espécie de “concierge humano” para seu novo agente pessoal de inteligência artificial (IA), o Muse .

A iniciativa envolvia trabalhadores contratados pela empresa realizando discretamente algumas das ligações telefônicas que deveriam ser feitas pelo agente digital, segundo publicações internas da companhia vistas pela Reuters .

O teste foi comunicado aos funcionários na semana passada, pouco depois de a Meta lançar publicamente o recurso de ligações telefônicas do Muse.

A iniciativa, porém, provocou preocupações entre funcionários da empresa.

Alguns alertaram que permitir que humanos lidassem com essas chamadas poderia fazer com que informações sensíveis fossem compartilhadas involuntariamente com trabalhadores de centrais de atendimento.

Em uma das publicações internas, uma vice-presidente da divisão SuperIntelligence Labs, da Meta, reconheceu que foi um erro iniciar os testes de ligações feitas por contratados sem informar adequadamente os usuários.

Segundo ela, a empresa “recuou esse recurso” por enquanto.

A executiva afirmou ainda que a Meta continua aprimorando as ligações feitas por IA.

Alguns testes indicaram que a participação humana poderia elevar a taxa de sucesso das chamadas para entre 95% e 98%, contra porcentagem menor quando o processo é realizado pela IA.

Trabalho humano por trás da promessa de IA autônoma O teste do Muse mostra como empresas de tecnologia podem recorrer a trabalhadores humanos nos bastidores para tentar cumprir as promessas de agentes de IA autônomos, especialmente quando encontram resistência das pessoas que recebem as chamadas automatizadas; A situação também lembra um experimento realizado pela Meta cerca de uma década atrás.

Na época, quando ainda se chamava Facebook, a empresa testou um assistente digital chamado “M”, integrado ao Messenger.

Reportagens posteriores estimaram que aproximadamente 70% das tarefas realizadas pelo agente eram, na verdade, executadas por humanos; Questionado sobre o plano do “concierge humano” do Muse, um porta-voz da Meta afirmou que a reação dos funcionários foi “extremamente positiva”.

Segundo Daniel Roberts, o objetivo do teste era obter feedback para implementar proteções de segurança e privacidade e melhorar os recursos antes de uma eventual disponibilização pública; “Estamos trabalhando com comerciantes para continuar aprimorando esse possível recurso de chamadas e só vamos lançá-lo quando estiver pronto e com as devidas divulgações”, afirmou o porta-voz.