Quando a IA erra no atendimento, quem fica com a responsabilidade?

Tem cada vez mais inteligência artificial no atendimento ao consumidor , como você deve ter percebido se precisou conversar com alguma empresa recentemente.

Umas são toscas e irritantes, outras dão conta do recado lindamente.

Mas e quando uma delas dá mancada? Pode acontecer.

Aliás, acontece, a gente sabe.

Em casos assim, quem responde pelo prejuízo: a empresa que atende você ou a que desenvolveu a tecnologia? Essa foi uma das dúvidas que levei para minha conversa com Shana Simmons , diretora jurídica da Zendesk, uma das principais empresas de tecnologia para atendimento ao cliente, que tem investido pesado em IA na jornada do consumidor.

Aproveitei uma visita da executiva a São Paulo para a entrevista, cujos trechos mais interessantes você lê abaixo.

VEJA: Quando uma IA comete um erro e causa um prejuízo, quem é responsável? Shana Simmons: Acredito que a responsabilidade acompanha o controle.

Nossos clientes querem continuar controlando seus processos, sistemas, dados e a configuração dos agentes.

Isso significa que continuam responsáveis pelos resultados.

Continua após a publicidade Se um agente errar numa decisão que envolve dinheiro, como vocês identificam a causa? Se ele cometer um erro ao conceder uma devolução de dinheiro, por exemplo, conseguimos explicar como buscou aquela informação e de onde ela veio.

Incorporamos essa capacidade ao produto para permitir a correção da causa.

Com humanos isso nem sempre é possível.

Às vezes, eu mesma me pergunto por que fiz alguma coisa e não sei responder.

Já o sistema pode apontar onde o erro aconteceu.