Falha na inteligência artificial: quem é culpado quando a IA erra?

O uso disseminado de ferramentas de inteligência artificial ampliou o debate sobre quem é o responsável por um erro cometido por LLMs (large language models, na sigla em inglês).

O avanço rápido dessa tecnologia trouxe preocupações com desinformação, decisões equivocadas e possíveis prejuízos jurídicos, reputacionais e operacionais para as companhias.

O debate sobre o tema começou a ganhar força porque os erros da inteligência artificial podem ter várias causas: pode estar relacionado aos dados usados para treinar os sistemas, à supervisão humana e ao modo como a tecnologia é incorporada.

Quando a IA erra, de quem é a culpa? Com o avanço do uso da inteligência artificial em atividades importantes , especialistas defendem que o problema não está somente no sistema que apresenta uma resposta errada .

Ele também envolve as decisões humanas sobre dados, regras, desenvolvimento, supervisão e controle.

Ou seja, quando alimentada por dados inconsistentes, colocada em processos desorganizados ou usada sem coordenação entre diferentes áreas, ela pode ampliar falhas que já existiam e transmitir uma falsa impressão de precisão.

Galaxy Z Fold 8: Samsung anuncia três novos celulares dobráveis WhatsApp passa a funcionar em mais dispositivos e aplicativos Novo modelo de IA chinesa surpreende big techs dos EUA; entenda Os efeitos desse problema também aparecem na disseminação de informações falsas.

Segundo um levantamento da Agência Lupa, 81,2% dos casos de desinformação envolvendo inteligência artificial identificados em checagens aconteceram entre 2024 e março de 2026.

Um caso que aconteceu em São Paulo mostra como esse tipo de erro pode causar consequências graves.

Ailton Alves de Sousa, morador de Heliópolis, foi conduzido quatro vezes à delegacia em sete meses após ser confundido com um foragido por alertas do sistema de reconhecimento facial Smart Sampa (que usa IA) .

O episódio mostra que, sem mecanismos rápidos de correção, auditoria e revisão, as falhas da tecnologia podem causar danos no ‘mundo real’.

IA: solução ou problema no mundo corporativo? No ambiente corporativo, a situação é semelhante.

Com o aumento do número de assistentes, agentes e projetos de inteligência artificial que não se comunicam entre si, também cresce o risco de falhas.

Medo de substituição por IA cai entre trabalhadores, aponta pesquisa | AGORA CNN Por isso, a discussão sobre responsabilidade envolve uma questão mais ampla: quem definiu os dados, as regras, os limites, a supervisão e o controle do sistema que cometeu o erro? Em mensagem à CNN Brasil , o vice-presidente de estratégia de crescimento e inovação da Keyrus no Brasil, Rodrigo Cruz, afirma que a falha não é da IA, mas da ausência de um sistema que a governe corretamente .