Responsabilidade, interpretação e invenção no cenário de inteligência artificial agêntica

Desde a emergência do ChatGPT em 2022, chatbot de inteligência artificial generativa que popularizou a tecnologia, antevia-se que essas ferramentas teriam capacidade de tomar decisões e agir por conta própria.

O ponto de virada aconteceu com a arquitetura de agentes que integra ferramentas, como acesso a navegadores e bancos de dados, executa tarefas seguindo o planejamento que cria e adapta em tempo de execução.

No final de 2024, a Anthropic, empresa criadora do Claude, publicou um artigo definindo sistemas agênticos, que poderiam ser tanto fluxos agênticos, nos quais os modelos e ferramentas seguem caminhos predeterminados por algoritmos, quanto agentes propriamente ditos, em que o próprio modelo dirige dinamicamente o processo e o uso de ferramentas.

No ano seguinte, a maioria dos aspectos agênticos foi integrada nos chatbots, especialmente nas ferramentas de IA que rodam diretamente no computador, como o ChatGPT Work e o Claude Cowork.

O que, por algum tempo foi engenharia de prompt, que consistia em formatar a entrada do chatbot de maneira a obter melhores resultados, amplia-se em engenharia de contexto, já que podem acessar informações na internet, ler e manipular arquivos e rodar comandos no terminal do computador.

Leia também: CERC eleva produtividade em 67% com ecossistema de agentes de IA Em um primeiro momento, a diretriz para tratar a responsabilidade da utilização de chatbots conversacionais era a revisão do conteúdo e das fontes.

A atual arquitetura agêntica das ferramentas de IA exige uma postura diferente.

Como os grandes modelos de linguagem produzem respostas estatisticamente prováveis, mas não necessariamente verdadeiras, eles geram ocasionalmente respostas erradas – o que se convencionou chamar de alucinações de IA.

Uma revisão detalhada poderia minimizar o problema das alucinações.

Casos de peças jurídicas contendo precedentes inexistentes, possivelmente alucinações, ficaram notórios.

Para esse tipo de erro, averiguar nos tribunais a existência das decisões citadas seria suficiente.

No entanto, aspectos menos visíveis do conteúdo gerado exigiam a reconstrução das respostas.

A precisão técnica e capacidade de interpretação do direito são atributos que requerem mais do retirar ou alterar uma linha de texto.

Nesse cenário, os chatbots serviam mais como um auxiliar de pesquisa do que propriamente uma ferramenta para a qual se poderia delegar a execução da pesquisa e, ainda menos, da tarefa de criação do documento de ponta a ponta.