Startup brasileira cria IA que admite quando não sabe a resposta e quer reduzir custos nas empresas

A inteligência artificial já faz parte da rotina de muitas empresas, mas uma das principais preocupações com essa tecnologia continua sendo a possibilidade de apresentar informações falsas com aparência de verdade.

Para enfrentar esse problema, uma startup brasileira aposta em um caminho diferente: desenvolver uma IA capaz de reconhecer quando não tem informações suficientes para responder e reduzir os custos de operação para empresas.

Startup brasileira produz inteligência artificial.

Foto: Arquivo pessoal A proposta é da Lua Vision, que desenvolveu o Genesys PI, um modelo de inteligência artificial voltado ao mercado corporativo.

A tecnologia tem como público-alvo empresas e setores nos quais respostas incorretas podem provocar prejuízos, como bancos, hospitais e escritórios de advocacia.

Empresa espacial de Jeff Bezos investe R$ 2,7 bilhões em novo polo industrial e deve gerar 2 mil empregos no Texas Em entrevista à Banda B , o CTO da empresa, Paulo Câmara, explicou que a confiança nos sistemas de inteligência artificial depende não apenas da capacidade de produzir respostas.

A questão também está ligada a reconhecer limites e verificar informações antes de apresentá-las como verdadeiras.

Por que a inteligência artificial pode inventar informações? O problema conhecido como alucinação acontece quando um sistema de inteligência artificial apresenta informações incorretas ou inventadas como se fossem verdadeiras.

Segundo Câmara, isso está relacionado à maneira como os modelos de linguagem são desenvolvidos e utilizados.

“Ela não foi feita para saber a verdade.

Foi feita para soar convincente e conversar como gente” explicou o CTO à Banda B, ao comparar o funcionamento desses sistemas ao de um aluno que não estudou e tenta responder a uma pergunta com confiança, mesmo sem conhecer o assunto.

A diferença, segundo ele, é que uma resposta errada pode ter consequências muito mais graves dependendo do contexto.

Enquanto um erro em uma conversa cotidiana pode causar apenas frustração, uma informação incorreta em um hospital ou em uma análise financeira pode comprometer decisões importantes.

Histórico: primeiro caça supersônico produzido no Brasil fez seu voo inaugural; assista Na Lua Vision, a estratégia é desenvolver modelos próprios e ferramentas que ajudem a controlar esse risco.