Inteligência artificial pode revelar aquilo que nem sabemos que não sabemos

Uma das respostas mais inteligentes que alguém pode dar é também a mais difícil: 'não sei'. Em uma realidade em que a IA já responde sobre tudo e todos, precisamos então pensar sobre como isso muda a nossa interação com o próprio conhecimento humano.

Existem diferentes formas de entender essa relação, mas eu gosto de uma que divide o conhecimento em quatro categorias: "o que sabemos que sabemos", "o que sabemos que não sabemos", "o que sabemos sem perceber que sabemos" e "o que nem sabemos que não sabemos".

Nesta coluna, vou explorar especialmente duas delas. A primeira é o "o que sabemos que não sabemos". Dizer 'não sei' muitas vezes pode soar como uma coisa ruim, como uma confissão de ignorância, mas é exatamente o oposto. Quando reconhecemos o limite do que sabemos, passamos a enxergar que os problemas podem ter outras soluções e possibilidades que estão além do nosso repertório.

Essa humildade epistêmica é uma habilidade cognitiva importantíssima para descobrir coisas novas e nos adaptarmos mais rapidamente em cenários de incerteza. O problema é que essa é uma capacidade que nunca foi verdadeiramente valorizada. E agora a IA traz mais complicações - e também novas oportunidades - na forma como interagimos com o conhecimento.

Nesta semana, eu li um artigo científico que mostra como a IA pode corroer essa nossa "sabedoria da ignorância". Para avaliar isso, os pesquisadores montaram um experimento em que as pessoas respondiam perguntas difíceis sobre filmes. Elas também podiam dizer "não sei" sempre que quisessem, sem qualquer tipo de punição.

Os participantes então foram divididos em dois grupos: os que responderiam sozinhos e os que poderiam consultar a IA. A engenhosidade do experimento estava nas perguntas, que traziam de propósito detalhes tão escondidos que a IA não saberia e provavelmente inventaria respostas em boa parte das vezes.

Quando estavam sozinhas, 44% das pessoas admitiam que não sabiam uma resposta. Mas esse número despencou para apenas 3% quando elas tinham acesso à IA. As pessoas simplesmente pararam de dizer 'não sei' e passaram a confiar cegamente na resposta da IA. O resultado é que as pessoas respondiam mais, mas acertavam bem menos. E, curiosamente, se sentiam mais confiantes mesmo errando mais.

Esse é um fenômeno mais sutil e perigoso do que o tão discutido debate de "não devemos confiar demais na máquina". E para me debruçar nisso, vou voltar aos quatro tipos de conhecimento do começo da coluna. Quando a pessoa dizia que não sabia, ela estava navegando pelo quadrante do "o que sabemos que não sabemos".

No momento em que ela recebeu e confiou em uma resposta pronta da IA, ela mudou rapidamente para o primeiro quadrante do "o que sabemos que sabemos". Como se agora ela dominasse aquela certeza. Só que isso é uma mentira. Ela passa a agir como se soubesse, sem de fato saber. Ou, pior ainda, confia em uma informação errada.

Esse é um desafio posto por uma máquina que escreve de maneira persuasiva e nos dá respostas prontas. Mas seria simplista e injusto achar que a IA só tem esse lado ruim a oferecer.