Agricultor chinês perde 10 hectares de plantação após seguir conselho de IA

Um agricultor de 67 anos de Chuzhou, na província chinesa de Anhui, afirma ter perdido cerca de 10 hectares (aproximadamente 100 mil m²) de uma plantação de gergelim depois de seguir as recomendações de uma IA (inteligência artificial) para combater ervas daninhas e pragas.

Segundo ele, as mudas começaram a murchar e morrer logo no dia seguinte à aplicação dos produtos.

Identificado pelo sobrenome Wu, o homem vinha utilizando um chatbot não identificado havia cerca de um ano para obter orientações sobre diferentes atividades da propriedade, incluindo fertilização e planejamento do trabalho.

No início, ele teria ficado desconfiado das respostas, mas passou a confiar no sistema após obter resultados que considerou positivos.

Por isso, deixou de conferir as recomendações com especialistas ou outras fontes antes de colocá-las em prática.

O problema se deu quando, questionada sobre a melhor forma de controlar ervas daninhas e pragas em uma plantação de gergelim, a IA forneceu um plano de aplicação de agrotóxicos que incluíam, dentre outras substâncias, o flufenacet.

“As ervas daninhas morreram, mas as mudas de gergelim morreram ainda mais rápido”, disse Wu ao CTWANT.

Especialistas ouvidos pelo jornal britânico The Independent explicam que esse herbicida não é o mais indicado para o caso.

Isso porque, quando empregado de maneira incorreta ou sem aplicação direcionada, ele pode prejudicar o desenvolvimento de certas sementes, como o gergelim.

O problema das respostas geradas por IA Como destaca o portal IFLScience, o episódio chama atenção para uma limitação dos chatbots: as alucinações.

Por mais que a IA consiga consultar uma vasta base de dados e produzir respostas que parecem confiáveis, isso não garante que as informações apresentadas estejam corretas.

Os modelos de IA generativa, como o ChatGPT ou o Gemini, são treinadas com grandes volumes de textos para aprender a reproduzir padrões de linguagem para formular respostas.

Portanto, não funcionam como uma fonte infalível de conhecimento.

Um estudo internacional recente identificou problemas em grande parte das respostas geradas por sistemas de IA: cerca de 45% apresentavam algum tipo de falha relevante, enquanto aproximadamente 20% continham informações inventadas ou incorretas apresentadas com aparência de precisão (alucinações).