Empresas recorrem à religião para ensinar ética à IA

Sigla em inglês para inteligência artificial.

Aly Song/Reuters Enquanto empresas de tecnologia competem para desenvolver a inteligência artificial mais poderosa, algumas também se perguntam como ensinar um chatbot a distinguir o certo do errado.

A resposta? A religião.

“Essas não são perguntas que um laboratório possa responder”, disse Chris Olah, cofundador da Anthropic, no início deste ano, durante a apresentação, no Vaticano, da encíclica do Papa Leão XIV sobre inteligência artificial.

“São perguntas com as quais tradições como a sua lidam há milênios.” Em meio a essa tão discutida aproximação com a fé, houve pouca atenção pública ao que exatamente essas empresas de tecnologia entendem por religião — e, talvez mais importante, ao que esperam obter com essa aproximação.

Enquanto executivos alertam para o potencial destrutivo da IA e debatem a necessidade de desenvolver modelos capazes de tomar decisões alinhadas a determinados princípios morais, recorrem cada vez mais a filósofos e líderes religiosos.

Agora no g1 A ideia pode ser resumida assim: a religião ajudaria a orientar o desenvolvimento da IA em um ambiente no qual os temores em torno da tecnologia — fundamentados ou não — se espalham pela sociedade.

Como essas empresas não estão vinculadas a uma religião específica, o objetivo costuma ser bastante amplo: encontrar um conjunto de princípios morais capaz de orientar seus modelos.

“O que eu acho que o ChatGPT deveria fazer é refletir essa média ponderada, ou algo assim, da visão moral da humanidade”, disse Sam Altman, CEO da OpenAI, no ano passado.

Mas especialistas e praticantes de diferentes religiões alertam que essa ideia não leva em conta o fato de que tradições e visões de mundo podem se contradizer.

Em resumo, dizem eles, não é exatamente assim que a religião funciona.

Religião é mais do que um conjunto de regras Há décadas, estudiosos contestam a visão amplamente difundida da religião como um conjunto de regras ou princípios que podem ser separados das maneiras “complicadas, práticas e improvisadas” pelas quais os fiéis vivem sua fé, afirma Webb Keane, antropólogo da Universidade de Michigan.

A ideia de que a religião pode ser separada de áreas como a cultura e a política permanece arraigada, embora, na prática, esteja profundamente ligada a ambas.

Alguns temem que as empresas de IA, ao recorrerem a líderes religiosos para responder a questões éticas, reforcem uma concepção de religião que não reconhece plenamente a importância da doutrina, dos rituais e das relações entre seus praticantes.