Anthropic e OpenAI buscam na religião valores morais e ética ausentes na IA

Big techs estão recorrendo a líderes religiosos e filósofos para tentar ensinar valores morais e ética aos modelos de inteligência artificial. No entanto, especialistas e acadêmicos alertam que reduzir crenças a um mero "manual de regras" pode distorcer tradições espirituais e ignorar contradições entre diferentes culturas, segundo reportagem da Associated Press (AP News).

Criadoras de sistemas como Claude e ChatGPT têm promovido encontros com teólogos e autoridades religiosas. O cofundador da Anthropic, Chris Olah, participou de reuniões no Vaticano ao lado do Papa Leão XIV, destacando que questões morais sobre a IA vêm sendo carregadas por tradições religiosas há milênios.

A empresa afirma já ter consultado representantes de mais de 15 grupos religiosos e interculturais. No entanto, não relevou quais seriam essas parcerias e suas orientações éticas para os modelos de inteligência artificial.

O presidente da OpenAI, Sam Altman, defendeu que o ChatGPT deveria refletir a "média ponderada" da visão moral da humanidade. Para os executivos do setor, incorporar esses conceitos é uma tentativa de tornar as respostas dos chatbots mais seguras e aceitáveis em um momento de crescentes receios sobre os riscos da tecnologia.

Para antropólogos e especialistas em religião, tentar extrair regras éticas puras para treinar programas é uma abordagem falha. O antropólogo Webb Keane, da Universidade de Michigan, ressalta que crenças não funcionam como um código de computador, pois estão profundamente ligadas a rituais, contextos históricos e relações humanas do dia a dia.

A tentativa de criar uma "moral média" tende a favorecer religiões abraâmicas e descartar tradições sem textos dogmáticos rígidos. Além disso, como diferentes visões de mundo frequentemente se contradizem de forma direta, acadêmicos alertam que é impossível sintetizar a ética religiosa em um algoritmo universal sem priorizar certas crenças em detrimento de outras.

O autor da mensagem, e não o UOL, é o responsável pelo comentário. Leia as Regras de Uso do UOL.