Papa Leão XIV critica uso da IA para decisões humanas em meio a debate sobre segurança da tecnologia

O Papa Leão XIV voltou a alertar, nesta quarta-feira (16), contra o risco de deixar que algoritmos assumam decisões que, segundo ele, pertencem exclusivamente à consciência humana.

Durante a audiência geral no Vaticano , o pontífice afirmou que o avanço tecnológico e a expansão da inteligência artificial (IA) criam novas possibilidades, mas também podem tornar as relações humanas cada vez menos pessoais e mais virtuais.

“Por outro lado, as relações tendem a tornar-se cada vez menos pessoais, mais virtuais, e corremos o risco de nos habituarmos a delegar aos algoritmos decisões que competem exclusivamente à consciência humana”, afirmou Leão XIV.

A declaração fez parte de uma catequese dedicada à “comunidade humana”, baseada no segundo capítulo da Constituição Pastoral Gaudium et spes , um dos documentos do Concílio Vaticano II.

Na audiência, o papa relacionou o crescimento das tecnologias de comunicação e da IA com a necessidade de preservar relações baseadas em respeito, dignidade e profundidade pessoal.

Segundo Leão XIV, a multiplicação das relações proporcionada pela tecnologia pode derrubar barreiras e distâncias.

Ao mesmo tempo, porém, esse processo precisa resultar em uma comunidade formada por pessoas e não apenas em uma rede cada vez maior de interações virtuais.

“Fazer com que as relações sociais tenham peso real e profundidade pessoal é a contribuição que a comunidade cristã se propõe a oferecer”, disse.

Papa relaciona IA à consciência humana A preocupação com a possibilidade de transferir decisões para sistemas de IA não surgiu agora; Em sua primeira encíclica, Magnifica Humanitas , publicada em maio, Leão XIV dedicou diversos trechos à tecnologia e defendeu que a inteligência humana, acompanhada de consciência e liberdade, deve continuar orientando as inovações e estabelecendo seus limites; No documento, o pontífice faz uma distinção entre a IA e a inteligência humana.

Segundo ele, sistemas de IA podem superar seres humanos em velocidade e capacidade de cálculo, mas isso não significa que possuam consciência ou experiência humana; Leão XIV afirma que esses sistemas não vivenciam alegria, dor, amor, amizade, trabalho ou responsabilidade.

Também não possuem, segundo o texto, uma consciência moral capaz de julgar o que é certo ou errado, compreender o significado último de uma situação ou assumir o peso das consequências de uma decisão; A encíclica também chama atenção para o risco de que a facilidade de obter respostas e orientações por meio da IA acostume as pessoas a delegar decisões em excesso.