Empresas de IA recorrem à religião para orientar o comportamento dos chatbots

Empresas de tecnologia recorrem a religiões e líderes espirituais para discutir o comportamento de sistemas de inteligência artificial (IA).

A iniciativa busca estabelecer referências para chatbots tomarem decisões responsáveis, reconhecerem dilemas morais e evitarem respostas prejudiciais.

Essa aproximação levanta uma questão: como incorporar diferentes crenças e valores humanos às regras que orientam as respostas dos sistemas de IA? O interesse pelo tema acompanha os debates sobre os riscos associados ao avanço desses modelos.

As companhias precisam definir limites operacionais claros para além de desenvolver softwares cada vez mais potentes.

Nesse contexto, a religião pode contribuir com reflexões sobre responsabilidade, justiça e dignidade humana.

Roberto ‘Pena’ Spinelli, físico pela Universidade de São Paulo (USP), especialista em Machine Learning pela Universidade de Stanford e colunista do Olhar Digital , comentou o poder de influência dessas plataformas em participação no programa Olhar Digital News .

Roberto ‘Pena’ Spinelli, físico especialista em Machine Learning, analisa os desafios éticos e a influência dos valores humanos no comportamento da inteligência artificial. – Crédito: Reprodução/Redes Sociais “Essas empresas de IA têm claramente um poder muito grande, porque os modelos estão rodando na casa das pessoas e eles recomendam, eles falam, eles sugerem, eles argumentam.

E não existe nenhum modelo, nada isento no mundo.

Tudo tem um viés, tudo tem um ponto de vista.

Quem criou, do jeito que foi treinado, quais os dados que foram inseridos, como foi o treinamento, tudo isso claramente vai direcionando para algum viés”.

Diálogo com líderes e o desafio dos valores da inteligência artificial Reportagem da ABC News detalhou que a intenção de algumas empresas é reunir contribuições de diferentes tradições religiosas, além de perspectivas seculares.

A Anthropic, responsável pelo chatbot Cla u de , revelou a realização de encontros com acadêmicos e líderes de mais de 15 grupos religiosos, nos quais a empresa apresenta seus modelos e discute questões levantadas pela tecnologia.

Os assuntos englobam limites do uso infantil, educação e conceitos filosóficos sobre a natureza humana.

Grandes companhias manifestaram interesse expressivo no tema.