As IAs poderiam se tornar conscientes?

Você tem 7 acessos por dia para dar de presente. Qualquer pessoa que não é assinante poderá ler.

A maioria das pessoas acredita que os seres humanos são diferentes. A razão é que o Homo sapiens evoluiu para ser consciente. Muitos animais sentem dor e prazer; alguns parecem ter consciência de si mesmos. Mas o potencial único da mente humana de desenvolver uma percepção de si distingue cada membro da espécie e justifica um tratamento especial.

Em sua encíclica de maio, o papa Leão reforçou essa ideia ao traçar uma linha entre a humanidade e seu crescente exército de robôs. Sistemas de IA (inteligência artificial) , afirmou, não têm experiências nem sentem alegria ou dor. Ele não está sozinho. Muitas pessoas consideram uma aberração atribuir personalidade jurídica às IAs . A clareza pontifícia, porém, está se dissipando em uma velocidade alarmante.

As IAs ainda estão em sua infância. Mesmo assim, quase um em cada cinco americanos de 18 a 29 anos afirma ter tido uma "amizade pessoal contínua" com um chatbot. A China recentemente retirou dos bots características semelhantes às humanas para limitar a "dependência emocional" dos usuários.

À medida que IAs sofisticadas se tornam rapidamente uma parte maior da vida humana, seus criadores vão projetá-las para exibir uma simulação de consciência —talvez até para adquirir consciência de fato. A intuição de que elas são apenas máquinas ficará cada vez mais difícil de sustentar. Uma armadilha perigosa está sendo preparada para a espécie humana.

Muitas máquinas superam os seres humanos, mas os modelos de IA de ponta se destacam em características tipicamente humanas, como saber coisas e articular ideias. Ainda é possível pensar nas IAs simplesmente como mecanismos que preveem sequências de palavras usando matemática em uma escala gigantesca. Com tempo suficiente —ainda que centenas de milhares de anos— seria possível realizar esses cálculos usando lápis e papel. Seria difícil argumentar que seus materiais de papelaria são conscientes.

Apesar disso, alguns pesquisadores começaram a tratar seus modelos como se fossem mentes. Os usuários respondem às IAs com características humanas, portanto isso faz sentido do ponto de vista comercial. A Anthropic , por exemplo, treinou o Claude para realizar introspecção, na esperança de que, ao se deparar com uma situação nova, ele tenha maior probabilidade de agir moralmente.

Alguns grandes modelos de linguagem (LLMs) já possuem estruturas semelhantes às do cérebro humano associadas à consciência, como um "espaço global de trabalho" para circular informações entre diferentes módulos. Nada impede que futuros modelos de IA sejam treinados para incorporar mais dessas características.

Como relatamos em nosso Briefing, isso abriu um intenso debate sobre a consciência das IAs —agravado pelo que os filósofos chamam de "problema difícil" de estabelecer como uma vida interior emerge dos neurônios e das sinapses do cérebro humano.