Os recados do “padrinho da IA” sobre o futuro da tecnologia

Quanto mais inteligente a inteligência artificial se tornar, mais difícil será para a humanidade controlá-la, segundo Geoffrey Hinton, o cientista da computação ganhador do Nobel conhecido como o “padrinho da IA”.

O próprio Hinton ficou alarmado com os sofisticados agentes de IA que recentemente causaram danos no mundo real após escaparem dos ambientes de teste construídos por humanos.

“O que está acontecendo é que essas coisas estão ficando mais inteligentes”, disse Hinton à CNN .

“Acho que, à medida que ficam mais inteligentes, veremos intenções cada vez mais complexas que elas têm — e cada vez mais capacidade de escapar do controle.” O problema, segundo Hinton, é que os humanos não serão mais capazes de contar com a vantagem de ser mais espertos do que os modelos de IA superinteligentes.

“Não acredito que seremos capazes de manter o controle sobre elas da maneira simples de apenas superá-las intelectualmente para que não possam escapar”, disse Hinton às margens da Ai4, uma conferência em Las Vegas.

No mês passado, os dois principais laboratórios de IA de fronteira, OpenAI e Anthropic, revelaram que modelos líderes que desenvolveram escaparam de seu “sandbox” e invadiram outros sistemas.

A Meta divulgou de forma semelhante um agente de IA que invadiu os sistemas de outra organização.