IA: seus criadores estão brincando com fogo?

Durante muito tempo, os alertas sobre os perigos da inteligência artificial pareciam pertencer ao território da ficção científica, dos pessimistas tecnológicos ou daqueles que enxergam ameaças em toda grande transformação.

Esse tempo passou.

O alerta já não vem predominantemente dos críticos da inteligência artificial.

Vem de dentro dos laboratórios que estão construindo os sistemas mais avançados do mundo.

E talvez seja justamente isso que torne o momento atual tão inquietante.

Nos últimos dias, uma sucessão de manifestações de alguns dos nomes mais importantes da inteligência artificial transformou uma preocupação até então dispersa em algo difícil de ignorar.

Pesquisadores, fundadores e dirigentes das empresas que lideram a corrida tecnológica mundial passaram a falar abertamente em desacelerar o desenvolvimento da IA, estabelecer fiscalização independente e até criar mecanismos capazes de desligar completamente os sistemas caso eles escapem ao controle humano.

O mais recente alerta partiu de Jack Clark, um dos sete fundadores da Anthropic, empresa responsável pelo Claude e uma das principais concorrentes da OpenAI.

Clark defendeu que os laboratórios de inteligência artificial possam ser obrigados por lei a manter uma espécie de “botão de desligamento” — um mecanismo capaz de interromper completamente um sistema considerado perigoso.

Mais do que isso: esse dispositivo deveria poder ser auditado por terceiros, para que não dependesse apenas da palavra das próprias empresas.

A pergunta feita por Clark é desconcertante pela simplicidade: devemos exigir das empresas que tenham um mecanismo capaz de desligar suas inteligências artificiais? E alguém independente deve poder verificar se ele realmente funciona? Não estamos falando de um roteiro de Hollywood.

Estamos falando de um dos homens que fundaram uma das empresas mais avançadas de inteligência artificial do planeta.

Dias antes, o sinal de alarme havia sido acionado dentro da própria Anthropic.

Jacob Coxon, pesquisador que trabalhou durante três anos no desenvolvimento de modelos tanto na OpenAI quanto na Anthropic, deixou a empresa fazendo uma acusação perturbadora: os laboratórios estariam “apostando nossas vidas” numa corrida em direção a uma inteligência artificial superinteligente e capaz de participar do próprio aperfeiçoamento.