Novos alertas sobre IA reacendem debate sobre controle da tecnologia

Novos alertas vindos de dentro da indústria de inteligência artificial (IA) reacenderam um debate antigo sobre se uma IA avançada poderia escapar ao controle humano e, em última instância, ameaçar a sobrevivência da humanidade – e se as empresas que desenvolvem a tecnologia estão fazendo o suficiente para impedir esse cenário.

O CEO da Anthropic, empresa de São Francisco responsável pelo Claude, disse acreditar que o setor precisa reduzir o ritmo de seu trabalho, alertando no sábado que um enxame de agentes de IA poderia ser capaz de assumir o controle da internet dentro de seis meses a um ano, a menos que as empresas dediquem mais tempo à implementação de salvaguardas.

Dario Amodei apresentou um plano para que empresas como a sua e governos ao redor do mundo garantam que modelos de IA cada vez mais capazes permaneçam alinhados aos comandos e valores de pessoas responsáveis.

A manifestação ocorreu poucos dias depois de dois ex-pesquisadores de segurança da Anthropic tornarem públicas preocupações de que as ameaças existenciais que a IA poderia representar para a humanidade estavam recebendo atenção insuficiente.

Leia também: Startups: IA pode movimentar US$ 4,7 trilhões em lucros corporativos até 2035 Jornal chinês critica apelos para desacelerar IA e vê tática da “Guerra Fria” Modelos de IA estão ficando mais poderosos As preocupações com os riscos potenciais da tecnologia aumentam à medida que novos modelos de IA se tornam mais poderosos, ampliando tanto a possibilidade de uso indevido por pessoas com objetivos criminosos – como criar e disseminar uma doença capaz de matar a maior parte da população mundial – quanto o risco de sistemas de IA saírem de controle de maneira perigosa.

A Anthropic revelou na semana passada que bloqueou tentativas de agentes mal-intencionados de usar seus modelos de IA em atividades nocivas, como ataques cibernéticos, vigilância e pesquisas que poderiam ter levado ao desenvolvimento de armas biológicas.

A empresa afirmou ter adotado salvaguardas mais rígidas em seus modelos mais recentes para restringir pesquisas biológicas que poderiam ser usadas na produção de armas, mas observou que, “à medida que os modelos se tornam cada vez mais capazes, seus riscos aumentarão, a menos que os desenvolvedores de IA e os responsáveis pela defesa da sociedade ajam para torná-los mais seguros”.

No ano passado, a Anthropic informou que hackers utilizaram a IA da empresa em um ataque cibernético contra cerca de 30 companhias e órgãos governamentais ao redor do mundo.

Segundo a empresa, era altamente provável que os hackers pertencessem a um grupo patrocinado pelo Estado chinês.