Governador da Califórnia assina decreto para explorar 'botão de desligamento' da IA

Los Angeles (EUA) | AFP O governador da Califórnia , Gavin Newsom, assinou nessa sexta-feira (18) uma ordem executiva instruindo as autoridades estaduais a explorarem a viabilidade de impor um "botão de desligamento" obrigatório para os modelos de IA ( inteligência artificial ) mais avançados.

Newsom, considerado um possível candidato democrata à presidência em 2028, disse que estava tomando essa medida porque o presidente dos Estados Unidos , Donald Trump , não estava fazendo nada a respeito.

O presidente republicano descartou esta semana os temores sobre a inteligência artificial, classificando-os como uma farsa, e está incentivando as empresas americanas de IA a continuarem avançando para se manterem à frente da China no desenvolvimento dessa nova tecnologia .

A Califórnia abriga o Vale do Silício e as empresas de inteligência artificial que estão na vanguarda do setor.

"O fracasso abjeto do governo federal em criar qualquer forma significativa de supervisão ou responsabilização da IA deveria alarmar todos os americanos, especialmente quando os próprios CEOs de IA estão implorando por regulamentação", disse Newsom em um comunicado.

"Não vamos esperar para agir —vamos acelerar nosso trabalho em prol de uma supervisão substancial e responsável da IA antes que seja tarde demais."

A ordem surge dias depois de alertas alarmantes de especialistas do setor sobre a ameaça que a tecnologia representa para a humanidade.

Jacob Coxon, um ex-pesquisador de IA que trabalhou na Anthropic antes de se demitir, provocou a mais recente onda de alarme ao descrever como aqueles que desenvolvem a tecnologia "acreditam sinceramente que ela poderá nos matar a todos até o final da década" .

O diretor executivo da Anthropic, Dario Amodei, publicou um ensaio pouco depois, recomendando cautela .

"Precisamos diminuir o ritmo com que aprimoramos as capacidades dos modelos de IA", escreveu ele.

O diretor executivo da OpenAI , Sam Altman, e o magnata da tecnologia Elon Musk manifestaram seu apoio à ideia , assim como Demis Hassabis, do Google DeepMind, que defendeu a criação de um órgão regulador global liderado pelos EUA para a tecnologia.

A ordem de Newsom não impõe um mecanismo de desligamento automático. Ela orienta as agências estaduais a relatarem até 16 de novembro se tal mecanismo é viável.

O termo "interruptor de segurança" refere-se à capacidade de interromper um sistema de IA quando este apresenta mau funcionamento ou sai dos trilhos.

A ordem também solicita que as autoridades estaduais considerem a possibilidade de exigir que as empresas de IA abriguem auditores independentes em seus laboratórios.