Projeto da Anthropic prevê bloqueio de IA diante de riscos catastróficos

A Anthropic, criadora do Claude , está defendendo nos Estados Unidos uma proposta de lei que permitiria suspender o lançamento de modelos de inteligência artificial diante de riscos graves.

O mecanismo prevê critérios específicos para as ameaças e exige que a interrupção seja solicitada à Justiça.

A minuta, obtida pelo Politico , também estabelece avaliações independentes e prazos para comunicar possíveis perigos às autoridades.

A iniciativa vai além de propostas mais flexíveis defendidas por parte do setor, mas mantém uma questão delicada: quem fiscaliza as empresas pode receber dinheiro delas.

Relatos sobre agentes de IA que teriam desobedecido a instruções ampliam o debate sobre controles de segurança. – Imagem: gerada por IA Como funcionaria o bloqueio O projeto considera a possibilidade de barrar um modelo quando houver risco previsível e iminente de morte ou ferimentos graves para mais de 50 pessoas, ou de danos materiais superiores a US$ 1 bilhão (cerca de R$ 5,03 bilhões).

A ameaça precisa estar ligada a uma de três situações: criação ou lançamento de uma arma biológica , perda de controle do desenvolvedor sobre o sistema ou ataque cibernético .

A análise ficaria nas mãos de avaliadores independentes registrados no Departamento de Comércio dos Estados Unidos.

Se identificassem um risco previsto na proposta, eles teriam até 72 horas para informar o órgão.

Caberia então ao departamento pedir a um juiz federal em Washington, D.C., que suspendesse o lançamento.

Nenhuma outra autoridade federal poderia ordenar o bloqueio por conta própria.

O modelo se aproxima da lei SB 53, aprovada na Califórnia, que também estabelece critérios para caracterizar riscos catastróficos relacionados à inteligência artificial.

Uma fiscalização independente, mas financiada pelas empresas A proposta permite que laboratórios de IA paguem pelos serviços dos avaliadores, desde que a remuneração não dependa das conclusões das análises.

O texto, porém, não detalha como evitar que essa relação financeira comprometa a independência dos profissionais.

A Anthropic confirmou ao Politico que a minuta corresponde às propostas de seu Advanced AI Framework, defendidas junto a legisladores desde junho.