Anthropic propõe lei para bloquear IAs que podem ‘matar mais de 50 pessoas’

A empresa Anthropic está sugerindo para o Congresso dos Estados Unidos uma lei nacional para supervisionar e ter o poder de bloquear uma inteligência artificial (IA) possivelmente violenta.

Um esboço do texto foi obtido pelo site Politico .

Apesar de não ter publicamente divulgado a proposta, a dona do chatbot Claude já teria falado com parlamentares sobre a ideia e até citou esses riscos na documentação da própria IPO.

A regulamentação de IAs, segundo a companhia, seria uma forma de garantir a segurança da humanidade no uso dessas ferramentas.

Caso vire de fato um projeto de lei, o material daria ao governo dos EUA maior poder para fiscalizar e monitorar modelos potencialmente danosos, que é uma preocupação crescente no setor após vários incidentes de cibersegurança.

A lei “anti-IAs do mal” da Anthropic De acordo com a versão do projeto de lei obtida pelo Politico, o texto permite que o governo dos EUA bloqueie o lançamento ou a utilização de um modelo de linguagem de ponta.

Isso poderia acontecer em dois casos: Se ele se mostrar um risco iminente capaz de causar mais de US$ 1 bilhão em danos ; Ou se ele tiver a possibilidade real de matar ou ferir gravemente mais de 50 pessoas .

Os tais riscos envolveriam casos como “criação ou liberação de uma arma biológica, a fuga do modelo ao controle de seus desenvolvedores ou um ataque cibernético”.

O primeiro desses exemplos já foi identificado e barrado pela própria Anthropic, enquanto ciberataques de agentes de IA fora de controle tem sido cada vez mais frequentes em relatos.

O monitoramento das IAs seria de responsabilidade de um comitê independente de avaliadores registrados junto ao Departamento do Comércio, encarregado de analisar laboratórios e modelos de ponta do mercado.

Caso o grupo aponte o risco, esse relato deve ser entregue ao órgão público em até 72 horas , para que um juiz receba a ordem de pausar o uso ou lançamento da IA.

Ver esse post no Instagram Um post compartilhado por TecMundo (@tecmundo) Além disso, as companhias teriam uma série de novas responsabilidades , como criar estruturas de segurança, proteger denunciantes, publicar relatórios de transparência sobre novos casos e comunicar obrigatoriamente novos incidentes críticos de segurança.

Apesar de ser a preferência de parte da indústria, a lei pode gerar algum atrito entre estados, pois locais como a Califórnia já possuem as próprias legislações sobre riscos de IA.

Caso aprovada, ela se sobreporia a essas determinações.