UE afirma que suas regras de IA conseguem conter agentes rebeldes

As regras da União Europeia que estabelecem diretrizes para o uso de IA, adotadas pelo bloco há dois anos, são mais do que capazes de lidar com agentes desonestos, disse a chefe de tecnologia da UE, Henna Virkkunen, à Reuters nesta sexta-feira (9).

Os ataques cibernéticos recentes realizados por agentes de IA da OpenAI e da Anthropic estão alimentando o receio de que sistemas descontrolados possam escapar do controle humano.

A Lei de IA da União Europeia , que regulamenta o uso da tecnologia com base no nível de risco, é vista como a incorporação das regras mais rigorosas do mundo sobre tecnologia de inteligência artificial.

Leia Mais Von der Leyen apoia desaceleração da IA e convida laboratório para diálogo Zuckerberg defende que cada empresa de IA cuide da própria segurança Procurador da Califórnia intima OpenAI por riscos da IA “Constatamos que a segurança de modelos altamente capazes é um tema muito debatido internacionalmente, e nós, na Europa, estamos bem preparados para isso”, disse Virkkunen em entrevista.

“Temos nossa Lei de IA em vigor, e a Lei de IA abrange todo o ciclo de vida desses modelos”, acrescentou.

Os órgãos reguladores estão fornecendo orientações às empresas sobre como avaliar seus modelos e quanto tempo dedicar a isso, e também levarão em consideração as recomendações de um painel científico de 60 especialistas em IA de universidades e instituições, afirmou ela.

Virkkunen rejeitou as críticas de algumas empresas de que as regras de IA do bloco já estão desatualizadas.

“Acredito que nossos legisladores e tomadores de decisão já estão levando muito em consideração os desdobramentos futuros, por exemplo, como perceberam que os riscos precisam ser avaliados, que especialistas externos precisam ser consultados e que é preciso continuar monitorando os modelos”, disse.

No final de agosto, a Comissão Europeia enviou pedidos de informação a mais de 30 empresas de IA, solicitando detalhes sobre as suas medidas de segurança e, posteriormente, questionando-as sobre as suas obrigações em matéria de transparência e direitos de autor.

Essas solicitações podem levar a investigações que resultariam em multas de até 7% do faturamento anual global de uma empresa.

A Comissão não divulgou os nomes das empresas com as quais entrou em contato.

Virkkunen disse que agora está avaliando as respostas.

Questionado sobre as startups chinesas de IA , Virkkunen disse que a Comissão “também enviou pedidos de informação a elas”, acrescentando que os “modelos mais capazes” atualmente no mercado são dos Estados Unidos e da China.

“Acho que todos esses modelos capazes, é claro, representam novos tipos de riscos dos quais precisamos estar cientes”, disse ela.