Ataques com agentes são da responsabilidade dos gestores

Scott Bessent, secretário do Tesouro dos EUA, defende que os gestores dos laboratórios de inteligência artificial (IA) devem ser responsabilizados nos casos de incidentes com agentes de IA. Empresas como a OpenAI, a Anthropic, a Meta e, mais recentemente, a Google revelaram que os seus agentes fugiram às instruções e atacaram outras organizações.

O primeiro caso a ser conhecido foi o ataque dos agentes da OpenAI à plataforma de código Hugging Face , revelado em julho. Em entrevista à CNBC , Scott Bessent afirma que “o incidente é da responsabilidade da gestão da OpenAI, não de um grupo de agentes”. “São os humanos que são os responsáveis, não a IA.”

Um ataque concertado, agentes “sacrificados” e até uma hierarquia. Como o caso Hugging Face expôs o que pode correr mal na IA

Bessent condena as declarações das empresas de IA, afirmando que os laboratórios estão a “pedir ao governo que lhes tire a responsabilidade das mãos”. “Não vamos fazer isso”, sublinha.

“O que o Presidente [dos EUA] disse é que não podemos dizer ‘vamos absolver-vos dessa responsabilidade e o governo assume a responsabilidade’. Estes laboratórios precisam de assumir a responsabilidade — e podem abrandar [o ritmo de desenvolvimento de IA] quando quiserem.”

Este domingo, Scott Bessent teve um encontro de cerca de “12 horas” com o vice-primeiro-ministro chinês He Lifeng. As conversações antecederam a visita de Estado do Presidente chinês, Xi Jinping, aos EUA entre 23 e 25 de setembro.

À saída do encontro, Scott Bessent afirmou que os EUA propuseram à China um “mecanismo de notificação” para incidentes ligados à IA. “Iniciámos um diálogo sobre a IA, que acho que vai ser muito importante”, disse Bessent durante a entrevista à CNBC.

Estados Unidos propõem à China mecanismo de alerta sobre incidentes de IA

“Formalizámos os diálogos EUA-China sobre IA e acordámos encontrar-nos novamente, talvez dentro de dois meses, em Shenzhen [a capital de hardware da China]”, explicou. Foi parco em detalhes sobre como poderá funcionar o mecanismo, afirmando que os EUA “querem iniciar uma linha de comunicação de incidentes”, que permitiria “ter uma comunicação constante em particular em caso de incidente”.

Bessent considera que é preciso “começar a discutir os protocolos para que os dois lados possam concordar em definir os maiores riscos da IA: sejam agentes incontroláveis, de atores estatais ou não ou armas biológicas”, diz.

O secretário do Tesouro dos EUA revela que também falou com o responsável chinês sobre os incidentes com agentes de IA. “Claro que tiveram incidentes [na China], mas pela natureza e falta de transparência no seu sistema não nos vão dizer nada. Os modelos chineses são muito poderosos, mesmo que sejam de código aberto.”

Na semana passada, a Agência Espanhola de Proteção de Dados revelou que recebeu a primeira notificação sobre um ataque feito por um agente de IA.