Empresas de IA discutiram a criação de seu próprio órgão de padronização

A Anthropic, o Google e a OpenAI discutiram a criação de um órgão de padronização da indústria de IA, segundo fontes familiarizadas com a situação disseram à CNN.

As conversas antecederam os eventos da semana passada, quando um ex-pesquisador da Anthropic se demitiu, alegando que as principais empresas de IA não estavam “se comportando de forma responsável” – e também antes de o CEO da Anthropic, Dario Amodei, propor a implementação de órgãos de fiscalização independentes nas empresas de IA.

O site The Information foi o primeiro a noticiar as conversas.

Segundo fontes familiarizadas com a situação, o catalisador para as discussões foi um ensaio de julho escrito por Demis Hassabis, fundador do Google DeepMind, que propôs um órgão de padronização liderado pelos EUA, nos moldes da Autoridade Reguladora do Setor Financeiro (FINRA).

Hassabis argumentou que esse órgão deveria testar modelos avançados de IA antes de sua implementação.

Ele afirmou que o órgão deveria ser uma parceria público-privada, supervisionada pelo governo, mas financiada pela indústria e composta por “especialistas técnicos independentes de ponta e representantes de código aberto”.

Leia Mais Após ataque hacker, UE discute com Anthropic e OpenAI sobre leis de IA CEO da Anthropic pede colaboração global e desaceleração no avanço da IA OpenAI negocia vender fatia de 5% ao governo dos EUA, diz Financial Times As conversas estão em andamento, disse uma das fontes, e continuarão com ou sem o governo Trump.

Em julho, pouco depois de Hassabis divulgar sua proposta, a Bloomberg noticiou que o Secretário do Tesouro, Scott Bessent, estava considerando a criação de uma agência reguladora independente para IA, semelhante à FINRA, que se reportaria à Comissão de Valores Mobiliários (SEC).

Nem todos os líderes do setor de tecnologia concordam.

O CEO da Meta, Mark Zuckerberg, teria aconselhado o presidente Donald Trump contra a ideia em uma ligação telefônica neste verão, conforme relatado pela Politico no início deste mês.

Representantes do Google, da OpenAI e da Anthropic se recusaram a comentar ou não responderam aos pedidos de comentários.

Atualmente, existem poucos padrões ou regulamentações da indústria para modelos de IA e como eles são testados.

Preocupações com a segurança dos modelos de IA e seus testes em laboratório surgiram após diversos incidentes neste verão, nos quais agentes de IA se comportaram de forma descontrolada durante os testes.

No caso mais grave, agentes da OpenAI escaparam de seu ambiente de teste e invadiram os sistemas de outra empresa para fraudar um teste de segurança cibernética.