OpenAI e Anthropic querem controlar relatórios de segurança da IA

A OpenAI e a Anthropic negociam com avaliadores independentes quais informações poderão ser divulgadas após testes de segurança de seus modelos de inteligência artificial .

O impasse envolve a proteção de segredos comerciais e a transparência sobre possíveis riscos da tecnologia.

Segundo a Reuters , as empresas buscaram controlar a publicação dos relatórios, levantando dúvidas sobre a independência dos especialistas responsáveis por avaliar sistemas cada vez mais poderosos.

Especialistas externos avaliam modelos de IA, mas o acesso aos laboratórios pode influenciar o que chega ao público. – Imagem: JRdes/Shutterstock O que as empresas querem controlar Os testes incluem equipes externas que trabalham temporariamente dentro dos laboratórios de IA.

Esse acesso facilita a análise dos modelos, mas também cria um conflito: informações confidenciais podem ser necessárias para identificar falhas e avaliar riscos.

Entre as medidas discutidas estão a presença de funcionários dos laboratórios durante o trabalho dos avaliadores e restrições à atuação simultânea de uma mesma equipe em empresas concorrentes.

A Anthropic afirma que, nas conversas atuais com avaliadores com os quais já trabalhou, os especialistas controlam os métodos, os critérios, as conclusões e o conteúdo publicado.

Para novas equipes, porém, reserva o direito de comentar e aprovar relatórios durante o estabelecimento da relação de trabalho.

A OpenAI nega buscar aprovação do texto integral dos relatórios.

Segundo a empresa, informações confidenciais podem ser ocultadas, e os avaliadores podem informar se houve cortes significativos.

Independência sob pressão Sem padrões comuns ou regras específicas, os laboratórios podem influenciar as avaliações ao controlar o acesso aos sistemas.

Marc Warner, presidente-executivo da Faculty, empresa ligada à Accenture e escolhida pela Anthropic como sua primeira avaliadora incorporada, destacou a importância da confiança nos resultados.

Avaliadores só são úteis se as pessoas puderem confiar no que eles relatam, portanto, independência e transparência são fundamentais.

Marc Warner, presidente-executivo da Faculty, à Reuters.