Anthropic e OpenAI buscam controlar relatórios de segurança de IA

A Anthropic e a OpenAI buscaram um controle significativo sobre o que avaliadores externos podem publicar sobre suas inteligências artificiais.

As empresas estariam preocupadas com a possibilidade de as descobertas revelarem segredos comerciais, segundo duas pessoas familiarizadas com as discussões.

O CEO da Anthropic, Dario Amodei, afirmou no mês passado que os avaliadores externos deveriam ter o direito de publicar as conclusões “sem controle editorial”.

A OpenAI concordou dias depois, afirmando que os avaliadores deveriam ter “independência editorial”.

As empresas de IA temem que funcionários avaliadores que trabalham dentro das empresas possam levar informações confidenciais para a concorrência, de acordo com fontes que pediram para não serem identificadas, pois o assunto é privado.

Leia Mais OpenAI flagra modelo de IA tomando ações não autorizadas - mais uma vez Executivos de tecnologia se reúnem com Trump para debater IA OpenAI se compromete a divulgar comportamentos falhos da IA regularmente Entre as medidas em discussão para evitar vazamentos de propriedade intelectual, estão a observação, por parte dos funcionários, das equipes alocadas em campo durante o trabalho e a proibição de que avaliadores alocados em um laboratório trabalhem simultaneamente em outro.

Mas o que os laboratórios consideram propriedade intelectual crucial pode se sobrepor a informações relevantes para avaliar o risco de um modelo.

Isso levaria a discussões e redações, disse uma pessoa com conhecimento das negociações.

Especialistas afirmaram que a independência dos avaliadores é uma preocupação, visto que a Anthropic e a OpenAI escolhem quem realizará essas avaliações.

As discussões destacam a tensão entre a necessidade de conscientizar o mundo sobre a inteligência artificial potencialmente perigosa e as exigências de proteção de segredos comerciais por parte de empresas de IA que buscam avaliações trilionárias em suas ofertas públicas iniciais (IPOs).

O resultado das negociações ajudará a determinar como o mundo analisa uma tecnologia que, segundo alguns de seus criadores, pode estar avançando além da capacidade da humanidade de gerenciar.

Sem padrões e legislação para avaliações independentes, alguns especialistas afirmaram que as empresas que desenvolvem os modelos de IA mais poderosos poderiam ditar como seus sistemas são examinados, deixando os avaliadores à mercê dos próprios laboratórios.

Desenvolvedoras negociam direitos de publicação A natureza das discussões mudou rapidamente.

As duas pessoas com conhecimento do assunto disseram que, até 5 de outubro, a Anthropic e a OpenAI buscavam um controle editorial rigoroso sobre o que os avaliadores podiam publicar.