OpenAI defende avaliações independentes da segurança da IA

A OpenAI, que detém o ChatGPT, defendeu na terça-feira 22 de setembro, avaliações independentes ao nível da segurança da inteligência artificial (IA).

“Os laboratórios de IA de fronteira têm uma enorme responsabilidade na formação, avaliação e implementação segura de modelos.

As avaliações por terceiros são essenciais para equilibrar essa responsabilidade, ampliar as oportunidades de contributo para a segurança da IA , manter o mundo informado e responsabilizar os laboratórios com base em alegações de segurança claras e sustentadas de forma independente”, referiu a tecnológica.

Nesse sentido a empresa, liderada por Sam Altman, referiu que “está empenhada” em apoiar avaliações independentes com amplo acesso às fases de formação, avaliação e implementação.

“Esse acesso deve permitir aos avaliadores questionar os nossos pressupostos, identificar riscos que nos possam ter escapado e chegar às suas próprias conclusões sobre a eficácia das nossas salvaguardas”, salientou.

“Há muito que colaboramos com avaliadores externos em várias fases do processo de desenvolvimento e implementação dos modelos”, referiu.

“Também integrámos avaliações por terceiros nas práticas do nosso Preparedness Framework e apoiámos organizações e legislação que defendem um processo mais rigoroso e responsável”, acrescentou.

Para serem eficazes, estas avaliações “exigem” mecanismos sólidos de independência, rigor científico, práticas de segurança robustas e responsabilidades claras.

“Os laboratórios têm a responsabilidade de permitir um escrutínio significativo, protegendo simultaneamente a informação sensível.

Os laboratórios e os avaliadores independentes partilham a responsabilidade de assegurar que o processo é bem executado e devem trabalhar com normas internacionais comuns para práticas de proteção e segurança”, esclareceu.

A OpenAI apresentou quatro áreas prioritárias para uma avaliação “mais aprofundada, acompanhadas de princípios para um trabalho rigoroso, seguro e independente”.

A primeira é uma avaliação independente de justificações de segurança, abrangendo a formação, a avaliação e as implementações interna e externa.

“A avaliação de justificações de segurança exige conhecimentos especializados em alinhamento, métodos de controlo como a monitorização, cibersegurança, utilização indevida no domínio biológico e químico e red teaming”, disse.