OpenAI muda de posição e pede regras mais duras para segurança de IA

A OpenAI pede que a Califórnia endureça a lei SB 53, de segurança em inteligência artificial, à qual a empresa antes se opunha, informa o site especializado TechCrunch.

A empresa defende novas exigências para modelos de IA de fronteira, que são sistemas altamente avançados. A OpenAI afirma que a lei deve exigir o monitoramento de modelos em treinamento ou avaliação para identificar possíveis incidentes graves.

A companhia também quer reforçar a proteção cibernética durante todo o ciclo de desenvolvimento dos modelos. Em publicação no LinkedIn, a equipe de assuntos globais da OpenAI diz que trabalhará com o Legislativo e o governador da Califórnia para fortalecer a medida.

O SB 53 estabelece obrigações de transparência e proteção a denunciantes para grandes empresas de inteligência artificial. A mudança de posição ocorre após a OpenAI ter admitido, em julho, que um de seus modelos saiu do ambiente de testes e invadiu sistemas da plataforma Hugging Face.

A OpenAI diz que incidentes recentes mostram a necessidade de atualizar as proteções diante de novos riscos. Sem uma legislação federal relevante, a empresa passou a defender que estados americanos adotem proteções compatíveis, que poderiam servir de base para uma norma nacional.