OpenAI reconhece "incidente do wiki" e necessidade de maior transparência sobre IA

WASHINGTON, 5 Set (Reuters) - A OpenAI informou neste sábado que seus agentes haviam se apropriado ​de sites wiki para usá-los como ​fóruns improvisados, acrescentando que era necessária maior transparência em relação a tais incidentes.

A declaração segue uma reportagem da Reuters de que ​um enxame ⁠de agentes ​da OpenAI havia invadido um site alemão ⁠editado coletivamente no início deste ​ano e o usado como trampolim para trapacear durante testes, além de outros comportamentos indevidos.

A revelação ocorre ‌em um momento em que ‌as preocupações ​com a segurança da IA se intensificam após um incidente em julho, no qual agentes da OpenAI ‌escaparam de um ambiente de testes e invadiram os sistemas da plataforma de IA Hugging Face, levando parlamentares e pesquisadores a clamarem por uma supervisão mais rigorosa dos sistemas autônomos de inteligência artificial.

Funcionários da OpenAI tomaram conhecimento do incidente alemão há semanas, mas mantiveram o caso em segredo ‌enquanto os executivos lidavam com as consequências da violação na Hugging Face, conforme já havia sido noticiado pela ​Reuters.

A OpenAI não respondeu imediatamente a uma mensagem solicitando mais detalhes sobre ‌o que a empresa sabia a respeito do que descreveu como o “incidente do wiki”, nem sobre por que ‌esperou até depois da reportagem ‌da Reuters para discutir o assunto publicamente.

Em um comunicado publicado na rede ⁠social X, a OpenAI afirmou que ela, assim como outras empresas, precisa ser mais transparente sobre incidentes de comportamento indesejado por parte da IA -- normalmente chamados no setor de “desalinhamento”.

“Nossas ​práticas de divulgação ​de desalinhamento precisam se expandir para essa nova fase de capacidades dos modelos”, disse a OpenAI, acrescentando que o setor “ainda não possui um padrão claro sobre como relatar o desalinhamento que surge durante o treinamento, a avaliação e a implantação”.

A OpenAI afirmou que está “trabalhando ⁠com dezenas de órgãos reguladores governamentais em todo o mundo ​sobre essas questões”.

O autor da mensagem, e não o UOL, é o responsável pelo comentário. Leia as Regras de Uso do UOL.