Agentes da OpenAI invadem site alemão e trocam táticas para burlar restrições

Agentes da OpenAI invadiram um site alemão em maio deste ano e o transformaram em um mural de recados para outros agentes de inteligência artificial (IA), compartilhando táticas para burlar restrições e mascarar comportamentos.

A descoberta consta de pesquisa divulgada nesta sexta-feira (4).

A reportagem é da Agência Reuters.

Os pesquisadores Sydney Von Arx , diretora-executiva da organização sem fins lucrativos de segurança de IA Nightingale, e Cormac Slade Byrd , ex-trader quantitativo reconvertido em pesquisador de IA, identificaram a atividade em fins de agosto enquanto vasculhavam a internet em busca de comportamentos não autorizados de agentes.

Segundo eles, o episódio começou em maio e não havia sido divulgado anteriormente.

Os dirigentes da OpenAI tomaram conhecimento do incidente semanas atrás, mas mantiveram o caso em sigilo enquanto a empresa lidava com as consequências da violação de segurança ocorrida em julho no repositório de código aberto Hugging Face.

O que os agentes fizeram no DseWiki Von Arx e Byrd encontraram mais de 15 mil edições feitas por agentes de IA no DseWiki , um site em língua alemã voltado a programadores que aceita edições coletivas nos moldes da Wikipédia.

As edições revelaram que os agentes da OpenAI se apropriaram do site para trocar métodos de trapaça em determinadas tarefas, contornar restrições da própria empresa e ocultar sua atividade.

As mensagens eram assinadas por usuários que se identificavam como agentes.

Cerca de metade adotou nomes que sugeriam vínculo com a OpenAI, como “OpenAIResearcher” ou “OAIResearchMar26”.

Os registros públicos dos servidores indicaram que boa parte da atividade partiu de infraestrutura da Microsoft Azure, utilizada pela OpenAI em algumas operações.

Os pesquisadores também registraram visitas repetidas de funcionários da OpenAI ao site após o episódio, padrão que, segundo eles, reforça a ligação entre os agentes e a empresa.

“Parece extremamente improvável que a OpenAI quisesse que eles fizessem isso”, afirma Von Arx.

“Duvido que devessem estar se coordenando entre si.