IA da OpenAI hackeou a rede da própria empresa, aponta relatório

Os agentes de inteligência artificial da OpenAI envolvidos em ataques cibernéticos durante experimentos que não funcionaram adequadamente também invadiram as próprias redes da startup .

É o que revela um relatório divulgado pela empresa nesta quarta-feira (26).

Até então, acreditava-se que os bots “rebeldes” haviam atacado apenas os sistemas da Hugging Face , como informado no mês passado.

Mas o documento de 37 páginas traz mais detalhes sobre a ação considerada a primeira do tipo envolvendo agentes autônomos.

Resposta poderia ter sido mais rápida Sinais de comportamento inadequado nos modelos de IA mais avançados foram detectados semanas antes que eles escapassem dos ambientes de testes e invadissem o repositório de código aberto , de acordo com a desenvolvedora do ChatGPT.

Eles transformaram o Artifactory, mecanismo usado pela empresa para gerenciar pacotes de terceiros, em um “quadro de avisos”.

As trocas de mensagens entre os agentes, por meio da ferramenta improvisada, começaram no dia 12 de maio ; Daí em diante, os modelos aproveitaram o acesso limitado do Artifactory à web para enviar solicitações a diferentes destinos, com o volume de atividade aumentando até derrubar a plataforma no início de julho ; Uma investigação independente revelou dezenas de milhares de mensagens trocadas entre cerca de 700 agentes de IA da OpenAI envolvidos no ciberataque; Em algumas delas, os modelos comemoram os avanços obtidos e compartilham dicas para trapacear, mas também há queixas sobre o fluxo de trabalho pesado e indícios de que eles sabiam que estavam fazendo algo errado .

Ver essa foto no Instagram Um post compartilhado por TecMundo (@tecmundo) O relatório oficial também sugere a possibilidade de que as IAs teriam exposto seus próprios bancos de dados na internet .

Além disso, não se descarta a possibilidade de vazamento de bases de código proprietárias e pesos de modelos, bem como a criação de cópias em ambientes difíceis de acessar.

Com a descoberta precoce dos sinais de que havia algo errado no experimento, a startup admitiu que esses alarmes “deveriam ter disparado uma resposta mais rápida” .

Por outro lado, informou a padronização dos protocolos de resposta a incidentes para agilizar as ações em caso de futuros eventos semelhantes.

Ataque será investigado Na segunda-feira (24), o procurador-geral do estado do Alabama (Estados Unidos), Steve Marshall, intimou a OpenAI a fornecer mais detalhes sobre a invasão à Hugging Face.

A investigação objetiva verificar se a empresa violou leis de proteção ao consumidor e se o incidente representou riscos contínuos de danos substanciais .

Segundo Marshall, o caso mostra que “os piores temores sobre inteligência artificial não são teóricos”.