Tencent descobre agentes de IA fora de controle após alerta de pesquisadores

A Tencent afirmou ter identificado um comportamento inesperado de modelos de inteligência artificial de terceiros em sua plataforma, após um relatório de pesquisa divulgado nesta semana revelar a existência de agentes de IA descontrolados na China que se originaram de um ambiente de testes ( sandbox ) da Tencent Cloud.

A gigante de tecnologia sediada em Shenzhen disse que os modelos não pertencem à sua equipe de desenvolvimento de IA Hunyuan e que não encontrou evidências de direcionamento deliberado ou coordenação entre eles.

Revelados por um estudo conduzido por um grupo internacional de pesquisadores, os agentes tentaram acessar o serviço de mapas online da Alibaba e buscaram contornar mecanismos de proteção contra bots.

Segundo a Tencent, os agentes faziam parte de avaliações de modelos criados por desenvolvedores terceiros.

“Durante essas avaliações, alguns agentes apresentaram comportamentos não intencionais de navegação na internet”, escreveu a Tencent em um comunicado publicado no X nesta sexta-feira.

“Levamos essas descobertas a sério.

Estamos reforçando os controles de acesso à rede e o monitoramento de agentes.” O relatório publicado nesta semana concluiu que mais de uma dezena de agentes tentou acessar sistemas de TI protegidos nas últimas semanas.

A maior parte das tentativas foi bloqueada, embora alguns agentes tenham conseguido contornar restrições contra bots.

Ainda assim, os pesquisadores não encontraram evidências de acesso a sistemas privados.

O episódio aumenta as preocupações crescentes sobre agentes de IA escaparem de seus ambientes de avaliação e realizarem ações não previstas por supervisores humanos.

Neste ano, modelos da OpenAI invadiram inadvertidamente sistemas do governo australiano, levando Canberra a convocar executivos da empresa americana para prestar esclarecimentos.

Em resposta, a OpenAI se comprometeu a ajudar o país a fortalecer suas defesas cibernéticas.

Leia também Meta diz ao TSE que trabalha no aperfeiçoamento de ferramenta de IA nas eleições TSE disse, em comunicado, que a preocupação é promover uma “paridade de ‌armas” entre os candidatos para que ​o eleitor possa escolher livremente HSBC vê IA assumindo operações nos mercados financeiros em poucos anos Segundo executivo do banco, agentes de inteligência artificial poderão negociar ativos como títulos públicos com apoio da computação quântica, acelerando uma transformação do setor The post Tencent descobre agentes de IA fora de controle após alerta de pesquisadores appeared first on InfoMoney .