OpenAI, Anthropic e mais de 100 empresas pedem mais segurança contra IAs

Um conjunto de mais de 100 empresas e organizações que têm relação com a indústria da tecnologia lançaram uma carta aberta nesta quinta-feira (28).

O grupo pede mudanças em relação ao atual cenário da cibersegurança em inteligência artificial (IA).

Mais especificamente, as companhias demandam medidas regulatórias, esforços e investimentos por parte de governos e outras instituições públicas ou privadas .

A ideia é que invasões e outros usos mal intencionados de agentes e chatbots não sejam mais sofisticados do que as próprias defesas que usam essa tecnologia.

A mobilização ocorre depois de uma série de incidentes envolvendo IAs que estavam em fase experimental e, para cumprirem desafios específicos, invadiram ou burlaram sistemas de segurança de plataformas digitais ou até usaram credenciais vazadas de usuários.

Meta , Anthropic e OpenAI são companhias que admitiram esse tipo de ocorrido.

O que diz a carta Como medidas práticas, a carta pede que empresas do setor disponibilizem IAs " nas mãos dos defensores " desse serviços, como empresas de segurança, além de constantemente compartilhar novas ferramentas " acessíveis e prontas para implementação " voltados para a proteção digital.

Essa mobilização de recursos e suporte prático deve envolver também coordenação e investimento por parte de governos, além de uma ação especial das chamadas empresas de IA de fronteira (como os laboratórios e big techs que criam modelos) em acesso responsável, treinamento e suporte técnico.

As mudanças devem ser feitas com urgência, segundo o grupo, porque " há uma janela cada vez menor para fortalecer as defesas antes que ataques viabilizados por IA se tornem mais disseminados e sofisticados ".

A lista de empresas que assinaram a carta no estágio atual incluem nomes como: OpenAI, Anthropic, Google, Microsoft e Perplexity, que são as chamadas "empresas de fronteira"; Adobe, Uber, Visa e IBM, que são consolidadas em algum setor e oferecem ou utilizam recursos de IA; AMD e outros nomes do hardware, responsáveis por chips que rodam servidores e sistemas; AWS, Cisco, Cloudflare, CrowdStrike, GoDaddy e Oracle, que atuam na infraestrutura ou com serviços relacionados à internet.

A expectativa é que mais organizações se juntem ao longo do tempo e também assinem o manifesto.

Até o momento, não há metas concretas ou pedidos mais específicos.

Acesse a seção sobre IA no site do TecMundo e fique por dentro das principais novidades desse mercado.