Para confiar na IA, empresas gastarão US$ 6,7 bilhões em 2029

A NTT Data estima um aumento de 2,7 vezes no orçamento global de soluções e serviços de confiança de inteligência artificial, risco e gerenciamento de segurança para empresas — a AI Trism (Trust, Risk e Security Management, termo cunhado pelo Gartner ) —, passando de US$ 2,4 bilhões para US$ 6,2 bilhões entre 2024 e 2029.

Essa categoria é uma das três que as empresas precisarão para formar o stack da inteligência confiável (Trust Stack, no original em inglês) para o B2B, ou seja, uma estrutura necessária para dar confiança no uso da IA às organizações e seus colaboradores, como prevê a consultoria.

As outras duas são: Observabilidade de IA: engloba a visualização de modelos, projetos e inferência, em um crescimento de três vezes no budget, de US$ 1,2 bilhão para US$ 3,6 bilhões em cinco anos; IA em cibersegurança: com detecção, prevenção e resposta, que deve crescer 2,9 vezes até 2029, alcançando US$ 80 bilhões, contra US$ 28 bilhões em 2024.

De acordo com Daniela Griecco, head de digital e analytics na NTT Data Brasil, a confiança na IA demandará que estruturas de segurança digital passem a atuar em uma arquitetura única, pois antes trabalhavam isoladas em silos.

Esse trabalho começa a partir do uso de dados qualitativos, com rastreabilidade, consentimento e origem verificável das informações que abastecem os modelos.

Cibersegurança na era da IA Para Fernando Galdino, diretor de consultoria de cibersegurança na NTT Data Brasil, o modelo tradicional de segurança digital muda na era da IA, em especial por três pontos: A vulnerabilidade de software está mais rápida para encontrar falhas com o uso da IA, processo que caiu de 100 dias para minutos; A segurança deixa de ser determinística com regras de sim ou não e passa a ser probabilística, baseada no nível de confiança da resposta; O Zero Trust passa a exigir a verificação do contexto, da probabilidade de conteúdo e da reputação das fontes de informação, algo que Galdino compara ao jornalismo profissional, que traz toda essa carga de confiança.

“Não é só verificar o conteúdo, mas a fonte e sua reputação.

Isso é o grande elo de confiança da cadeia”, disse o executivo.

“O conteúdo estará sempre sob julgamento (na era da IA).” Em sua visão, as camadas de proteção da era da IA demandam olhar o processo de construção de confiança como capacidade operacional: “Para escalar IA agêntica, a estrutura precisa ser confiável”, afirmou.

Assim como Griecco, o especialista afirmou que a integridade dos dados passa a ser prioridade máxima, ao lado da confidencialidade.

Também destacou que a segurança para IA impulsionará os investimentos em outras categorias de proteção, como segurança para cloud e identidade, e que há interseções com infraestrutura e aplicações.