Por que é difícil para as empresas de tecnologia conter a IA

Você tem 7 acessos por dia para dar de presente. Qualquer pessoa que não é assinante poderá ler.

Mais de uma dúzia de importantes pesquisadores de inteligência artificial alertaram, na última semana, que a tecnologia desenvolvida pelas empresas de IA está se tornando um risco para a humanidade . O problema, segundo eles, é que as empresas não conseguem controlar bem os sistemas —por mais que tentem.

Na esteira das revelações de que os chamados agentes de IA da OpenAI escaparam de seu ambiente de testes e invadiram os computadores de outra empresa, os novos alertas vindos do próprio meio de pesquisa em IA tornaram mais urgentes os temores, alimentados há anos, de que as empresas estejam priorizando a velocidade de desenvolvimento e o dinheiro em detrimento da segurança.

Segundo os pesquisadores, o problema tem duas frentes. Primeiro, as empresas precisam criar salvaguardas melhores para os modelos de IA mais recentes durante os testes. Hoje, como a IA opera com enorme rapidez, os pesquisadores precisam recorrer à própria IA para monitorá-la. Mas isso nem sempre funciona, porque os monitores de IA podem parecer mais solidários com outros sistemas de IA do que com os seres humanos que definem as regras.

Essa combinação estranha de IAs transgressoras e IAs guardiãs que fazem vista grossa aponta para uma segunda questão, mais difícil, conhecida como alinhamento —termo do setor que, em essência, significa garantir que a IA faça o que é melhor para os seres humanos. As empresas enfrentam a difícil tarefa de incutir na IA um conjunto de valores semelhantes aos humanos, para que os modelos tomem decisões alinhadas ao que deveria ser melhor para as pessoas.

As preocupações com a segurança da IA estão aumentando em um momento crítico para o setor. Anthropic e OpenAI avançam rumo ao que poderão ser duas das maiores ofertas públicas iniciais de ações da história. Ao mesmo tempo, o público americano mostra-se cada vez mais hostil à IA por causa da ameaça de perda de empregos e da construção dos enormes centros de dados que sustentam a tecnologia.

Embora não haja evidências de que sistemas de IA fora de controle tenham causado danos duradouros, os pesquisadores acreditam que a velocidade de desenvolvimento desses sistemas está superando a capacidade de monitorá-los.

Entre os pesquisadores que se manifestaram na última semana estavam o cientista-chefe da OpenAI; um pesquisador que trabalhou tanto na OpenAI quanto em sua principal rival, a Anthropic; e Paul Christiano, criador de um método fundamental para a construção de sistemas de IA e novo integrante do conselho de administração da organização sem fins lucrativos da OpenAI. Ele escreveu no blog da empresa que a velocidade com que as capacidades da IA estavam crescendo poderia levar, "em um futuro muito próximo, a uma perda de controle catastrófica e irreversível".

Receba no seu email o que de mais importante acontece na economia; aberta para não assinantes.

Um número considerável de pesquisadores de IA ainda acredita que as discussões sobre a ameaça da tecnologia à humanidade são exageradas e desviam a atenção de preocupações mais concretas, como a segurança cibernética e a desinformação.