Riscos da IA: Europa teme que apelo para abrandar desenvolvimento agrave atraso tecnológico

O que está em causa? Dario Amodei, CEO da Anthropic, defendeu num artigo publicado online que as empresas de inteligência artificial devem “abrandar o passo” no desenvolvimento de sistemas cada vez mais poderosos e trabalhar em conjunto para estabelecer padrões de segurança.

O responsável argumenta que a evolução da IA está a avançar mais depressa do que a capacidade dos governos para regular.

Por isso, defende que as empresas devem, enquanto aguardam por legislação, coordenar voluntariamente medidas de segurança e submeter-se à supervisão de avaliadores independentes.

“Infelizmente, a aprovação de leis pode demorar e a IA está a avançar muito rapidamente.

Por isso, em paralelo com a via regulatória, as empresas de IA podem e devem trabalhar voluntariamente em conjunto para estabelecer padrões”, escreveu Amodei.

A proposta surge num momento em que investigadores e empresas do setor alertam para riscos associados ao desenvolvimento de sistemas de IA cada vez mais poderosos, incluindo cenários considerados uma ameaça potencial à humanidade.

Porque é que há empresas europeias contra a ideia? É aqui que surge a principal divisão.

Algumas empresas europeias defendem que a preocupação com a segurança não deve ser utilizada para criar barreiras que favoreçam as empresas que já dominam o mercado.

A startup francesa Mistral, uma das principais empresas europeias de IA, acusou algumas das empresas já estabelecidas de aproveitarem o atual debate para reforçar a sua posição.

“Algumas empresas já estabelecidas estão a aproveitar este momento para consolidar a sua posição no mercado, pressionando por regulamentações que as favoreçam em detrimento dos concorrentes”, afirmou a empresa, acrescentando que os riscos associados à IA já eram conhecidos há meses.

Raphael Auphan, diretor de operações da empresa suíça de software de privacidade Proton, também criticou a proposta.

“Acho que isso é totalmente interesseiro”, afirmou num evento tecnológico em Paris, onde defendeu que as grandes empresas podem estar a tentar manter a dependência de outros atores relativamente aos seus serviços.

A mesma preocupação é partilhada por Ben Brooks, responsável pela política pública da startup alemã Black Forest Labs.

O responsável alertou que a criação de diferenças entre grandes laboratórios e novos concorrentes, com base em “limiares arbitrários”, pode prejudicar a inovação na fronteira tecnológica.