A IA pode superar a inteligência humana? Se revoltar? Veja o que dizem especialistas

'Parece lixo de IA': por que plataformas agora estão 'dedurando' conteúdos feitos com IA O ChatGPT foi lançado em 2022.

De lá para cá, a inteligência artificial evoluiu em um ritmo acelerado, quase sem freio.

Casos recentes em que sistemas de IA saíram do controle e chegaram a invadir sites mostram o desafio de traçar limites.

A repercussão nos últimos dias chegou aos executivos de grandes empresas de IA, que até defenderam uma pausa no avanço das tecnologias para tornar seu desenvolvimento mais seguro. 🗒️ Tem alguma sugestão de reportagem? Mande para o g1 O estopim foi um texto publicado por Dario Amodei, CEO da Anthropic, empresa responsável pelo Claude.

"Precisamos desacelerar o ritmo com que aprimoramos as capacidades dos modelos de IA".

Afinal, quais são os riscos reais da inteligência artificial para a sociedade? Ela realmente pode se revoltar contra os humanos? Para responder a essas e outras dúvidas, o g1 ouviu especialistas em IA, que explicam a seguir quais são os principais riscos.

Logo da OpenAI no celular.

Dado Ruvic/Reuters A IA poderia ter vontade própria ou se revoltar contra os humanos? A IA não tem vontade própria, explica Edney Souza, professor da educação continuada da ESPM e especialista em tecnologia e inovação.

Segundo ele, a tecnologia apenas completa padrões estatísticos a partir de textos que já existem.

"Tudo que parece comportamento estranho ou mentira é uma ideia emprestada da própria base de treinamento, ou seja, dos dados e informações usados para treinar a tecnologia", completa o especialista.

Para Diogo Cortiz, especialista em IA e professor da PUC-SP, a IA não tem nenhum tipo de consciência e, por isso, não poderia se revoltar contra os humanos.

"O que pode acontecer é que esses modelos estão, de fato, ficando cada vez maiores, resolvendo tarefas mais longas e complexas." Segundo Cortiz, a tecnologia pode tomar alguma decisão que vá contra nossos valores e princípios e, de certa forma, prejudicar a humanidade em determinados níveis de controle.

Mas isso seria resultado de um fluxo de processamento, e não porque a IA decidiu conscientemente se revoltar contra nós.

Ainda assim, de acordo com Cortiz, as empresas vêm colocando cada vez mais salvaguardas e realizando controles de segurança para evitar problemas desse tipo.