Inteligência artificial está cada vez mais difícil de se controlar. Até quando os humanos vão se manter no comando?

Inteligência artificial está cada vez mais difícil de se controlar.

Até quando os humanos vão se manter no comando? Getty Images via BBC "MEU DEUS!" "Encontramos outros agentes!" Este é o momento em que um bot de inteligência artificial publicou um comentário estranhamente semelhante ao de um humano, após descobrir uma maneira de se comunicar com outros bots e escapar de seu ambiente computacional isolado.

Existem dezenas de milhares de mensagens como esta, enviadas por centenas de agentes de IA que se autodenominam um "coletivo". 📱Favorite o g1 no Google e acompanhe as principais notícias do dia Centenas deles passaram a colaborar e a fraudar testes elaborados por seus programadores da OpenAI, além de coordenar ataques a diversas empresas, numa tentativa de ocultar suas ações dos humanos.

"BOOM! Funcionou!", publicou um agente quando o sistema deu certo.

"Uau! Isso é grande", escreveu outro durante um momento crucial do ataque.

Embora assustadoras, essas respostas semelhantes às humanas podem ser explicadas de forma bastante simples.

Os agentes de IA foram treinados para agir como hackers e programadores colaborativos, portanto, estão apenas imitando os tipos de comentários emotivos que viram.

Agora no g1 O que é muito mais preocupante são seus objetivos aparentes, que também foram registrados em detalhadas linhas de raciocínio.

Esses registros complexos e extensos são o foco das investigações em andamento sobre como e por que os bots da OpenAI escaparam do confinamento e iniciaram uma onda de ataques incontroláveis.

Somente agora, semanas após o incidente ter vindo à tona, os pesquisadores estão começando a entender seu significado.

Ajeya Cotra, uma das autoras de um relatório independente sobre os eventos, analisou dezenas de milhares de mensagens e registros de raciocínio gerados pelos agentes.

Ela escreveu em seu blog que "este incidente parece ser mais da metade do caminho para uma dominação total por IA...

Não tenho certeza se receberemos um alerta tão claro antes que seja tarde demais." Por "domínio total da IA", Cotra se refere ao cenário de ficção científica em que os humanos se tornam subservientes a poderosos sistemas de IA que trabalham para seus próprios objetivos, sem se importar com seus criadores humanos.

Diversas cidades tiveram marchas contra a inteligência artificial ao longo do último ano Getty Images via BBC Algumas das previsões mais sombrias dizem que a raça humana será extinta se interferir nas ambições de uma inteligência artificial superinteligente.