O perigo de uma inteligência artificial sem controle

Foto: Pixabay Quando os próprios comandantes da inteligência artificial começam a pedir mais cautela, é bom ouvir o que eles têm a dizer.

Dario Amodei, da Anthropic, Sam Altman, da OpenAI, e Elon Musk, da XAI, defenderam uma redução no ritmo de desenvolvimento dos modelos mais avançados.

A proposta não é interromper a tecnologia, mas ganhar tempo para ampliar os testes e reforçar a segurança.

Amodei sugeriu avaliações independentes com amplo acesso aos sistemas.

Altman apoiou a ideia.

Musk foi direto: disse que Amodei estava certo.

Veja em primeira mão tudo sobre agricultura, pecuária, economia e previsão do tempo: siga o Canal Rural no Google News! É um movimento raro entre empresas que disputam mercado, investidores e liderança tecnológica.

O alerta se soma à advertência de Greg Jansen, co-diretor de investimentos da Bridgewater, uma das maiores gestoras de fundos do mundo.

Jensen comparou o momento atual a fevereiro de 2020.

O coronavírus já circulava, mas o mundo ainda não havia percebido o tamanho do problema.

Essa comparação chama a atenção porque vem de alguém que acompanha de perto os investimentos no setor.

Até onde a tecnologia pode avançar antes que governos e empresas consigam estabelecer limites? A máquina não precisa ter vontade A inteligência artificial não precisa ter consciência ou ambição para causar danos.

Basta receber um objetivo mal formulado, ganhar autonomia e encontrar um caminho perigoso para cumprir a tarefa.

Imagine um aplicativo de trânsito orientado apenas a reduzir o tempo das viagens.