Alerta sobre riscos da IA reacende debate sobre limites e segurança

Quanto mais a inteligência artificial avança, mais urgente se torna uma pergunta que não pode ser respondida pelas próprias máquinas: quem estabelece os limites e assume a responsabilidade pelas decisões tomadas por esses sistemas? O alerta ganhou força depois que o pesquisador Jacob Coxon, que trabalhou na OpenAI e deixou recentemente a Anthropic, manifestou preocupação com a possibilidade de sistemas cada vez mais autônomos evoluírem em ritmo superior ao desenvolvimento de mecanismos capazes de controlá-los.

Ele chegou a mencionar cenários extremos, incluindo riscos à sobrevivência humana.

A trajetória de Coxon na OpenAI aparece em publicações da própria empresa, e sua saída da Anthropic foi repercutida internacionalmente.

A hipótese de extinção provocada pela IA está longe de representar consenso entre pesquisadores.

Parte dos especialistas considera esse cenário especulativo e defende que o debate também se concentre em problemas já presentes, como desinformação, ataques cibernéticos, discriminação algorítmica, uso indevido de dados e automatização de decisões que afetam diretamente a vida das pessoas.

Ainda assim, a repercussão do alerta expõe uma preocupação concreta: os sistemas estão ficando mais poderosos e ganhando autonomia, enquanto regras, fiscalização e mecanismos de responsabilização avançam mais lentamente.

Para Alcir Abuchaim, CEO da i4t (Intelligence for Transformation), a segurança da inteligência artificial começa pela capacidade humana de definir até onde a tecnologia pode chegar.

“Quanto maior a capacidade e a autonomia de uma IA, maior precisa ser a governança sobre ela.

Precisamos saber quem estabelece os limites, quem supervisiona seu funcionamento e quem responde pelas decisões.

Segurança em IA começa com gestão humana”, afirma.

O desafio já deixou de ser exclusivo das grandes empresas de tecnologia.

Governos, bancos, hospitais, escolas, empresas e órgãos públicos incorporam ferramentas capazes de analisar dados, produzir conteúdos, selecionar candidatos, recomendar tratamentos e auxiliar decisões administrativas.

A adoção, porém, exige mais do que contratar uma plataforma.

É preciso definir quais informações poderão ser acessadas, quais decisões poderão ser automatizadas, como eventuais erros serão identificados e corrigidos e quem responderá quando uma máquina causar prejuízos.