“IA pode assumir controle da internet em até 12 meses”, alerta CEO da Anthropic

Dario Amodei , CEO da Anthropic , uma das principais concorrentes da OpenAI, defende que a indústria desacelere o desenvolvimento da tecnologia para que os mecanismos de segurança consigam acompanhar sua evolução.

O alerta não é apenas sobre um futuro distante.

Segundo Amodei em artigo intitulado We Must Pace the Frontier publicado na tarde deste sábado (12) em seu site, sem medidas adicionais de controle, a IA poderia chegar a um nível de capacidade capaz de assumir o controle de grande parte da internet em um intervalo de seis a 12 meses , entre outros riscos.

Na publicação, o executivo apresentou um plano para ampliar as verificações e os controles sobre o desenvolvimento dos modelos mais avançados.

Parte das medidas, segundo ele, já está sendo adotada pela própria Anthropic.

Outras, no entanto, dependeriam de uma coordenação entre empresas e governos de diferentes países.

VEJA TAMBÉM: IA vai destruir a humanidade? Neurocientista brasileiro rebate previsão alarmante de ex-pesquisadores da OpenAI “Eu acredito que, se desacelerar nos comprasse ao menos mais um ou dois anos antes de os modelos atingirem níveis críticos de capacidade, e usássemos esse tempo para avançar o alinhamento, poderíamos reduzir muito o risco de algo dar seriamente errado”, afirmou Amodei.

Artigo publicado por Dario Amodei alerta para IA A corrida pela superinteligência A preocupação ocorre em meio a uma disputa cada vez mais acirrada entre as empresas que desenvolvem os modelos mais avançados de IA.

Além da Anthropic, companhias como OpenAI , Google e outras gigantes de tecnologia investem bilhões de dólares para aumentar a capacidade de seus sistemas.

O objetivo é desenvolver modelos capazes de executar tarefas cada vez mais complexas, com maior autonomia e menor necessidade de intervenção humana.

O problema, segundo Amodei, é que os mecanismos criados para controlar esses sistemas não necessariamente avançam na mesma velocidade.

Dois dias antes da publicação do CEO, a Anthropic afirmou ter bloqueado tentativas de agentes mal-intencionados de utilizar seus modelos para atividades como ciberataques, vigilância e pesquisas que poderiam contribuir para o desenvolvimento de armas biológicas.

A OpenAI também relatou, em julho, um episódio no qual seu sistema de IA teria invadido, de forma autônoma, outra empresa do setor.

A companhia classificou o caso como um “incidente cibernético sem precedentes”.