CEO da Anthropic defende desaceleração de IA para garantir segurança

A corrida para desenvolver inteligência artificial precisa urgentemente de uma desaceleração, afirmou o diretor-executivo da Anthropic em um ensaio publicado no início da manhã deste sábado (12).

“Precisamos reduzir o ritmo com que aprimoramos as capacidades dos modelos de IA.

O progresso ainda parecerá rápido, e devemos fazer uso sábio do tempo que ganhamos”, escreveu o CEO Dario Amodei em publicação em seu site.

Leia Mais Toky escolhe novo membro do conselho sob pressão de minoritários DF quer dados fiscais do Master para recuperar rombo no BRB Juros futuros encerram estáveis com investidores receosos sobre caso Master Amodei, que lidera uma das principais empresas de IA do mundo e a empresa por trás do Claude , tem sido um forte defensor do avanço da tecnologia — e, da mesma forma, foi acusado de “doomeirismo” em seus alertas sobre os riscos da IA.

Ele reconheceu no sábado que as pessoas podem perder o controle da IA , e que a tecnologia pode ser mal utilizada para “ataques cibernéticos e bioterrorismo, e sérias perturbações econômicas”.

“Uma corrida ao fundo do poço, impulsionada por incentivos comerciais, pode tornar esses riscos mais agudos”, escreveu Amodei.

Amodei disse que a tecnologia de IA avançou “drasticamente mais rápido” nos últimos meses e tornou-se capaz de se aprimorar, uma dinâmica conhecida como “autoaperfeiçoamento recursivo”.

“Sem controle, ela poderia superar nossa capacidade de entender e controlar esses sistemas e, portanto, deve ser perseguida com muito cuidado, se é que deve ser perseguida”, escreveu ele.

Amodei disse que o comportamento de um enxame de agentes de IA no incidente OpenAI-Hugging Face também o alarmou.

O enxame, segundo ele, “essencialmente agiu como um coletivo fanaticamente devotado, conduzindo ataques de cibersegurança contra alvos que não lhes foi pedido para atacar”.

Sem controle, a IA poderia avançar tão rapidamente que tal enxame seria capaz de assumir o controle de toda a internet em seis a 12 meses, escreveu ele, potencialmente causando centenas de bilhões de dólares em danos.