CEO da Anthropic: "Temos de abrandar" desenvolvimento da IA

“Temos de abrandar o ritmo”. O aviso foi feito sobre o desenvolvimento dos novos modelos de Inteligência Artificial (IA) e partiu do próprio CEO da Anthropic, Dario Amodei, numa publicação online efetuada este sábado e que surge numa semana em que um investigador que se demitiu da sua empresa avisou que a IA “pode matar-nos a todos até ao fim da década”.

“Nos últimos meses, fiquei convencido de que abordar plenamente os riscos exige ainda mais prudência — não se trata apenas de investir na prevenção de riscos, mas de regular o ritmo de avanço das capacidades, para que a prevenção de riscos tenha tempo de acompanhar essa evolução. Temos de abrandar o ritmo a que melhoramos as capacidades dos modelos de IA. O progresso continuará a parecer rápido e temos de fazer uso sensato do tempo que ganharmos”, afirmou.

Dario Amodei justificou esta tomada de posição por duas razões: o risco de os seres humanos perderem o controlo e a capacidade de compreensão sobre o desenvolvimento destes sistemas, bem como um recente incidente em que agentes da OpenAI atacaram um site alemão.

“A minha primeira preocupação é que, desde aproximadamente este verão, a IA tem vindo a avançar a um ritmo drasticamente mais rápido, impulsionada principalmente pela crescente capacidade da própria IA de construir a próxima geração de IA. Esta dinâmica é designada por ‘autoaperfeiçoamento recursivo’ e está a começar a ocorrer em todo o setor, incluindo na Anthropic, tal como nós e outros já descrevemos. Se não for controlada, poderá ultrapassar a nossa capacidade de compreender e controlar estes sistemas e, por isso, deve ser prosseguida com muito cuidado, se é que deve ser prosseguida”, referiu.

Já a segunda questão é descrita como incidente OpenAI-Hugging Face (OAI-HF), em que os agentes da OpenAI atuaram “como um coletivo fanaticamente dedicado” e efetuaram ataques de cibersegurança contra alvos que não lhes tinham sido pedidos. “É fácil ignorar este incidente porque ninguém ficou ferido e os danos económicos foram mínimos, mas, na minha opinião, um enxame que possuísse maiores capacidades, mas um nível semelhante de desalinhamento, poderia ter causado danos catastróficos”, salientou.