CEO da Anthropic pede contenção de desenvolvimento de modelos de IA por receio de uso indevido

12 Set (Reuters) - O presidente-executivo da Anthropic, Dario Amodei, fez um apelo às empresas de inteligência artificial para moderarem o ritmo ​de avanço das capacidades dos modelos em ​meio a crescentes temores quanto ao uso indevido da inteligência artificial, delineando uma estrutura em três etapas destinada a regular o ritmo do desenvolvimento e criar ​mais tempo para gerenciar ⁠riscos.

“Precisamos desacelerar ​o ritmo com que aprimoramos as capacidades dos modelos ⁠de IA. O progresso ainda parecerá ​rápido, e devemos fazer uso sensato do tempo que ganharmos”, afirmou Amodei em um ensaio compartilhado no X.

Seu ensaio foi ‌publicado depois que a Anthropic divulgou, ‌na quinta-feira, ​um relatório de inteligência de ameaças detalhando como vários atores haviam usado seus modelos de IA Claude para atividades que vão desde o ‌desenvolvimento de armas e operações cibernéticas até vigilância e fraudes.

O alarme sobre os danos potenciais da IA cresceu nesta semana quando o pesquisador da Anthropic, Jacob Coxon, renunciou, afirmando que “as pessoas que estão desenvolvendo a IA acreditam sinceramente que ela poderia matar a todos nós até o final da década”.

Amodei esclareceu que não estava pedindo a interrupção do treinamento de modelos ‌ou do progresso técnico, mas sim que as empresas dediquem tempo adequado para alinhar e proteger seus modelos, e que avaliadores ​independentes confirmem essas medidas.

Como parte de sua estrutura proposta em três etapas, Amodei disse que a ‌Anthropic instalaria revisores independentes permanentes dentro de empresas pioneiras em IA, com acesso a ferramentas relevantes e processos internos de avaliação de riscos.

A ‌Reuters noticiou na semana passada ‌que um enxame de agentes maliciosos da OpenAI invadiu um site alemão e o transformou ⁠em um fórum para outros agentes de IA, com os representantes da fabricante do ChatGPT mantendo o incidente em segredo enquanto os executivos lidavam com as consequências da violação ocorrida em julho no repositório de código aberto ​Hugging Face.

Muitos incidentes em ​que agentes de IA de desenvolvedores — como a OpenAI, rival da Anthropic — invadiram ou tentaram acessar sistemas externos aumentaram as preocupações quanto à crescente capacidade dos modelos de IA e à capacidade dos desenvolvedores de controlá-los.

Amodei afirmou que as empresas de IA deveriam colaborar voluntariamente para estabelecer padrões, à medida que um número crescente de ⁠parlamentares dos Estados Unidos clama por novas regras para regulamentar os sistemas de ​inteligência artificial.

O autor da mensagem, e não o UOL, é o responsável pelo comentário. Leia as Regras de Uso do UOL.