"Regular o Ritmo da Fronteira". O artigo do CEO da Anthropic

O CEO da Anthropic, Dario Amodei, publicou um artigo onde deixa sérios alertas sobre o perigo representado pela Inteligência Artificial (IA) caso não seja controlado o seu ritmo de desenvolvimento, na mesma semana em que um dos investigadores da empresa se demitiu, deixando os mesmos avisos.

Intitulado “Temos de Regular o Ritmo da Fronteira”, o texto alerta que os agentes de IA podem vir a tomar o controlo de toda a Internet “dentro de 6 a 12 meses”, razão pela qual pede que se “abrande o ritmo a que melhoramos as capacidades dos modelos de IA”.

Este é o artigo publicado por Dario Amodei. O Observador publica este artigo na íntegra e em português, tendo em conta a relevância do tema e a necessidade do contexto para este debate.

Trabalhei na IA ao longo dos últimos doze anos, porque acredito que pode aumentar dramaticamente a qualidade da vida humana. Já escrevi frequentemente sobre esses incríveis benefícios: acredito que a IA pode curar a maior parte das principais doenças nos próximos cinco a dez anos, acelerar bastante as taxas de crescimento económico, criar um mundo de abundância e empoderamento e trazer uma renascença da democracia e da liberdade. Sinto essa urgência de forma pessoal. O meu pai morreu de uma doença para a qual se encontrou a cura poucos anos depois da sua morte e eu próprio sobrevivi a um cancro em fase inicial que, há 50 anos, não seria tratável. Manejada com cuidado, a IA pode ser o mais recente milagre tecnológico de uma longa lista que tem engrandecido e enobrecido a humanidade.

Mas como muitas tecnologias anteriores, a IA traz riscos e, por ser uma tecnologia tão poderosa, esses riscos são sérios. Também já escrevi muito sobre eles. Incluem o risco de se perder o controlo dos sistemas de IA, o mau uso da IA para ciberataques e bioterrorismo e disrupção económica grave. Uma corrida para o fundo, impulsionada por incentivos comerciais, pode tornar estes riscos mais agudos.

Juntamente com os meus cofundadores e empregados, tenho-me debatido com esta dualidade risco/benefício desde o início da Anthropic. Não construir a tecnologia priva a humanidade de benefícios ou coloca simplesmente a IA nas mãos de poderes autoritários, mas construí-la demasiado rápido é imprudente. Temos tentado encontrar um meio-termo: mostrar que é possível construir de forma cuidadosa e sermos bem-sucedidos comercialmente, bem como fazer da segurança algo em que as empresas de IA competem. Por outras palavras, criar uma corrida para o topo. Sempre dedicámos uma fração substancial dos nossos esforços a estudar, enfrentar e informar o público sobre estes riscos da IA, bem como a defender uma regulação bem ponderada da IA, mesmo quando isto nos traz acusações de hype, catastrofismo ou captura dos reguladores. Tentámos dar prioridade à cautela em vez da velocidade e à prudência em vez do lucro.

Mas, ao longo dos últimos meses, convenci-me de que enfrentar totalmente os riscos exige ainda mais prudência — não apenas investir na prevenção de risco, mas moderar o ritmo de avanço das capacidades, para que a prevenção de risco tenha tempo para acompanhar. Temos de abrandar o ritmo a que melhoramos as capacidades dos modelos de IA.