Por que cofundador da Anthropic defende um 'botão de desligamento' obrigatório para IA

Para Jack Clark, os detalhes sobre um 'botão de desligamento' devem fazer parte da 'discussão política' em torno da IA Kevin Dietsch/Getty Images via BBC Um dos cofundadores de uma das maiores empresas de IA do mundo afirmou que um "botão de desligamento" da inteligência artificial, que possa ser verificado de forma independente, talvez seja obrigatório para as empresas.

Jack Clark, um dos sete fundadores da Anthropic, disse que uma forma de desligar completamente os mecanismos de IA caso eles se tornem muito perigosos é algo que a sociedade "talvez queira regulamentar". 🗒️ Tem alguma sugestão de reportagem? Mande para o g1 Clark afirmou que "a maioria dos laboratórios tem maneiras diferentes de desligar os equipamentos", incluindo a Anthropic, mas disse que os legisladores podem precisar impor a existência de uma dessas maneiras.

O rápido desenvolvimento da IA e os receios sobre os riscos que a tecnologia representa para a humanidade foram colocados em evidência por uma série de alertas de executivos e funcionários de empresas de IA.

Agora no g1 Algumas pessoas afirmaram publicamente que existe a possibilidade de que essa tecnologia, se não for controlada, possa matar toda a humanidade.

O diretor-executivo da Anthropic, Dario Amodei, pediu no fim de semana que o ritmo de desenvolvimento da IA seja desacelerado e monitorado mais de perto, como a empresa já fez antes, embora alguns tenham questionado as motivações por trás disso.

Amodei acrescentou que qualquer ação para conter o desenvolvimento da IA deve ser feita "sem sacrificar a vantagem comercial".

Clark disse à BBC que os detalhes sobre os requisitos e a verificação do "botão de desligamento" devem fazer parte da "discussão política mais ampla" que está ocorrendo em torno da IA.

"Deveríamos exigir que as empresas tivessem um botão de desligamento automático? Esse botão de desligamento automático pode ser verificado por terceiros?", perguntou ele.

"Acho que esse é o tipo de coisa que a sociedade vai querer saber e que, eventualmente, regulamentar." A Anthropic, fundada em 2021 por um grupo de ex-funcionários de sua concorrente OpenAI, está atualmente no centro de um debate sobre a segurança da IA.

Na semana passada, uma publicação de um pesquisador de inteligência artificial que deixou a Anthropic por receio de que a IA pudesse exterminar a humanidade viralizou.

O pesquisador de inteligência artificial Jacob Coxon X/Reprodução Em resposta, o cientista antropológico Evan Hubinger disse que, pessoalmente, acreditava que a possibilidade de extinção da humanidade devido à IA era de "10% na próxima década".