As preocupações que levaram a OpenAI, do ChatGPT, a abandonar lançamento de novo sistema de IA

O CEO da OpenAI, Sam Altman, discursa no Conselho de Segurança das Nações Unidas durante uma sessão sobre inteligência artificial, na sede da ONU Reuters A OpenAI anunciou que não lançará seu novo modelo de inteligência artificial devido a preocupações com segurança.

O sistema GPT-6.1 Astra, que realiza tarefas como navegar na internet e usar aplicativos de forma autônoma, "não atingiu exatamente o nível exigido" pelos padrões da empresa, segundo Saachi Jain, responsável pelos sistemas de segurança da OpenAI. 🗒️ Tem alguma sugestão de reportagem? Mande para o g1 A empresa responsável pelo ChatGPT também divulgou uma atualização sobre incidentes ocorridos em junho, mas que só se tornaram públicos na semana passada.

Na ocasião, seus modelos acessaram sites e sistemas do governo australiano sem autorização.

O caso ocorre em meio ao aumento de incidentes envolvendo modelos de grandes empresas de IA, intensificando o debate sobre os riscos apresentados pela tecnologia — enquanto a Anthropic, empresa rival da OpenAI, reforça suas preocupações de que a IA possa representar uma ameaça à humanidade, à medida que se prepara para abrir seu capital.

Agora no g1 A agência de notícias Reuters informou nesta terça-feira (29/09) que a empresa de desenvolvimento de IA — responsável pelo Claude, concorrente do ChatGPT — planeja alertar potenciais investidores em sua Oferta Pública Inicial (IPO) de que a tecnologia pode representar "riscos catastróficos ou existenciais para a humanidade", segundo um prospecto ao qual a agência teve acesso.

Apesar dos alertas contundentes, a empresa deve se tornar uma das mais valiosas do mundo quando abrir seu capital.

"Acho meio louco que as empresas continuem avançando no desenvolvimento dessas capacidades quando já vimos, nos últimos meses, incidentes que mostram que elas estão longe de ser seguras e controladas o suficiente", disse Jess Whittlestone, consultora sênior de políticas de IA do Centre for Long-Term Resilience, um centro de estudos especializado no tema.

Líderes do setor de IA, incluindo o chefe da Anthropic, Dario Amodei, e o CEO da OpenAI, Sam Altman, pediram que a indústria desacelere o ritmo de desenvolvimento.

As preocupações que levaram a OpenAI, do ChatGPT, a abandonar lançamento de novo sistema de IA Andrej Ivanov/AFP via Getty Images Crescem as dúvidas sobre a segurança A decisão da OpenAI, divulgada inicialmente pelo Wall Street Journal, representa um caso raro em que uma grande empresa de inteligência artificial adia o lançamento de um novo modelo por preocupações relacionadas à segurança.

O modelo ficou aquém "no que diz respeito a permanecer dentro do escopo e da autorização e à forma como se comunica com o usuário sobre o tipo de trabalho que realizou", disse Jain.