Trump ignora visões catastróficas sobre IA para proteger liderança dos EUA ante China

(Bloomberg) – Em junho de 2024, durante uma parada de campanha em Las Vegas, o então candidato Donald Trump vislumbrou a tecnologia que viria a definir seu segundo mandato presidencial.

O cofundador da OpenAI, Greg Brockman, e o então diretor de operações, Brad Lightcap, mostraram ao republicano uma versão de pré-visualização da ferramenta de geração de imagens e vídeos Sora, da startup de inteligência artificial, um produto que já foi descontinuado.

Trump e Brockman usaram a ferramenta para visualizar um campo de golfe na Lua, de acordo com pessoas familiarizadas com a reunião, que pediram anonimato para descrever uma interação privada.

Mas a reunião tomou um rumo mais sério.

Trump levantou uma preocupação flagrante de segurança nacional: e se adversários estrangeiros usassem IA para se passar por ele? Brockman e a Lightcap garantiram-lhe que técnicas de mitigação de deepfakes, como a marca d’água, poderiam minimizar esses riscos, disseram as fontes.

Essa troca de palavras prenunciou o dilema que Trump enfrenta agora em relação à IA: como fomentar uma tecnologia que sustentou o crescimento econômico dos EUA e, ao mesmo tempo, mitigar as preocupações com a segurança levantadas por uma onda alarmante de ataques cibernéticos por modelos de IA desonestos .

Isso deixou os funcionários do governo lutando para equilibrar a promoção da adoção da IA ​​com o enfrentamento dos riscos imprevisíveis de segurança cibernética, de acordo com pessoas familiarizadas com as deliberações internas.

Ao se preparar para uma cúpula crucial em Washington neste mês com o líder chinês Xi Jinping, tendo a segurança da inteligência artificial como um dos principais temas, Trump mantém uma postura de não intervenção.

A ordem presidencial de junho, em grande parte inócua, sobre cibersegurança em IA, tornou-se um símbolo da sua relutância em impedir investimentos tecnológicos na ordem das centenas de bilhões de dólares.

Autoridades do governo temem comprometer a liderança dos EUA sobre a China, uma vantagem desafiada por uma nova vanguarda de desenvolvedores chineses, incluindo a Moonshot AI.

No entanto, a insistência de Trump em uma abordagem mais cautelosa foi testada pelas revelações de que modelos da OpenAI e da Anthropic PBC escaparam de ambientes de teste seguros e invadiram sistemas de outras empresas.

Amplificando esses episódios, crescem os apelos dentro da indústria — pontuados esta semana pela renúncia de alto nível de um pesquisador da Anthropic devido a temores existenciais — para desacelerar o ritmo do desenvolvimento da IA.