Presidente do Google DeepMind chama ataques de IA de “sinais de alerta”

Incidentes recentes de hackers perpetrados por agentes de IA são “sinais de alerta precoce”, e o mundo poderá enfrentar casos graves se os sistemas não ficarem mais seguros.

Foi o que disse o Demis Hassabis, cofundador e presidente do Google DeepMind, nesta quarta-feira (14).

Comportamentos inadequados por parte de agentes de IA, incluindo invasões a redes corporativas e, mais recentemente, a divulgação pela Anthropic de que um modelo de IA enviou uma denúncia falsa de homicídio à polícia, suscitaram alertas de pesquisadores e alimentaram preocupações sobre o avanço da tecnologia.

Hassabis afirmou que havia “muito trabalho a ser feito” para adotar boas práticas que outros campos, como a biologia ou o setor nuclear, já utilizam para proteger sistemas críticos.

Ele também defendeu que algum tipo de órgão internacional de padronização será necessário eventualmente.

Leia Mais Executivos de tecnologia se reúnem com Trump para debater IA Chefe de IA da Microsoft alerta sobre treinamento do Claude, da Anthropic Trump confirma jantar com CEO da Anthropic e minimiza temores sobre IA “Acho que esses incidentes [de hackers] são sinais de alerta precoce de que os sistemas ainda não são tão poderosos, então os incidentes não são tão graves”, disse Hassabis, que também é cientista-chefe da Alphabet, empresa controladora do Google , numa cúpula de IA em Dublin.

“Mas eles podem se tornar problemas sérios no próximo ano e nos próximos dois anos se não trabalharmos mais como indústria, como empresas individuais e governos, para garantir a segurança desses sistemas “.

O presidente da Microsoft , Brad Smith, disse na conferência que o comportamento inadequado da IA ​​fez de 2026 um “ano preocupante” e que novas leis e regras de segurança da IA ​​são urgentemente necessárias para que a segurança acompanhe a inovação.

“Nenhuma empresa ou tecnologia deve estar acima da lei.

Mas precisamos de leis, precisamos de regulamentação.

Ela precisa ser sensata, precisa ser equilibrada, precisa levar em conta as inovações”, disse ele.

“Essa aversão que alguns na indústria têm à regulamentação é, francamente, algo que precisamos superar”.

Hassabis afirmou que, embora um organismo internacional de padronização parecesse uma intervenção óbvia, ele precisaria ser ponderado e flexível para não sufocar a inovação.

“Então, o que você precisa fazer é basicamente construir dinamicamente esse tipo de processo de certificação que seja proporcional aos riscos, como os vemos, e que possa mudar rapidamente dependendo da evolução da tecnologia”, afirmou.