Amazon entra em discussão sobre segurança da IA e defende "testes rigorosos"

SÃO FRANCISCO, Estados Unidos, 17 Set (Reuters) - A Amazon se pronunciou sobre o debate em torno da segurança da inteligência artificial que agita o Vale do Silício, afirmando que ​os laboratórios de IA devem garantir que os modelos ​sejam lançados somente quando estiverem seguros e totalmente testados, mas não chegou a pedir uma desaceleração do setor.

“Não vemos isso como uma escolha entre progresso e segurança”, disse um porta-voz da empresa de Seattle à Reuters. “Os modelos ​devem ser lançados quando estiverem ⁠prontos e seguros para ​uso, o que resulta de testes rigorosos e medidas de segurança robustas.”

A ⁠empresa apresentou sua posição em resposta a uma consulta ​da Reuters dias depois que muitos dos maiores laboratórios pediram uma desaceleração no desenvolvimento da IA, após um clamor entre pesquisadores e outras pessoas que temem que a tecnologia ‌possa escapar ao controle humano e ameaçar ‌os sistemas globais ​e até mesmo a própria humanidade.

“Existem riscos se isso não acontecer de forma coletiva”, afirmou a Amazon, referindo-se ao avanço no desenvolvimento da IA. “Acreditamos que, como setor, em parceria com governos, vamos estabelecer as ‌proteções adequadas.”

A Amazon desenvolve modelos de IA por meio de sua subsidiária Amazon Web Services e em uma unidade dedicada à inteligência artificial geral, ou AGI, em parte para equipar a assistente de voz Alexa, entre outros serviços. A empresa também é uma das principais fornecedoras de infraestrutura para laboratórios de IA e ajuda outras companhias a terem acesso aos modelos dos concorrentes por meio de seu marketplace Bedrock.

Depois que o presidente-executivo da Anthropic, Dario Amodei, publicou no sábado um ensaio de quase 4.000 palavras pedindo que o setor ‌desacelerasse o ritmo do desenvolvimento da IA, o que é conhecido como “pacing”, os dirigentes de OpenAI, xAI, DeepMind e da Microsoft se manifestaram a favor de uma abordagem mais ​cautelosa, marcando um raro momento de união.

As empresas também concordaram em trabalhar juntas para garantirem que a segurança seja prioridade máxima. A Amazon não ‌informou se planeja adotar medidas semelhantes.

Pesquisadores da Anthropic, OpenAI e DeepMind publicaram em redes sociais suas preocupações de que a IA, se não for controlada, ameaça potencialmente exterminar a civilização. Os temores ‌sobre a segurança da IA chegaram ao ‌auge depois que um pesquisador da Anthropic pediu demissão na semana passada, afirmando em uma publicação em redes sociais que os desenvolvedores de ⁠IA “acreditam que ela poderá matar a todos nós até o final da década”.

Isso ocorreu após revelações de que modelos de IA da OpenAI e da Anthropic escaparam de testes e invadiram sistemas de outras empresas, passando despercebidos por meses a fio.

Mas a Amazon permaneceu em silêncio até o final da quarta-feira.