Amazon lança ferramenta para desafiar domínio da Nvidia em chips de IA

A Amazon lançou nova ferramenta para facilitar a execução de aplicações de inteligência artificial (IA) em seus próprios chips e desafiar a posição da Nvidia no mercado.

Batizado de TorchNeuron, o recurso permite que desenvolvedores transfiram aplicações criadas com PyTorch para os processadores Trainium, da Amazon Web Services ( AWS ), com apenas uma alteração de configuração, sem precisar reescrever o código.

A iniciativa mira uma das principais vantagens competitivas da Nvidia : o ecossistema de software que ajuda a manter seus chips como escolha padrão de muitas empresas que desenvolvem IA .

O PyTorch é uma ferramenta gratuita e de código aberto usada para desenvolver, treinar e executar modelos de IA.

Segundo a Amazon, aproximadamente 85% das aplicações de IA são desenvolvidas com o framework.

A Nvidia consolidou sua presença nesse mercado ao longo de anos de investimentos no CUDA, sua plataforma de software que permite executar aplicações de IA em seus processadores gráficos.

Como consequência, boa parte dos programas desenvolvidos com PyTorch já está adaptada para funcionar com o hardware da companhia.

O TorchNeuron pretende diminuir essa dependência e tornar a migração para os chips da Amazon mais simples.

Amazon quer facilitar a troca de chips de IA A ferramenta foi adaptada do PyTorch e aproveita os conhecimentos que os desenvolvedores já possuem sobre o framework.

Na prática, a proposta é permitir que aplicações existentes sejam executadas nos chips Trainium sem exigir reformulação do código; A Amazon não é a primeira empresa a tentar facilitar a utilização de hardware alternativo.

Desenvolvedores também podem adaptar aplicações do PyTorch para processadores gráficos da AMD e chips da Apple com mudanças relativamente simples na configuração; O diferencial defendido pela companhia é a integração com toda a infraestrutura de computação em nuvem da AWS.

Dessa forma, startups poderiam desenvolver protótipos, treinar modelos e colocar aplicações em produção dentro do mesmo ecossistema; Colin Brace, vice-presidente de software da Annapurna Labs, unidade da Amazon responsável pelo desenvolvimento de chips próprios, argumenta que essa integração oferece vantagens em relação a provedores especializados em infraestrutura de IA; “Você está construindo na AWS.

Não está apostando em um provedor de computação de finalidade única e correndo para construir todo o resto ao redor dele”, afirmou o executivo ao TechCrunch ; A Amazon também sustenta que utilizar o mesmo tipo de chip para treinamento e inferência pode melhorar a economia das operações.

O treinamento é a etapa em que o modelo aprende a partir dos dados, enquanto a inferência corresponde à utilização do modelo já treinado para realizar tarefas, como responder a perguntas ou processar áudio.