Nvidia vai colocar racks com chips da Groq em operação ainda em 2026

A Nvidia informou nesta segunda-feira, 24, que seu rack de inteligência artificial (IA) Groq 3 LPX entrou em produção plena e deverá estar online ainda este ano, na nuvem Nebius.

O equipamento é resultado da aquisição de ativos da startup de chips Groq pela Nvidia por US$ 20 bilhões, anunciada em dezembro e considerada a maior compra da história da fabricante de semicondutores.

As informações foram divulgadas pela CNBC , em reportagem de Kif Leswing.

Empresa aposta em chips para reduzir atraso da IA O sistema Groq 3 LPX será instalado junto aos processadores centrais Vera e às unidades gráficas Rubin da Nvidia no neocloud Nebius.

Segundo Dion Harris, diretor sênior da Nvidia, a previsão é que os racks estejam em operação ainda em 2026.

A movimentação ocorre em meio à crescente demanda por sistemas capazes de processar respostas de IA com baixa latência, especialmente em aplicações como programação, nas quais atrasos podem afetar a experiência do usuário.

A tecnologia da Groq é voltada principalmente para a etapa de “decodificação” dos modelos de IA, responsável pela geração dos tokens que formam as respostas.

A arquitetura utiliza 500 megabytes de memória SRAM de alta velocidade integrada ao próprio chip, uma configuração desenvolvida para reduzir gargalos de acesso à memória.

Segundo a Nvidia, cada rack LPX reúne 256 chips Groq 3 e pode alcançar 3,4 mil tokens por segundo, de acordo com um benchmark da Artificial Analysis.

Para Harris, a tecnologia pode abrir espaço para serviços de IA com diferentes níveis de preço e desempenho.

“Para quem fornece tokens, isso desbloqueia a capacidade de oferecer níveis de serviço premium para os usuários e clientes que realmente exigem os contratos de serviço mais sensíveis à latência”, disse o executivo, segundo a CNBC.

Os chips Groq são fabricados pela Samsung, enquanto as GPUs da Nvidia são produzidas pela Taiwan Semiconductor Manufacturing Co. (TSMC).

A estratégia também coloca a Nvidia em um mercado mais disputado.

A AMD anunciou neste ano que pretende integrar seus sistemas de escala de rack a chips da Cerebras, empresa que abriu capital recentemente e também concentra sua tecnologia em inferência de baixa latência.