비싼 HBM에 엔비디아도 '다이어트'…범용 D램 더 짭짤해졌다

인공지능(AI) 반도체 시장의 핵심 부품인 고대역폭메모리(HBM)의 가격 부담이 커지면서 엔비디아가 차세대 그래픽처리장치(GPU)에 탑재할 메모리 용량을 낮추는 방안을 검토하고 있다.

HBM 수요 자체는 여전히 강하지만 공급 부족과 가격 상승이 지속되면서 고객사들이 메모리 사용량을 최적화하려는 움직임이 나타나는 것이다. 반면 HBM에 밀려 상대적으로 생산 집중도가 떨어졌던 서버용 DDR5 등 범용 D램은 공급 부족에 가격이 급등하면서 수익성이 HBM에 근접하거나 일부 제품은 이를 넘어섰다는 분석도 나오고 있다. 삼성전자와 SK하이닉스 등 메모리 업체들의 생산능력 배분에도 영향을 미칠 수 있다는 전망이 나온다.

1TB에서 192GB까지…엔비디아도 HBM 부담18일 업계에 따르면 엔비디아는 내년 출시 예정인 차세대 GPU '루빈 울트라'에 당초 계획보다 적은 HBM을 탑재하는 방안을 시험하고 있는 것으로 알려졌다. 엔비디아는 당초 루빈 울트라에 최대 1TB(테라바이트)의 HBM4E를 탑재하는 구상을 공개했지만, 최근에는 192GB와 256GB 수준의 HBM4를 사용하는 제품을 포함해 여러 구성을 테스트하고 있는 것으로 전해졌다. 배경에는 HBM 공급 부족과 가격 상승이 있다.

AI 인프라 투자가 급증하면서 HBM에 대한 수요는 급증했지만, 공급은 단기간 늘릴 수 없기 때문이다. 삼성전자는 지난달 컨퍼런스콜에서 "모바일과 PC 등의 경우 고객사들이 가격 인상에 따른 일부 수요 둔화가 관측되고 있지만 D램 및 솔리드 스테이트 드라이브(SSD) 그리고 고대역폭메모리(HBM)의 추가적인 수요 증가 속도가 이를 훨씬 상회한다"면서 "내년 수요 대비 공급 격차는 더욱 커질 것이 명확해 보인다"고 했다. 이런 품귀 현상과 맞물려 AI 칩에서 메모리가 차지하는 원가 비중이 크게 높아진 점도 빅테크 기업들에게 골칫거리다. 글로벌 투자은행 UBS가 분석한 엔비디아의 '베라 루빈' 슈퍼칩 부품명세서(BOM)에 따르면 최근 양산에 돌입한 이 제품 1개당 제조원가는 약 3만8902달러(약 5540만원)로 추산되는데, HBM4 등 메모리 관련 비용이 전체의 62%를 차지하는 것으로 분석됐다. 다만 엔비디아의 HBM 탑재량 조정이 현실화되더라도 전체 HBM 수요 감소로 곧바로 연결되는 것은 아니라는 분석이 우세하다.

GPU 한 개당 HBM 용량을 낮추면 공급 제약이 완화돼 오히려 GPU 출하량을 늘릴 수 있기 때문이다.

UBS도 루빈 울트라의 메모리 사양 조정이 전체 HBM 수요에는 긍정적으로 작용할 가능성이 있다고 봤다. 몸값 뛴 DDR5…HBM과 수익성 격차 좁혀 HBM 가격이 부담스러울 정도로 오르는 동안 범용 D램의 몸값도 가파르게 뛰는 추세다. 시장조사업체 트렌드포스에 따르면 올해 1분기 범용 D램 계약가격은 전분기보다 93~98% 급등했다.

2분기 추가 상승폭도 58~63%에 달할 것으로 예상됐다.

AI 서버용 HBM 생산 확대에 메모리 업체들의 생산능력이 집중된 가운데 일반 서버용 D램 수요까지 늘면서 공급 부족이 심화된 영향이다. 트랜드포스는 지난 12일 보고서에서 "소비자용 DRAM은 여전히 공급 부족 상태이며, 계약 가격은 상승세를 이어가고 있지만 구매자의 비용 허용 범위가 좁아짐에 따라 상승 속도는 둔화되고 있다"고 전했다. 특히 AI 활용의 중심이 학습에서 추론으로 확대되면서 클라우드서비스사업자(CSP)들의 메모리 구매 대상도 HBM뿐 아니라 서버용 DDR5로 넓어지고 있다. 추론 서비스가 확산되면 GPU 서버뿐 아니라 데이터 처리와 서비스 운영을 위한 일반 서버 구축도 함께 늘어나는데, 이들 서버에는 대용량 DDR5가 탑재된다. 트렌드포스는 올해 1분기 삼성전자가 주요 D램 업체 가운데 가장 높은 평균판매가격(ASP) 상승률을 기록한 배경으로 높은 서버 D램 매출 비중을 꼽았다. 반면 HBM 출하 비중이 가장 높은 SK하이닉스는 올해 HBM 계약가격 하락의 영향으로 전체 ASP 상승폭이 일부 제한됐다고 분석했다. 수익성이 높아지자 생산 전략에도 변화 조짐이 나타나고 있다. 대만 디지타임스는 지난달 삼성전자와 SK하이닉스가 고객사에 이미 약속한 HBM 물량은 유지하면서 추가로 활용할 수 있는 D램 생산능력을 서버용 DDR5 등 범용 메모리에 배분하고 있다고 보도했다. 디지타임스는 DDR5의 마진이 HBM 수준에 근접한 것이 이런 움직임의 배경이라고 분석하기도 했다.

SK하이닉스는 당초 HBM4 생산으로 전환할 예정이던 일부 HBM3E 생산라인의 전환 시기를 늦추고 범용 D램 수요에 대응하는 방안도 추진하는 것으로 알려졌다.

HBM 시장 주도권을 유지하는 동시에 가격이 크게 오른 범용 D램에서도 수익을 극대화하려는 전략으로 풀이된다. 다만 HBM과 DDR5 가운데 어느 제품의 수익성이 더 높은지는 제품별로 차이가 있고 삼성전자와 SK하이닉스도 각각의 마진을 공개하지 않고 있다. 업계에서는 HBM이 높은 판매가격에도 대형 다이와 TSV, 적층·패키징 등 추가 공정이 필요한 반면 DDR5는 최근 가격이 급등하면서 웨이퍼당 수익성이 빠르게 개선된 것으로 보고 있다. 결국 AI가 촉발한 메모리 호황의 수혜가 HBM에서 범용 D램으로 확산되는 모습이다.

HBM 수요가 꺾였다기보다는 HBM에 집중됐던 생산능력이 범용 D램의 공급 부족과 가격 상승을 불러오면서 양쪽 모두 높은 수익성을 확보하는 구조가 형성된 것이다.

SK하이닉스는 지난달 컨퍼런스콜에서 "AI 메모리와 일반 메모리가 함께 성장하는 수요의 구조적 변화가 나타나고 있다"며 "상당 기간 동안 타이트한 수급이 어질 것으로 전망되면서 고객들과 중장기 공급 안정성 확보를 위한 다단계약 논의를 지속하고 있다"고 밝혔다.