AI 비용폭증 잡는다…스노우플레이크, ‘지출 효율화’ 전략 발표

스노우플레이크가 ‘코텍스 AI 게이트웨이’에 작업 특성에 따라 최적의 알고리즘을 자동으로 연결하는 ‘다이나믹 모델 라우팅’ 기능을 도입했다. 이와 함께 최신 오픈소스 모델에 대한 접근성을 확장하며 연산 비용 절감과 자원 운용의 효율성을 동시에 잡겠다는 전략을 발표했다.최근 기업 현장에서는 생성형 AI와 에이전트 도입이 활발해지면서 운영비용 급증이 핵심 과제로 떠올랐다. 모든 업무에 최고 성능의 대형 언어 모델(LLM)을 적용할 경우 막대한 비용이 발생하는 반면, 직원이 상황마다 일일이 최적의 모델을 평가해 바꾸는 방식은 업무 부담을 가중시킨다. 스노우플레이크는 알고리즘 선택 과정을 자동화하여 이 같은 번거로움과 지출 부담을 대폭 낮췄다.새로 적용된 라우팅 기능은 작업의 난이도를 분석해 적절한 모델을 자동으로 배정한다. 단순 반복 작업이나 가벼운 질의는 연산 단가가 낮은 가성비 모델로 처리하고, 고차원적 추론이 요구되는 업무만 고성능 프론티어 모델로 보낸다. 이를 통해 개발자와 사