AI 토큰 지출 증가, 메모리 인플레는 진정

JP모건이 내놓은 데이터센터 워치 최신판은 AI 인프라 수요가 여전히 견조하다는 신호를 담았다. 이 리포트는 LLM 토큰 물량과 단가, GPU 임대 가격, 메모리 비용이라는 세 갈래 지표로 AI 투자 사이클의 체온을 재는 자료다. 추론 수요부터 보면 확장세가 이어졌다. 오픈라우터 기준 7월 토큰 물량은 전월 대비 18% 늘며 6월의 70% 급증세보다는 속도를 낮췄지만, 전년 대비로는 21배 규모다. 평균 단가는 한 달 새 3% 내렸으나 전년 대비로는 2% 높아져 그동안 이어진 가격 하락 흐름이 멈춘 점이 눈에 띈다. 총 지출은 전월 대비 7%, 전년 대비 11배 증가했다. 구성비 변화는 더 극적이다. 클로즈드 웨이트 모델은 물량 비중이 29%에 불과하지만 지출의 80%를 여전히 가져간다. 다만 오픈 웨이트 진영의 지출 비중이 5월 10%, 6월 12%에서 7월 20%로 뛰었다. 오픈 모델의 물량은 전월 대비 26%, 가중평균 단가는 36% 동반 상승했고 지출은 71% 늘어 전년 대비 109배를 기록했다. 반면 클로즈드 모델은 물량 3% 증가, 지출 2% 감소로 둔화됐다. 지출 상위 5개 모델에 Kimi K3가 이름을 올린 것은 상징적 장면이다. 물량 상위권은 MiMo v2.5, DeepSeek v4 Flash, GLM 5.2 등이 차지해 전체의 절반을 채웠다. 다만 이 데이터는 개발자와 에이전틱 코딩 트래픽에 치우쳐 있고 퍼스트파티 API 물량이 빠져 있다는 한계가 있다. GPU 임대 시장은 세대 교체 국면을 드러냈다. 7월 A100은 시간당 1.66달러로 0.9% 오르며 6개월 연속 상승했지만 상승폭은 6월의 6.4%에서 크게 줄었다. H100은 2.68달러로 1.1% 하락해 7개월 연속 상승세를 마감했고, B200은 5.72달러로 7.3% 뛰며 오히려 가속됐다. B200 대비 H100 배수는 1.97배에서 2.13배로 반등했다. 메모리는 현물과 계약이 엇갈렸다. DDR5 16Gb 현물은 50.83달러로 전월 대비 17%, 전년 대비 890% 급등해 4개월 연속 올랐지만, NAND 1Tb 현물은 26.90달러로 0.5% 밀렸다. 계약가는 2Q26 DRAM 56%, NAND 58% 상승했는데 이는 1Q26의 96%, 88%에서 감속한 수치이며, 3Q26에는 각각 16%, 13%로 완화될 전망이다. 트렌드포스는 기저효과 상승, 소비자 수요 약화, CSP와의 장기 계약, 상반기 선행 수요 이후 쌓인 구매자 재고를 요인으로 꼽았다. 종합하면 컴퓨트 수요는 최신 세대로 집중되며 강도를 유지하는 반면, 메모리 가격 상승 곡선은 완만해지는 국면 전환이 시작됐다는 해석이 가능하다.