AI 스토리지 평가기준, $/TB서 $/GPU시간으로

센티먼트 +55
영향도 68

AI 요약

  • GPU 성능은 2년마다 3배 빨라지는 반면 스토리지는 이를 따라가지 못해 병목이 발생하고 있다.
  • 스토리지 선정 기준이 기존 용량당 비용($/TB)에서 GPU 가동시간당 비용($/GPU-hour)으로 확장되고 있다.
  • 플래시 추가비용이 절감되는 GPU 유휴시간 비용보다 작으면, 용량당 단가가 비싸도 플래시 채택이 경제적으로 합리적이다.

뉴스 기사

인공지능(AI) 학습 인프라에서 스토리지를 평가하는 잣대가 근본적으로 바뀌고 있다. GPU 연산 성능이 2년마다 약 3배씩 빨라지는 동안, 스토리지 속도는 이 속도를 따라가지 못하며 데이터 공급 병목이 심화되고 있다는 진단이다. 전통적으로 대용량 스토리지는 '테라바이트당 비용($/TB)', 즉 얼마나 저렴하게 대량의 데이터를 보관하느냐를 기준으로 평가돼 왔다. 그러나 GPU 가용성과 전력, 지연시간이 핵심 제약으로 작용하는 AI 학습 환경에서는 이 지표만으로는 충분하지 않다. 스토리지에서 데이터가 너무 느리게 도착해 값비싼 GPU가 놀게 되면, 낭비된 GPU 시간의 비용이 스토리지에서 아낀 금액을 초과할 수 있기 때문이다. 이에 따라 새로운 평가 기준으로 'GPU 가동시간당 비용($/GPU-hour)'이 제시된다. 핵심 논리는 간단하다. 플래시 도입에 따른 추가 비용이, 플래시가 제거해 주는 GPU 유휴시간에 시간당 GPU 비용을 곱한 값보다 작다면, 테라바이트당 단가가 비싸더라도 플래시를 쓰는 것이 경제적으로 합리적이라는 것이다. 이러한 조건이 성립하는 워크로드에서는 GPU에 인접한 스토리지 계층을 단순 용량 단가가 아닌 '실효 GPU 가동시간당 총 시스템 비용'으로 평가해야 한다는 주장이다. 결론적으로 일정 한도까지는 현재보다 몇 배 더 많은 비용을 플래시에 투입하는 것이 오히려 경제적 타당성을 가질 수 있다는 시각으로, 엔터프라이즈 NAND 및 고성능 스토리지 수요 확대 논거를 뒷받침한다.

AI 투자 인사이트

AI 데이터센터 투자 초점이 GPU를 넘어 데이터 공급 병목 해소로 확장되며, 엔터프라이즈 NAND·고속 스토리지 수요 성장 논리를 강화한다.