AI 요약
- •마이크론과 메타가 공동 백서를 통해 LPDDR5X를 AI 데이터센터 서버 메모리로 평가한 연구 결과를 공개했다.
- •AI 전처리·웹서비스에서는 고대역폭·저지연이, 데이터 분석에서는 대용량 확보가 성능을 좌우하는 것으로 나타났다.
- •LPDDR5X는 DDR5 대비 최대 75% 낮은 전력을 앞세워 HBM·DDR5 외 서버 메모리 후보로 부상하고 있다.
뉴스 기사
마이크론과 메타가 공동 백서를 내고, 저전력 모바일용으로 알려졌던 LPDDR5X 메모리를 대규모 데이터센터의 범용 컴퓨팅과 AI 워크로드에 적용한 연구 결과를 공개했다. 두 회사는 메타가 실제 데이터센터 부하를 반영해 개발한 오픈소스 벤치마크 DCPerf를 활용해 대역폭·지연시간·용량·전력 효율 네 축에서 서버 적용 가능성을 평가했다. 특히 SOCAMM2 같은 모듈형 폼팩터가 기존 납땜 구조의 정비성 한계를 해소해 하이퍼스케일 환경에서도 LPDDR5X를 현실적으로 쓸 수 있게 한다고 봤다. 평가에는 소켓당 72코어 ARM CPU 두 시스템이 투입됐다. 용량 중심의 SKU1(1TB, 6400MT/s)과 속도 중심의 SKU2(512GB, 8533MT/s)를 비교한 결과, 워크로드 성격에 따라 최적 구성이 뚜렷이 갈렸다. AI 데이터 파이프라인에서는 빠른 메모리의 효과가 분명했다. 8533MT/s를 쓴 SKU2는 텐서 리배칭 작업에서 실측 DRAM 대역폭이 13% 높고 처리량이 11% 늘었으며, 역직렬화 작업에서는 CPU의 사이클당 명령 처리량이 18% 개선됐다. 웹 서비스를 모사한 MediaWiki 테스트에서도 P99 지연시간이 약 9% 단축됐다. 반면 데이터 분석에서는 속도보다 용량이 결정적이었다. 용량이 두 배인 SKU1은 셔플 데이터와 페이지 캐시를 DRAM에 유지해 SSD로의 데이터 유출을 막았고, 표준·3배 부하에서 처리량이 각각 약 2.82배·3.45배 높았다. 특정 구간에서는 최대 38배 이상의 격차도 나타났다. 전력 측면에서는 텐서 리배칭 실행 중 LPDDR5X 소비 전력이 시스템 전체의 6.8%에 그쳤으며, 기존 마이크론 분석 기준 DDR5 대비 최대 75% 낮은 전력이 가능하다고 제시됐다. 마이크론은 향후 속도가 9600MT/s 이상으로 오르고 256GB SOCAMM2 모듈로 소켓당 최대 2TB 구성이 가능해지면 적용 범위가 더 넓어질 것으로 내다봤다. 다만 이번 비교 상당수가 두 LPDDR5X 시스템 간 대조이며 DDR5와의 직접 비교는 기존 전력 분석 인용에 기반한 만큼, LPDDR5X의 즉각적인 DDR5 대체보다는 특정 AI·분석 워크로드에서의 채택 근거 강화로 해석하는 것이 적절하다.
AI 투자 인사이트
AI 서버 메모리 수요가 HBM·DDR5를 넘어 저전력 LPDDR5X와 SOCAMM2로 확장될 여지를 보여준 자료로, 전력 제약 심화 국면에서 마이크론의 데이터센터 메모리 전방시장 확대 근거로 주목할 만하다.