오픈소스 AI, 메모리 수요 되레 키운다

뱅크오브아메리카(BofA)의 반도체 애널리스트 비벡 아리아가 오픈소스 AI 확산과 메모리 수요의 관계에 대한 흥미로운 관점을 제시했다. 시장 일각에서 저비용 오픈 모델의 부상이 메모리 반도체에 악재라는 우려가 나오지만, 아리아는 오히려 반대라고 진단했다. 그의 논리는 수요의 '집중'과 '분산'에 있다. 폐쇄형(클로즈드) 모델은 소수 데이터센터에 집중된 공유 HBM 풀을 통해 전 세계 수요를 분산 상각한다. 반면 오픈 모델은 배포될 때마다 새로운 메모리 사용량을 발생시킨다. 예컨대 1만 개 기업이 동일한 오픈 모델을 자체 호스팅하면, 모델 가중치는 1만 개의 개별 HBM 풀에 복제돼야 하며 각 배포마다 별도의 KV 캐시가 필요하다. 특히 2026년 128K~100만 토큰 규모의 긴 컨텍스트가 보편화되면 활성 세션 하나당 KV 캐시만으로도 40GB를 넘어설 수 있다는 분석이다. 여기에 저비용 중국산 API가 추론 수요를 자극하면서 기업의 자체 호스팅이 확대되고, 결과적으로 전 세계 메모리 소켓 수요가 늘어난다는 것이다. 요약하면 폐쇄형 모델은 메모리 수요를 한곳에 응집시키지만, 오픈 모델은 이를 곱셈적으로 증폭시킨다는 결론이다. 이는 HBM과 고용량 메모리 시장 전반에 구조적 수요 확대 신호로 해석될 수 있다.