Citi, Kimi K3가 서버 메모리 수요 키운다

중국 문샷AI가 2조8000억 개의 파라미터를 갖춘 오픈웨이트 모델 'Kimi K3'를 공개하며 AI 인프라 시장의 관심을 다시 끌어모으고 있다. 전체 가중치는 오는 7월 27일 배포될 예정이며, 이 모델은 장시간에 걸친 복합 작업을 수행하는 AI 에이전트에 특화된 것이 특징이다. Kimi K3의 기술적 핵심은 세 가지다. 100만 토큰에 달하는 초장문 컨텍스트를 처리하는 KDA, 모델 내부 표현을 선택적으로 재활용하는 AttnRes, 그리고 896개의 전문가 모듈 가운데 토큰당 16개만 활성화하는 LatentMoE다. 이를 통해 전작 K2 대비 스케일링 효율을 2.5배 끌어올렸고, 경쟁 프론티어 모델보다 낮은 토큰 단가를 제시했다. 주목할 점은 씨티(Citi)의 해석이다. 씨티는 이 같은 비용 하락이 메모리 수요 감소가 아니라 오히려 증가로 귀결될 것으로 내다봤다. 장문 컨텍스트와 에이전트형 작업 특성상 KV 캐시가 비대해지고, 실제 서비스 구동에는 64개 이상의 GPU로 구성된 멀티노드 클러스터가 요구되기 때문이다. 사용 비용이 낮아질수록 AI 서비스와 에이전트의 확산 속도가 빨라지고, 그 결과 생성되는 토큰 수가 폭발적으로 늘어난다. 토큰 증가는 KV 캐시 확대로, 다시 서버용 DDR5와 엔터프라이즈 SSD 수요 증가로 연결된다는 논리다. 효율이 높아질수록 전체 소비량은 되레 늘어나는 '제본스의 역설'이 메모리 시장에도 적용된다는 진단이다. 씨티의 결론은 명확하다. Kimi K3의 등장은 GPU 수요보다 서버 DDR5, 엔터프라이즈 SSD, 범용 메모리 수요에 더 직접적인 긍정적 촉매가 될 수 있다는 것이다. 이는 마이크론 등 메모리 공급 업체에 우호적인 흐름으로 해석된다.