문샷AI, 2.8조 파라미터 Kimi K3 공개

중국 AI 스타트업 문샷(Moonshot) AI가 2.8조(2.8T) 파라미터 규모의 신형 모델 'Kimi K3'를 공개했다. 오픈소스 진영에서 3조 파라미터급에 도달한 첫 사례로, 네이티브 비전과 100만 토큰 컨텍스트를 지원한다. 전체 모델 가중치는 오는 7월 27일 공개될 예정이다. 성능 측면에서 Kimi K3는 Artificial Analysis Intelligence Index에서 57점을 기록해 Fable 5(60점)와 GPT-5.6-Sol(59점)에 이어 3위에 올랐다. 이는 Opus 4.8(56점)을 소폭 앞서는 수치다. 다만 문샷 측도 최상위 상용 모델인 Claude Fable 5, GPT-5.6-Sol에는 아직 미치지 못한다고 인정했다. 비용 경쟁력이 두드러진다. 인풋 100만 토큰당 3달러, 아웃풋 15달러이며 작업당 비용은 0.94달러 수준이다. 이는 GPT-5.6-Sol(1.04달러)과 비슷하고 Opus 4.8(1.80달러)의 절반에 해당한다. 다만 GLM-5.2(0.32달러)보다는 비싸다. 기존 K2.6 대비 평가 과정에서 출력 토큰을 21% 적게 사용해 효율을 높였다. 구조적으로는 896개 Expert 중 16개만 활성화하는 고희소성 Stable LatentMoE와, 긴 컨텍스트 정보 전달을 개선한 Kimi Delta Attention(KDA), 중간 표현을 선택적으로 재활용하는 Attention Residuals(AttnRes)를 적용했다. 이를 통해 K2 대비 약 2.5배 높은 스케일링 효율을 달성했다고 밝혔다. 학습에는 MXFP4 가중치·MXFP8 활성화 기반 양자화가 쓰였으며 64개 이상 가속기(Supernode) 환경을 권장한다. 활용 측면에서는 대규모 코드 저장소 탐색과 장시간 자율 코딩, 수천 회 웹 검색·문서 분석을 수행하는 에이전트 작업, 텍스트·이미지·영상 멀티모달 처리를 강조했다. 48시간 자율 AI 칩 설계, 천체물리 연구에서 논문 20편 이상 검토 등 구체적 적용 사례도 제시됐다. 오픈소스 진영에서 상용 프론티어 모델에 근접한 성능을 절반 수준 비용으로 제공한다는 점은, 미국 주요 AI 기업들의 가격·마진 전략에 압박 요인이 될 수 있다. 동시에 초대형 모델 학습·추론 수요는 AI 가속기 시장에 우호적으로 작용할 전망이다.