엔비디아 Nemotron, 추론비용 10분의 1 강조

엔비디아(NAS: NVDA)가 자사 오픈소스 인공지능 모델의 비용 경쟁력을 전면에 내세우며 AI 소프트웨어 생태계 확장에 속도를 내고 있다. 시킹 알파 보도에 따르면, 엔비디아는 오픈소스 모델 'Nemotron 3 Ultra AI'가 경쟁 모델 대비 구동 비용 측면에서 뚜렷한 강점을 지닌다고 밝혔다. 엔비디아 측은 선도적인 인공지능 모델과 비교했을 때 Nemotron이 더 많은 작업량을 소화하면서도 추론(inference) 실행 비용은 10분의 1 미만에 그친다고 설명했다. 성능 지표에서도 오픈소스 프레임워크 LangChain의 Deep Agents 벤치마크를 기준으로 최상위 모델과 대등한 업무 처리량을 기록한 것으로 나타났다. 실제 도입 사례도 확대되고 있다. 엔비디아는 Abridge, Amdocs, 그리고 클라우드 콘텐츠 기업 박스(NYS: BOX) 등이 Nemotron 모델을 토대로 자사 플랫폼에 특화된 인공지능 에이전트를 구축 중이라고 밝혔다. 이번 발표는 엔비디아가 GPU 하드웨어 지배력에 더해 비용 효율적인 오픈소스 모델로 소프트웨어 계층까지 영향력을 넓히려는 전략으로 해석된다. 추론 비용 절감은 기업용 AI 에이전트의 대량 채택을 촉진하는 핵심 요인인 만큼, 엔비디아 생태계에 대한 기업 의존도를 한층 강화할 전망이다.