엔비디아 CUDA 해자 균열, AMD 추론 반격

인공지능 연산 인프라의 판을 지탱해온 엔비디아의 소프트웨어 해자에 균열 신호가 감지되고 있다. 중국 현지 매체는 CUDA 생태계를 둘러싼 경쟁 구도가 구조적 전환점에 들어섰다고 진단했다. 엔비디아가 20년에 걸쳐 쌓아 올린 CUDA는 단순한 개발 도구가 아니다. 600만 명에 달하는 개발자 기반, 400개가 넘는 가속 라이브러리, 그리고 서버용 GPU 시장에서의 97% 점유율이 맞물려 하드웨어와 소프트웨어를 한 몸으로 묶는 폐쇄형 생태계를 형성했다. 한 번 진입하면 빠져나가기 어려운 전환 비용과 네트워크 효과가 경쟁사의 추격을 가로막아온 핵심 방벽이었다. 그러나 이 방벽이 정적인 상태로 유지되던 시기는 끝나가고 있다는 지적이 나온다. 결정적 사례는 주말 사이 확인됐다. Anthropic이 자사 최신 모델을 AMD의 신형 MI355X 랙 위에서 곧바로 구동했는데, 이 과정에서 엔지니어가 코드를 단 한 줄도 손보지 않았다는 점이 시장에 충격을 줬다. 이식 작업 자체가 사실상 불필요해진 셈이다. 변화를 밀어 올리는 동인은 세 가지로 정리된다. 첫째는 수요 구조의 이동이다. AI 연산 수요의 무게중심이 학습에서 추론으로 옮겨가고 있으며, 2026년에는 추론이 전체 수요의 3분의 2를 차지할 전망이다. 추론은 상대적으로 연산 패턴이 단순해 CUDA의 방어력이 가장 취약한 영역으로 꼽힌다. 둘째는 대체 소프트웨어 스택의 성숙이다. AMD ROCm 7은 추론 성능을 3.5배 끌어올리며 실험실 수준을 넘어 실제 운영에 투입 가능한 단계에 진입했다. 이를 뒷받침하듯 OpenAI와 메타가 합산 약 2,000억 달러 규모의 주문을 낸 것으로 전해졌다. 셋째는 지정학 변수다. 대중 수출 규제가 오히려 중국 내 자체 칩과 해외 칩을 병행하는 이중 트랙 국산화를 가속하고 있다. 번스타인은 엔비디아의 중국 시장 점유율이 2026년 55%에서 8%까지 축소될 수 있다고 내다봤다. 투자 관점에서 핵심은 해자의 소멸이 아니라 해자의 성격 변화다. 학습 영역에서 엔비디아의 우위는 여전히 견고하지만, 물량이 폭증하는 추론 시장에서 멀티 벤더 조달이 표준이 되면 초과 마진의 지속 가능성은 재평가 대상이 된다. 대체 진영의 실제 대량 배포 실적과 소프트웨어 안정성이 다음 확인 지표가 될 전망이다.