AI 요약
- •AMD와 세레브라스가 추론 파이프라인 각 단계에 최적 엔진을 배치하는 분산형(disaggregated) 추론 솔루션을 공개했다.
- •대규모 프로덕션 환경에서 최고 속도의 추론 성능을 목표로 하며, 에이전틱 AI 워크로드를 겨냥했다.
- •엔비디아가 주도하는 AI 추론 가속기 시장에서 AMD가 차별화된 협력 전략을 내세운 것으로 평가된다.
뉴스 기사
AMD가 AI 반도체 스타트업 세레브라스와 협력해 새로운 분산형(disaggregated) 추론 솔루션을 공개했다. 이번 솔루션의 핵심은 추론 파이프라인을 단계별로 나누고, 각 단계에 가장 적합한 연산 엔진을 배치하는 구조다. 일반적으로 대규모언어모델(LLM)의 추론은 입력을 처리하는 프리필(prefill) 단계와 토큰을 생성하는 디코드(decode) 단계로 나뉘는데, 두 단계는 요구되는 연산·메모리 특성이 서로 다르다. 이를 하나의 하드웨어로 처리하면 비효율이 발생하기 쉽다. AMD와 세레브라스는 각 단계에 특화된 엔진을 짝지어 대규모 프로덕션 환경에서 최고 수준의 추론 속도를 구현하겠다는 목표를 제시했다. 특히 이번 발표는 여러 도구와 단계를 연쇄적으로 호출하는 '에이전틱 AI' 워크로드를 정조준했다. 에이전트형 AI는 반복적인 추론 호출로 지연시간과 처리량이 서비스 품질을 좌우하기 때문에, 빠르고 대규모 확장이 가능한 추론 인프라 수요가 빠르게 늘고 있다. 시장에서는 이번 협력을 엔비디아가 사실상 독점해 온 AI 가속기 시장에서 AMD가 차별화된 파트너십 전략으로 존재감을 키우려는 시도로 해석한다. 추론 시장이 학습 시장을 넘어 향후 AI 반도체 수요의 중심축으로 부상할 것으로 예상되는 만큼, AMD의 추론 특화 행보가 실제 고객사 채택으로 이어질지가 관전 포인트다.
AI 투자 인사이트
추론 시장 확대 국면에서 AMD의 엔비디아 대항 전략이 구체화되는 신호로, 실제 대형 고객사 채택 여부와 성능 벤치마크 공개가 주가 촉매가 될 전망이다.
