구글, Gemini 전용 추론칩 Frozen v2 개발

구글이 자사 대표 AI 모델 Gemini에 특화된 신규 서버용 추론 칩 'Frozen v2'를 개발하고 있는 것으로 전해졌다. 목표 배치 시점은 2028년으로, 범용 AI 칩인 TPU를 대체하기보다 Gemini 전용 추론을 담당하는 별도 자체 칩 계열로 자리매김할 전망이다. 핵심은 아키텍처 통합에 있다. Gemini 모델의 일부 연산과 의사결정 로직을 칩 내부에 미리 구현함으로써 데이터 이동과 연산 단계를 줄이는 방식이다. 구글 내부에서는 이를 통해 최신 TPU 대비 전력당 토큰 처리 효율이 6~10배가량 향상될 것으로 내다보고 있다. 다만 이 접근법은 Gemini가 현재와 동일한 기본 아키텍처를 유지해야 효과를 극대화할 수 있으며, 모델 가중치는 업데이트가 가능하도록 설계되고 있다. 이는 과거 검토됐던 'Frozen' 프로젝트의 한계를 보완한 형태다. 기존 구상은 모델 가중치 자체를 칩에 새겨 넣는 방식이었으나, 특정 버전의 Gemini에서만 쓸 수 있어 칩 수명이 짧다는 이유로 폐기된 바 있다. 이번 개발의 배경에는 심화되는 AI 컴퓨팅 자원 부족이 있다. 내부 갈등이 불거지고 Google Cloud가 일부 외부 고객 계약을 거절한 상황에서, 추론 효율과 응답 속도를 높여 병목을 완화하려는 의도로 풀이된다. 추론 전용 칩 경쟁은 이미 SambaNova, d-Matrix는 물론 오픈AI, 마이크로소프트까지 가세하며 가열되고 있다. 특정 AI 모델을 칩에 내장하는 구글의 방식은 캐나다 스타트업 Taalas의 접근과 유사하다는 평가다. 다만 구글은 이 칩을 TPU만큼 대규모로 양산할 계획은 없으며, 차세대 특화 AI 칩을 위한 시험 프로젝트 성격도 함께 담고 있는 것으로 알려졌다.