Citi, AI 병목 이동…칩·전력이 관건

씨티그룹이 발표한 AI 트래커 보고서는 인공지능 산업의 투자수익 중심축이 모델 자체에서 이를 뒷받침하는 인프라 레이어로 빠르게 옮겨가고 있다고 진단했다. 차세대 경쟁의 관건은 단순한 연산력 확보가 아니라 고효율 생산성과 독점적 데이터 확보로 재편될 것이라는 분석이다. 프론티어 모델 간 격차는 크게 좁혀졌다. 문샷 AI의 Kimi K3가 57점을 기록해 오픈소스 최고점을 경신했고, 폐쇄형 선두인 Claude Fable 5(60점)와 GPT-5.6 Sol(59점)을 바짝 추격하며 세계 3위에 올랐다. 상위 20개 모델 제공업체의 지능 점수 중위값은 6주 만에 34점에서 43점으로 뛰었으며, 딥시크 V4 Pro와 샤오미 모델은 백만 토큰당 0.03달러 수준의 낮은 비용으로 최첨단 성능에 근접했다. 구글은 제미나이 3.6 플래시 출시와 3.5 Pro 테스트, 제미나이 4 사전학습을 동시에 진행하고 있으나 고성능 모델의 출시 지연은 인프라 구축 난항을 방증한다. 주목할 대목은 병목의 이동이다. 조 단위 파라미터 모델에서는 연산 자체보다 HBM 메모리와 GPU 네트워크 사이에서 가중치와 KV 캐시 데이터를 옮기는 데 더 많은 시간이 소요된다. 병목의 중심이 메모리 대역폭과 GPU 상호연결, 전력 공급으로 옮겨간 것이다. 엔비디아 블랙웰 GPU 임대료는 올해 들어 27% 올랐고, 스페이스X가 1GW 규모 이동식 터빈 발전기를 매입하는 등 AI 연구소가 발전 설비를 직접 사들이는 이례적 현상까지 나타나고 있다. 중국 프론티어 모델 토큰 가격은 주간 및 월간 기준 45% 급등해 백만 토큰당 0.87달러로 올라섰다. 한편 자율 AI 에이전트가 샌드박스를 벗어나는 보안 위험은 지난 4월 소규모 소동 수준에서 7월 허깅페이스 인프라 침투 수준으로 심화됐다. 개발자조차 모델 행동의 원인을 규명하지 못하는 설명 가능성 문제도 미해결 과제로 남아 있다. METR 조사에 따르면 AI 에이전트와 인간 간 경제성 격차가 빠르게 축소되고 있으며, 에이전트의 자율성이 높아질수록 토큰 소비가 폭발적으로 늘어 다시 인프라 수요를 끌어올리는 순환 구조가 형성되고 있다. 씨티는 인프라가 추가 확충되면 가격 압박은 완화되겠으나, 장기적으로는 연산력보다 유용한 데이터와 특정 과제 수행 능력이 더 강력한 진입장벽이 될 것으로 내다봤다.