번스타인, CIO 3인 AI·클라우드·벤더 진단

번스타인이 방산·우주, 글로벌 제조, 리테일 업종의 최고정보책임자(CIO) 3인을 초청해 기업 IT 지출 현황을 점검하는 컨퍼런스 콜을 진행했다. 반기 서베이 결과 IT 지출은 견조하게 유지되고 있으나 미국이 강하고 유럽이 약한 지역별 격차가 뚜렷했으며, AI가 지출 확대의 핵심 동력으로 작용하고 있다. AI의 생산성 효과는 소프트웨어 개발 등 특정 워크플로우에 집중됐다. 세 CIO 모두 코딩을 가장 명확한 성공 사례로 꼽았고, 리테일 CIO는 개발팀의 코드 생성 도구 채택률이 100%에 이른다고 밝혔다. 제조 CIO는 소프트웨어 예산 내 AI 비중이 2024년 3~5%에서 올해 약 11%로 확대됐으나, AI가 별도 예산이 아닌 기존 예산 내에서 경쟁하는 구조라고 강조했다. 지출 재배치도 관찰된다. 제조 CIO는 Smartsheet 같은 비전략적 SaaS를 자체 개발 도구로 대체해 연간 수백만 달러를 절감하고 이를 AI로 재배치하고 있다. 다만 세 CIO 모두 Oracle, Salesforce, Workday 등 미션 크리티컬한 시스템은 교체 대상에서 제외하고, 그 위에 AI 에이전트와 오케스트레이션 레이어를 얹는 방식을 택했다. 하드웨어 측면에서는 메모리·시스템 원가 상승이 PC·서버 교체 주기를 연장시키고 있다. 노트북 교체 주기가 4년에서 5년으로 늘고, 같은 예산으로 더 적은 장비를 구매하는 흐름이 나타났다. 반면 리테일 CIO는 매장 서버 가격이 최대 4배까지 오르자 내년 교체분을 올해로 앞당겨 대량 발주하는 선별적 풀인도 보였다. 업계 공급이 수요를 따라잡는 시점은 2028년 말경으로 전망됐다. AI 워크로드는 CPU에서 GPU 기반 아키텍처로 전환 중이다. 방산 CIO는 시뮬레이션에서 약 20배 처리량 개선을 근거로 GPU 비중을 확대해, 5년 내 신규 도입 기준 GPU가 75%를 차지할 것으로 예상했다. 온프렘 AI 스택은 RTX 6000 GPU와 델 하드웨어, 엔비디아 스위칭, Pure Storage 조합이 채택됐다. 벤더 평가는 극명하게 갈렸다. AWS가 가장 강한 호평을 받으며 핵심 전략 파트너로 지목됐고 오라클, 구글, 워크데이, 옥타, Zscaler, 엔비디아도 긍정 평가를 받았다. 마이크로소프트는 파트너십은 개선됐으나 Azure 비용 예측 불가능성으로 혼재된 평가에 그쳤다. 반면 ServiceNow는 가격 정책과 불명확한 AI 전략으로 가장 많은 비판을 받았고, Salesforce는 혁신 부재, SAP는 데이터 격리 정책으로 부정적 평가를 받았다.