AI 토큰 비용, 기업 도입 최대 걸림돌

센티먼트 -5
영향도 58

AI 요약

  • 팔로알토 네트웍스 CEO 니케시 아로라가 7월 9일 높은 토큰 비용이 기업 AI 예산의 최대 부담이라고 지적했다.
  • 그는 향후 2년 내 AI 토큰 비용을 90% 낮춰야 기업의 대규모 AI 도입이 가능하다고 진단했다.
  • AI 추론 비용 구조가 기업 확산의 핵심 변수로 부상하며 인프라·모델 효율화 경쟁이 심화될 전망이다.

뉴스 기사

글로벌 AI 도입을 가로막는 걸림돌로 '토큰 비용'이 새롭게 지목됐다. 사이버보안 기업 팔로알토 네트웍스를 이끄는 니케시 아로라 최고경영자(CEO)는 7월 9일, 높은 토큰 비용이 현재 기업들의 AI 예산에서 가장 큰 부담 요인으로 작용하고 있다고 진단했다. 아로라 CEO는 기업이 대규모 언어모델을 실제 업무에 적용할 때 발생하는 추론(inference) 비용이 예상보다 빠르게 불어나면서, 투자 대비 효용을 저해하고 있다고 지적했다. 그는 향후 2년 안에 AI 토큰 비용이 지금보다 약 90% 낮아져야만 기업들의 AI 도입이 실험 단계를 넘어 대규모로 확산될 수 있다고 강조했다. 이 발언은 최근 여러 실리콘밸리 경영진이 잇달아 제기하는 'AI 경제성' 논쟁의 연장선에 있다. 모델 성능 경쟁이 어느 정도 성숙 단계에 접어든 가운데, 이제는 얼마나 저렴하고 효율적으로 AI를 구동하느냐가 실질적 도입 확대의 핵심 변수로 부상하고 있다. 비용 절감 압력이 커질수록 모델 경량화, 추론 최적화, 고효율 반도체에 대한 수요가 구조적으로 확대될 가능성이 크다. 토큰 단가 하락은 AI 소프트웨어 시장의 잠재 수요를 크게 넓힐 수 있는 반면, 단기적으로는 AI 인프라 및 서비스 기업의 마진 구조에 부담으로 작용할 수 있다는 점에서 시장의 주목이 이어질 전망이다.

AI 투자 인사이트

AI 확산의 관건이 성능에서 비용으로 이동 중. 추론 비용 절감 수혜가 기대되는 고효율 칩·모델 경량화 관련주에 주목할 필요가 있다.