AI 평가지표, 토큰당 가격서 문제해결 비용으로

AI 업계에서 모델의 경제성을 판단하는 기준을 두고 인식 전환이 일어나고 있다. 최근 세 개의 서로 다른 대담에서 공통적으로 제기된 주장은 '토큰당 가격'이 아닌 '해결한 문제당 비용'이 진짜 지표라는 것이다. 벤처 투자자 제이슨 칼라카니스는 오픈소스 모델로 10시간 동안 씨름해도 풀지 못했던 과제를 프론티어 모델로 단 20분 만에, 그것도 더 낮은 비용으로 해결했다고 전했다. 겉으로 드러나는 토큰 단가는 프론티어 모델이 높지만, 실제로 문제를 해결하는 데 드는 총비용은 오히려 저렴했다는 의미다. 반도체 분석가 딜런 파텔은 앤스로픽의 경쟁 우위가 토큰당 가격 경쟁이 아니라 '토큰 효율성'에 있다고 지적했다. 같은 문제를 더 적은 연산으로 풀어낸다는 것이다. 엔비디아의 젠슨 황 역시 빠르고 저렴한 모델일수록 더 많은 반복 시도가 가능해져 결국 더 나은 답에 도달한다고 강조했다. 이러한 관점은 AI 인프라와 가속기 수요 논리에도 영향을 미친다. 단순 단가 경쟁보다 실질 성능과 효율이 채택 기준이 될 경우, 고성능 모델과 이를 구동하는 컴퓨팅 하드웨어의 가치가 재평가될 수 있다. 투자자 입장에서는 AI 모델 기업의 경쟁력을 가격표가 아닌 실질 생산성 관점에서 바라볼 필요성이 커지고 있다.