인공지능(AI) 모델 이용에 지불하는 토큰 가격이 사상 최저 수준으로 떨어졌다. 중국산 저가 모델의 약진과 글로벌 AI 기업 간 가격 경쟁이 격화한 영향이다. 하지만 고성능 추론 모델과 AI 에이전트가 업무 수행 과정에서 더 많은 토큰을 소비하며 실제 이용 비용은 오히려 늘어나는 역설이 나타나고 있다. 이에 AI 모델의 비용 경쟁력을 가늠하는 기준이 단순 ‘토큰당 가격’에서 실제 업무 하나를 완료하는 데 드는 ‘작업당 비용’으로 이동하고 있다는 분석이 나온다.
28일 시장조사업체 실리콘데이터에 따르면 지난달 31일(현지시각) 이 업체가 집계하는 ‘거대언어모델(LLM) 토큰 지출 지수’가 97센트까지 떨어졌다. 이는 지난해 말 지수 발표 이후 최저치이며, 올여름 기록했던 최고점 대비 절반 이하로 하락한 수치다. LLM 토큰 지출 지수는 단순한 업체별 단가가 아니라, 실제 시장에서 소비되는 100만 토큰당 가중 평균 가격을 측정한다. 모델별 입력·출력 토큰 비중과 사용량 등을 반영해 매일 가중치를 정규화해 발표한다.
토큰 가격 하락을 이끈 것은 중국 AI 업체들의 저가 공세다. 키미 등 중국산 오픈소스 모델이 낮은 가격을 앞세워 영향력을 확대하자 글로벌 AI 기업들도 잇달아 가격 인하에 나섰다. 오픈AI는 지난 7월 GPT-5.6 ‘테라’와 ‘루나’의 API 가격을 각각 20%, 80% 낮춘 데 이어 8월에는 ‘솔’ 가격도 20% 인하했다. 구글도 지난달 ‘제미나이 3.7 플래시’를 이전 모델의 절반 수준인 100만 토큰당 입력 0.75달러, 출력 3.75달러에 출시했다. 중국산 모델과 프런티어 모델 간 성능 격차가 좁혀지면서 AI 업계의 가격 경쟁도 한층 치열해졌다.
그러나 토큰 가격 하락이 곧 AI 사용 비용 감소로 이어지는 것은 아니라는 지적이다. 최근 고성능 AI 모델은 고난도 문제를 해결하기 위해 더 긴 추론 과정을 거치고, 자율형 AI 에이전트는 하나의 업무를 수행하는 과정에서 수많은 모델 호출과 검증을 반복한다. 이에 토큰 단가가 낮아져도 사용량이 크게 늘면 실제 비용은 오히려 증가할 수 있다. 결국 실제 AI 비용은 토큰 단가와 함께 토큰 사용량에 좌우된다는 분석이다.
앤트로픽의 최신 모델 ‘클로드 페이블 5.1’이 대표적 사례다. 앤트로픽은 페이블 5.1의 입력·출력 가격을 기존과 같은 100만 토큰당 10달러, 50달러로 유지하면서 캐시 읽기 가격은 1달러에서 0.25달러로 75% 낮췄다. 그러나 아티피셜 애널리시스 종합 지능 지수(AAII)에서 최대 노력(Max) 기준 작업당 비용은 3.69달러로, 이전 모델 페이블 5의 3.14달러보다 18% 높았다. 더 높은 성능을 내기 위해 페이블 5.1이 이전 모델보다 약 1.7배 많은 출력 토큰을 사용했기 때문이다.
실제 데이터에서도 토큰 가격과 사용량의 엇갈린 흐름이 나타난다. 구글은 지난 5월 월간 토큰 처리량이 3200조개로 1년 새 7배 늘었다고 밝혔고, 미 경제지 포춘은 2023년 이후 토큰 가격이 90% 이상 하락했지만, LLM 전체 지출은 지난해 말 이후 약 두 배 증가했다고 전했다. 토큰 단가는 낮아졌지만, 사용량 증가 속도가 이를 웃돌면서 전체 비용은 오히려 커질 수 있다는 의미다.
이코노미스트도 지난 6월 조지아공대 두정 연구진의 분석을 인용해 같은 작업에서 한 딥시크 모델이 오픈AI 경쟁 모델보다 약 23배 많은 토큰을 사용했다고 전했다. 이에 모델의 비용 경쟁력은 단순한 토큰당 가격보다 하나의 작업을 완료하는 데 실제로 얼마나 많은 토큰과 비용이 드는지를 기준으로 판단해야 한다고 분석했다.
아폴로의 수석 경제학자인 토르스텐 슬록은 이를 ‘제본스의 역설’의 사례로 봤다. 슬록은 지난 6월 블로그를 통해 “토큰이 저렴해질수록 기업들은 지출을 줄이기보다 더 많은 AI 에이전트를 가동하고, 더 많은 업무를 자동화하며, 더 많은 코드를 생성한다”는 취지로 설명했다. 그러면서 토큰당 비용이 급락해도 전체 AI 지출은 오히려 늘어날 수 있다고 분석했다.
댓글0