AI 토큰 사용량 300배 늘 때 단가는 0.14달러로 하락
OpenRouter의 주간 토큰 처리량은 2025년 1월 약 5,000억 개에서 2026년 9월 말 164조 개로 늘었지만, 100만 토큰당 평균 지불 가격은 0.77달러에서 0.14달러로 떨어졌다. 오픈 웨이트 모델이 주간 토큰의 약 60%를 처리하면서 지출 비중은 26%에 그쳤고, 2월 6일부터는 소프트웨어 에이전트의 토큰 사용량이 인간 사용자를 추월했다. 분석은 AI 추론이 원자재성 투입 요소가 되고 있어 표시 가격보다 캐시·재시도까지 반영한 실질 총비용으로 구매해야 한다고 제언했다.
원문
- AI 토큰 경제의 현주소: CFO가 알아야 할 것 GeekNews · 2026년 11월 2일 11:30
뉴스 수집·요약·게시를 자동화한 이 사이트처럼, 반복 업무를 자동화하고 싶으신가요?
AI 분석
수집된 보도와 일반적인 배경 지식을 바탕으로 편집자 AI가 쓴 분석입니다. 사실 확인은 출처를 참고하세요.
배경
최근 AI 업계의 화두는 지출 대비 수익이다. 지난주 빅테크 4곳 중 3곳이 AI 투자로 3분기 현금흐름 적자를 냈다는 소식과 AI 투자 수익성 우려에 따른 기술주 급락이 이어졌다. 이번 분석은 반대편, 즉 AI를 사서 쓰는 쪽의 가격 데이터를 보여 준다.
보도에 따르면 OpenRouter의 주간 토큰 처리량은 2025년 1월 약 5,000억 개에서 2026년 9월 말 164조 개로 늘었고, 100만 토큰당 평균 지불 가격은 0.77달러에서 0.14달러로 내렸다. 2024년 초 이후 플랫폼에 출시된 모델은 862개다.
일반적으로 OpenRouter는 여러 모델을 한 계정으로 쓰려는 개발자·스타트업 비중이 높은 게이트웨이여서, 수치가 시장 전체를 대표하지는 않는다는 점을 감안해야 한다.
의미
기업 구매자에게는 AI 추론을 연간 소프트웨어 계약이 아닌 원자재처럼 다뤄야 한다는 신호다. 같은 모델도 공급업체와 캐시 비율에 따라 실제 지불액이 표시 가격보다 43~89% 낮았다는 수치는, 구매 방식만 바꿔도 비용이 크게 달라진다는 뜻이다.
모델 개발사에는 압박이다. 오픈 웨이트 모델이 토큰의 약 60%를 처리하지만 지출은 26%에 그쳐, 일상 업무가 저가 모델로 옮겨 가고 있다. 1위 개발사가 8개 분기 동안 다섯 번 바뀌고 선두 점유율이 약 40%에서 21%로 내려간 것도 충성도가 낮은 시장임을 보여 준다.
개발자에게는 에이전트가 2월부터 인간보다 많은 토큰을 쓴다는 점이 중요하다. 긴 문맥을 반복 전송하는 구조에서는 프롬프트 캐싱 설계가 곧 비용 설계가 된다.
전망
낙관
전제: 단가 하락이 수요를 더 크게 늘린다. 보도에 따르면 AI 네이티브 스타트업은 토큰 사용량이 18배 늘 때 지출이 5.1배 늘었다. 단가가 내려도 총지출은 계속 증가하므로, 가격 경쟁은 시장 축소가 아니라 사용처 확대로 이어질 가능성이 크다. 이 경우 추론 공급업체와 인프라 수요는 견조하게 유지된다.
이 전제는 토큰 증가율이 둔화되는데 단가 하락은 계속되어 플랫폼 전체 지출이 정체되거나 줄어드는 분기가 나타나면 깨진다.
회의
전제: 추론이 원자재가 되면 이익은 사용자에게 넘어가고 공급자의 마진은 줄어든다. 최적 공급업체가 몇 달마다 바뀌고 라우팅이 분 단위로 가격을 따라가면, 고가 프론티어 모델로 대규모 투자를 회수하려는 개발사의 가격 결정력은 약해진다. 지난주 드러난 빅테크의 현금흐름 부담과 겹치면 투자 회수 기간이 더 길어질 수 있다.
이 전제는 프론티어 모델이 저가 모델로 대체할 수 없는 고부가 작업에서 프리미엄 가격을 유지하며 지출 비중을 다시 늘리면 깨진다.
지켜볼 신호
예측