퀘스마(Quesma)의 한 연구원이 AI 에이전트 파이프라인을 돌리다가 클로드 맥스 플랜의 토큰 한도를 30분 만에 다 써버렸어. 심지어 그 연구는 "토큰을 아끼는 방법"을 찾는 거였어. 토큰을 아끼려고 연구하다가 토큰을 다 태워버린 아이러니한 상황이지. 처음부터 토큰 최적화가 필요하다는 걸 몸으로 깨달은 셈이야.
지능의 가격이 내려오는 시대
이런 토큰 소모 문제는 단순히 AI 서비스 비용이 비싸다는 차원을 넘어. 요즘 오픈웨이트 모델들이 나오면서 AI 모델 생태계 자체가 흔들리고 있거든. 얼마 전 OpenAI의 딘 볼(Dean Ball)이 중국의 Kimi K3 모델에 대해 경고했어. K3는 프런티어 모델 수준의 성능을 보이는데도 가중치를 공개했거든.
딘 볼의 주장은 이거야. 프런티어 모델 회사가 막대한 투자를 해서 모델을 만들면, 선두를 독점하면서 API 매출로 다음 투자금을 회수해. 그런데 Kimi K3처럼 몇 주 뒤 비슷한 모델이 가중치째 풀려버리면, 독점 기간도 줄고 투자 회수 기간도 짧아져. 모델 하나로 돈 벌기가 점점 어려워진다는 얘기지. 그는 오픈웨이트가 오히려 '감속주의적'이라고 말했어. 사용은 늘지만, 미래 AI 투자는 억제한다는 거야.
심지어 딘 볼은 더 도발적인 표현으로 'AI 공산주의'까지 언급했어. 모델을 공공재로 봐서 누구나 무료로 쓰게 되면, 결국 훈련 비용은 국가나 하이퍼스케일러가 부담하고 AI는 디지털 인프라처럼 배포될 수 있다는 경고였어. 물론 이 표현은 극단적이지만, 모델 자체의 가치와 접근성이 빠르게 변화하고 있다는 건 분명해 보여. 지능의 가격이 낮아지고 있는 거지.
모델보다 중요한 '하네스'의 힘
지능의 가격이 낮아진다면, 이제 뭐가 중요해질까? 바로 "모델을 어떻게 쓸 것인가"야. t3.gg 창업자 테오(Theo)의 실험이 딱 이걸 보여줬어. 같은 AI 모델인데도 '하네스', 즉 모델을 감싸는 껍데기만 바꿨더니 결과물이 확 달라진 거야.
테오는 OpenAI의 GPT-5.6 'Sol' 모델을 OpenAI 자사 도구인 Codex가 아니라 Claude Code(Anthropic의 CLI)에서 돌렸어. 그런데 Claude Code 쪽 결과가 훨씬 좋았다는 거야. 범인은 Codex의 시스템 프롬프트였어. 유출된 프롬프트를 보니까 "카드는 8px 이하 모서리", "자간은 0, 음수 금지" 같은 프런트엔드 디자인 규칙이 전체의 1/4을 차지했대.
문제는 이런 규칙이 CLI 작업, 백엔드 작업처럼 디자인과 전혀 상관없는 일에까지 매번 딸려온다는 거야. 불필요하게 토큰을 태우고, 결과물을 획일적인 'AI 양산물'로 만들어 버린 거지.
반대로 Claude Code의 무기는 'Workflows'라는 서브에이전트 조율 방식이었어. 조율은 코드가, 판단은 모델이 맡는 방식인데, 중간 산출물이 컨텍스트에 쌓이지 않고 최종 답만 남는 구조야. 덕분에 복잡한 작업에서 토큰을 60~90%까지 줄이면서도 품질은 같거나 더 좋았다고 해. 토큰은 1/4만 쓴 셈이지. 모델 성능보다 '어떻게 연결하고 조율하는지'가 중요해진 거야.
결국은 효율적인 '활용'이 핵심
퀘스마 연구원이 토큰 폭주를 겪고 찾은 해결책도 결국 하네스 설계와 맞닿아 있어. 그가 찾은 방법은 크게 두 가지였어.
- 저렴한 모델을 서브에이전트로 활용: 모든 작업에 비싼 최고급 모델을 쓸 필요가 없다는 거야. Claude Opus 4.8, Claude Sonnet 5, GPT-5.5 같은 모델들도 많은 작업에 충분히 뛰어나다는 점을 활용했어. 역할에 맞춰 저렴한 모델을 서브에이전트로 조합한 거지.
- 공유 메모리 활용: 그가 이미 사용하는 Claude, Codex, Antigravity 구독을 묶어 'claude-mem' 플러그인을 확장했어. 모든 도구가 세션 동안 공유 메모리를 사용해서, 한 도구가 배운 걸 다른 도구가 바로 쓸 수 있게 한 거야. 컨텍스트 중복을 줄이고 효율을 극대화한 거지.
이 모든 노력이 가리키는 방향은 명확해. 앞으로는 AI 모델 자체의 파라미터 크기나 벤치마크 점수 경쟁만큼, 아니 그 이상으로 "우리가 이 모델들을 어떻게 조립하고 활용하며 비용을 최적화할지"가 중요해진다는 거야. 지능의 가격이 싸지면서 모델 하나에서 인프라, 데이터, 평가, 배포, 신뢰, 에이전트 운영체계로 가치가 이동하고 있어.
우리가 AI를 보는 관점 자체를 바꿔야 할 시점이야. 이제 어떤 AI를 고를지가 아니라, 이 AI들을 어떻게 연결하고 유기적으로 작동하게 만들지가 진짜 승패를 가를 거야.
우리가 다음 달 AI 비용을 줄이면서도 결과물의 품질을 유지하려면, 어떤 '하네스'부터 점검해야 할까?