야, 이거 봤어? Kimi K3라는 중국 모델이 코드 작업에서 클로드 Fable 5랑 거의 비슷하게 나오는데, 가격은 백 배나 싸다는 기사. 심지어 Fable 5는 요즘 구독 모델에서 이랬다저랬다 해서 말이 많잖아. 진짜 흥미로운 변화다 싶더라고.

Kimi K3, Fable이랑 동급인데 100배 싸대

Kimi K3가 API 기준으로 입력 토큰 100만 개당 3달러, 출력 15달러라고 한다. 클로드 Fable 5는 같은 기준으로 입력 10달러, 출력 50달러다. 물론 Fable 5는 최근 구독 정책이 바뀌면서 프로나 팀 스탠다드 플랜에서는 유료 크레딧으로 바뀌고, 맥스나 팀 프리미엄에서만 주간 한도의 50%로 제한적으로 쓸 수 있게 되었다. Fable 5가 처음 나왔을 때 미국 수출통제 문제로 한번 중단됐다가 재개된 거 생각하면, 참 불안정하다.

문제는 Fable 5가 비싸기만 한 게 아니다. 같은 문서를 처리해도 새 토크나이저 때문에 토큰을 30% 더 많이 쓴다고 한다. 비용이 그냥 두 배가 아니라 체감상 더 크게 느껴질 거다. 반면 Kimi K3는 벤치마크에서 Fable 5와 GPT-5.6 Sol을 모두 앞서기도 했고, 심지어 실제 코딩 작업에서도 성능 차이를 느끼기 어렵다는 평이 지배적이다. 게다가 클로드의 유료 플랜은 '하루에 에이전트 좀 돌리면 점심 먹기도 전에 한도가 다 사라진다'는 이야기가 나올 정도로 빡빡하다. Kimi는 훨씬 관대하다.

이런 상황은 명확한 메시지를 준다. 특정 프런티어 모델에만 의존하는 건 너무 위험하다. 특히 비용과 접근성이 불안정한 모델이라면 더욱 그렇다.

모델만 잘 만들면 끝? 이제는 '운영 효율' 싸움

Kimi K3의 진짜 무서운 점은 단순히 '중국도 좋은 모델을 만들었다'가 아니다. 그들은 2.8조 파라미터짜리 거대 모델을 훨씬 싸게 작동시키는 시스템을 구축했다. 매 토큰마다 896개의 expert 중 16개만 활성화하는 Sparse MoE, 긴 컨텍스트 처리 비용을 줄이는 KDA, 모델이 깊어질수록 정보가 희석되는 걸 막는 AttnRes 같은 기술들을 썼다고 한다. 학습부터 추론, 캐싱까지 모든 과정을 함께 설계해서 K2보다 스케일링 효율이 2.5배 개선됐다고 한다.

이건 게임의 룰을 바꾸는 거다. 프런티어 지능의 '원가 곡선'을 기술로 무너뜨린 거다. 예전에는 누가 더 큰 모델, 더 좋은 성능을 만드느냐가 중요했다면, 이제는 누가 그 모델을 더 효율적으로, 더 싸게, 더 안정적으로 운영하고 배포하느냐가 핵심이 된 거다. Kimi는 심지어 전체 weights와 vLLM용 KDA prefill cache 구현을 공개할 예정이라고 한다. 이 오픈 전략은 단순히 철학적인 얘기가 아니라, 지능의 원가 곡선을 떨어뜨리는 배포 전략으로 활용된다는 분석이다.

어제 56달러였던 프런티어 지능을 오늘 0.50달러에 살 수 있다면, 모델 회사의 높은 가격과 거대한 Capex(자본적 지출)가 언제까지 해자가 될 수 있을까? 모델 자체가 해자가 되기 어려운 시대가 오는 거다.

불안정한 프런티어, 우리 전략은?

클로드 Fable 5의 사례는 우리에게 중요한 교훈을 준다. 미국의 AI 정책이 자국 모델 개발을 오히려 지연시키고 제한된 모델을 만들게 했다는 비판도 나온다. 규제와 보안이라는 명분 아래 미국 고객들만 제약받고 있다는 거다. 결국 제한 없는, 고품질의 저렴한 모델은 다른 나라에서 나오고 있다.

이런 상황에서 우리 실무자들은 어떤 판단을 해야 할까? 특정 프런티어 모델에 모든 걸 거는 건 더 이상 현명한 전략이 아니다. 안정적이지 않고 비싼 모델에 워크플로우를 통째로 묶어두면 정치적 이슈나 용량 문제에 그대로 노출된다.

이제 중요한 건 어떤 모델을 가졌는지가 아니다. 그 모델을 실제 워크플로우에 어떻게 붙일지 (하네스), 어떤 결과가 좋은지 어떻게 판단할지 (Eval), 고객에게 어떻게 전달할지 (Product & Distribution), 그리고 운영하면서 쌓이는 학습 시스템이 무엇인지가 중요해진다. 다양한 AI 모델을 활용하고, 폴백 모델과 비용 상한을 미리 설계하는 것이 필수다.

지금 우리 팀의 AI 워크플로우는 특정 모델에 너무 의존하고 있지는 않나?

참고

  • The Kimi K3 Moment (stephen.bochinski.dev)
  • Kimi K3, 100배 싼 프런티어 AI: 오픈 전략의 승리? (by 정구봉 (Goobong Jeong) on LinkedIn)
  • 앤트로픽의 최상위 AI 모델 Claude Fable 5가 2026년 7월 20일부터 구독 요금제 편입 방식이 바뀝니다. (by 정상록 (Sangrok Jung) on LinkedIn)