야, 이거 봤어? 요즘 Kimi K3 모델 이야기가 심상치 않다. 중국 모델인데, 클로드 최상위 모델이랑 코딩 작업에서 거의 똑같은 성능을 낸다더라. 똑같은 작업을 시켜봐도 출력 품질도 같고, 심지어 토큰 사용량도 비슷하다는 평가다. 그런데 가격은 완전 다르다. Kimi K3 API는 인풋 백만 토큰에 3달러, 아웃풋은 15달러다. 클로드 최상위 모델은 인풋 10달러, 아웃풋 50달러다. 구독 요금제는 더 심해서 Kimi는 월 19달러부터 시작하는데, 클로드의 그 어떤 유료 플랜보다 훨씬 관대하다. 클로드는 조금만 써도 한도가 금방 바닥난다고 불만이 많았다.

Kimi K3: 성능은 똑같은데, 가격은 100분의 1

이게 단순히 '중국도 좋은 모델 만들었네' 수준이 아니다. 정구봉님 기사에서는 Kimi K3가 Claude Fable 5나 GPT-5.6 Sol급 모델과 동급이거나 더 나은 성능을 보이는데도, 가격은 무려 100배 가까이 저렴하다고 한다. 벤치마크 점수를 보면 Kimi K3가 Frontend Code Arena에서 1,679점으로 1위다. Fable 5와 GPT-5.6 Sol을 모두 앞질렀다. 한 세대 만에 17계단이나 뛰어올랐다고 한다.

이게 진짜 충격적인 부분이다. 그냥 강력한 모델을 만든 게 아니다. 프런티어 AI의 '원가 곡선'을 기술로 무너뜨렸다.

비용 곡선을 무너뜨린 '시스템'의 승리

Kimi K3는 무려 2.8조 파라미터 모델인데, 매 토큰마다 896개의 expert를 전부 쓰는 대신 16개만 활성화하는 Sparse MoE 구조를 쓴다. 긴 컨텍스트를 처리하는 KDA(Key-Dynamic Attention), 모델이 깊어져도 정보 손실을 줄이는 AttnRes 같은 혁신적인 기술이 들어갔다. 양자화(Quantization-aware training), expert 병렬 처리, 프리필 캐시(prefill cache)까지 학습과 추론을 함께 설계했다.

결과적으로 이전 모델보다 스케일링 효율이 2.5배 개선됐다. 공식 API의 코딩 워크로드에서는 캐시 히트율이 90%를 넘고, 캐시 히트 시 인풋 가격은 백만 토큰당 0.30달러까지 내려간다. 그냥 '큰 모델'을 만든 게 아니라, '큰 모델을 싸게 작동시키는 시스템'을 만든 것이다.

이들은 7월 27일에 전체 웨이트와 vLLM용 KDA prefill cache 구현까지 공개할 예정이다. 오픈 전략을 통해 생태계 전체가 더 싸고 빠르게 발전하도록 만들겠다는 얘기다. 아직은 누구나 노트북에서 돌릴 수 있는 모델은 아니지만, 방향은 분명하다. 프런티어 지능이 소수 기업의 비싼 상품에서 누구나 조합할 수 있는 인프라로 내려오고 있다.

비싼 모델 하나만 믿는 건 이제 위험하다

이런 상황에서 정상록님 기사를 보면, 앤트로픽의 최상위 모델인 Claude Fable 5의 구독 요금제가 7월 20일부터 유료 크레딧 방식으로 바뀐다. 기존 유료 플랜 사용자들에게 일회성 100달러 크레딧만 제공하고, 이후에는 쓴 만큼 과금하는 방식이다. API 기준 가격도 Opus 4.8의 두 배다. 게다가 새로운 토크나이저 때문에 같은 문서도 30% 더 많은 토큰을 쓴다.

더 큰 문제는 안정성이다. Fable 5는 이미 출시 직후 미국 수출 통제로 중단됐다가 재개되는 등 불안정했다. 한 모델에 워크플로우를 통째로 묶어두는 게 얼마나 위험한지 여실히 보여준다. 이런 정치적 이슈나 용량 문제로 특정 모델의 접근성이 흔들리면 우리 업무도 같이 멈춘다.

모델이 아닌 '활용 시스템'이 진짜 해자다

이제는 어떤 '모델'을 가졌느냐가 점점 해자가 되지 못하는 시대가 오고 있다. 어제 56달러였던 프런티어 지능을 오늘 0.50달러에 살 수 있다면, 모델 회사의 높은 가격과 거대한 설비 투자가 언제까지 우위를 점할 수 있을까? 모델 자체보다 그 모델을 실제 워크플로우에 붙이는 '하네스(harness)', 무엇이 좋은 결과인지 판별하는 '평가(eval)', 고객에게 전달하는 '제품(product)'과 '배포(distribution)', 그리고 운영하면서 쌓이는 '학습 시스템(learning system)'이 진짜 경쟁력으로 떠오르고 있다.

모델 경쟁 다음은 지능의 원가 곡선 경쟁이다. 오픈 전략은 단순한 철학이 아니라, 이 원가 곡선을 가장 빠르게 떨어뜨리는 강력한 배포 전략이 되고 있다.

우리 팀은 과연 어떤 모델에 얼마나 깊게 의존하고 있을까?

참고

  • The Kimi K3 Moment (stephen.bochinski.dev)
  • Kimi K3, 100배 싼 프런티어 AI: 오픈 전략의 승리? (linkedin.com/in/goobong)
  • 클로드 페이블 5: AI 모델 의존 분산 전략이 운영 안정성 (linkedin.com/in/sangrokjung)