Weave가 코딩 에이전트 비용을 40% 절감했다고 한다. 이걸 보면서 ‘어? 이건 꼭 공유해야겠네’ 싶었다. 단순히 더 좋은 AI 모델이 나왔다는 이야기가 아니다. 이제는 우리가 AI를 어떻게 활용하느냐가 정말 중요해진다는 거다.
최고의 모델만 쓴다고 최고가 아니다
Weave 팀은 AI로 대부분의 코드를 짜는데, 요즘 비용이 너무 많이 든다는 거다. 특히 앤트로픽의 Opus 4.7이 나오면서 토크나이저 변경 때문에 비용이 확 뛰었다고 한다. 그래서 이 친구들이 뭘 만들었냐면, 요청의 복잡성에 따라 가장 적합한 모델로 라우팅해주는 똑똑한 모델 라우터를 만들었다.
예를 들어, 복잡한 계획 수립은 Opus 4.8 같은 강력한 모델로 보내고, 코드베이스 탐색처럼 간단한 컨텍스트 수집은 DeepSeek V4 Flash 같은 저렴한 모델로 보내는 식이다. 최종 구현 단계에서는 또 다른 빠른 모델로 넘기는 전략이다. 이렇게 하니 품질 저하 없이 토큰 비용을 40%나 아꼈다. 무조건 비싸고 좋은 모델만 쓴다고 능사가 아니라는 걸 보여주는 거다.
워크플로우 자체를 갈아엎는 AI 혁신
바이두의 Unlimited-OCR 모델 얘기도 비슷하다. 수십 페이지짜리 PDF 문서를 OCR 할 때, 기존 방식은 페이지를 잘라서 따로 돌리고 나중에 결과를 합쳐야 했다. 문제는 이렇게 하면 문맥이 끊기거나 포맷이 깨지는 경우가 허다했다는 점이다.
그런데 Unlimited-OCR은 R-SWA 기술 덕분에 KV 캐시 크기가 고정이라, 몇십 페이지를 통째로 넣어도 속도가 안 떨어진다. 모델이 문서 전체를 한 번에 보고 이해하니까 페이지 분할, 병합 같은 복잡한 과정 자체가 사라진다. OCR이 단순 글자 인식 도구를 넘어 ‘문서 전체를 이해하는 엔진’으로 진화한 거다. 이 덕분에 문서 처리 워크플로우가 근본적으로 단순해졌다. 이건 단순히 성능 개선이 아니라, 일하는 방식을 통째로 바꾼 사례다.
강력한 AI 뒤에 숨겨진 복잡한 현실
오픈AI가 GPT-5.6 솔, 테라, 루나를 내놓았다는 소식도 빼놓을 수 없다. 코딩 벤치마크(TerminalBench 2.1)에서 91.91%라는 역대 최고 점수를 기록했다. 성능은 여전히 무섭게 발전하고 있다. 특히 ‘울트라 모드’는 여러 개의 서브 에이전트를 병렬로 써서 복잡한 작업을 처리하는 방식인데, 이게 앞으로 AI 에이전트 시대의 표준이 될 거라는 강력한 신호다.
그런데 주목할 점은 이 GPT-5.6이 처음부터 미국 정부 승인을 받은 20개 기업에만 제한적으로 배포됐다는 거다. 앤트로픽의 미토스 5 수출 통제 사태를 생각해보면, 이제 AI 모델이 단순히 기술적인 제품을 넘어 국가 안보와 직결된 전략 자산으로 취급된다는 의미다. 앞으로 프런티어 AI 모델의 출시와 접근권은 시장 논리뿐 아니라 정부 규제 변수에 따라 움직일 거다.
그래서 우리에게 필요한 건 뭘까?
결국 AI는 계속 발전하고, 새로운 아키텍처는 워크플로우를 혁신한다. 하지만 동시에 비용 문제는 더 심각해지고, 모델 접근권은 국가 안보 이슈와 얽히며 더 복잡해진다. 이제는 단순히 가장 강력한 AI 모델을 찾는 걸 넘어, 이 모델들을 어떻게 우리의 워크플로우에 가장 효율적이고 비용 효과적으로 통합할지, 그리고 잠재적인 접근 제한에 어떻게 대응할지가 핵심 과제가 된 거다.
결국 최고의 AI 모델을 쓰는 것만이 능사가 아니라, 우리 상황에 맞춰 모델을 똑똑하게 선택하고, 효율적으로 라우팅하며, 전체 워크플로우를 최적화하는 전략이 필요하다는 이야기다.
AI 기술이 눈부시게 발전하는 요즘, 우리는 과연 이 기술을 얼마나 스마트하게 활용하고 있을까?
참고
- [총정리] 미토스 5 넘었다… 오픈AI GPT-5.6가 보여준 ‘모델 통제’ 새 질서 (by 박원익)
- Show HN: Smart model routing directly in Claude, Codex and Cursor · 댓글 94개
- 바이두 R-SWA, 다중 페이지 OCR '이해' 혁신 (by 이정민 (Jeongmin Lee))