클로드코드가 이제 혼자서 수십만 줄 코드 마이그레이션을 킥오프부터 머지까지 완주한다는 이야기를 들었어? 이걸 보면 AI 모델이 얼마나 빠르게 똑똑해지고 있는지 실감하게 돼. 예전에는 사람이 할 일을 쪼개서 AI에 시켰다면, 이젠 클로드가 스스로 오케스트레이션 스크립트를 짜서 수십~수백 개의 서브 에이전트를 백그라운드에서 병렬 실행하고, 결과를 검증한 뒤 사용자에게 보고한다더라. 이게 불과 몇 달 전과는 또 다른 레벨의 자율성이야.

똑똑해진 AI, 무거워진 하네스

모델 성능이 이렇게 좋아지다 보니 좀 재밌는 현상이 나타나고 있어. 정구봉 님 글을 보면, 기존에 우리가 AI를 돕기 위해 만들어놨던 무거운 하네스(에이전트 프레임워크)들이 오히려 발목을 잡는 블로트웨어가 되고 있다는 거야. 과거에는 "모델이 여기까지는 못 할 거야"라는 가정 아래 복잡한 계획을 쪼개주고, 컨텍스트 창이 차면 리셋하고, 자기 검증이 안 되니 검증 에이전트를 붙였잖아. 그런데 모델이 좋아지면서 이런 가정들이 하나씩 무너지고 있대. 모델이 알아서 할 일을 하네스가 한 번 더 시키는 꼴이 되는 거지.

그래서 요즘엔 '얇게, 그리고 직접' 만드는 나만의 AI 에이전트 프레임워크가 뜨고 있어. 예찬님의 gajae-code, 연규님의 lazycodex, 승현님의 roach-pi 같은 프로젝트들이 좋은 예시야. 이들은 "결국 일은 하나의 쓸모 있는 루프로 수렴한다"는 생각으로 가볍고 효율적인 나만의 워크플로우를 만드는 데 집중한다. 모델의 능력이 충분하니 군더더기를 걷어내고 핵심적인 부분만 남기는 거지.

자율성 뒤에 숨은 그림자: 새로운 책임의 시작

이렇게 AI가 스스로 계획하고 실행하는 능력이 커지는 건 개발자들에게 엄청난 기회를 주지만, 동시에 새로운 종류의 책임감도 요구한다. 클로드코드만 봐도 동적 워크플로우 외에 Checkpoints 기능으로 Esc 두 번만 누르면 AI가 코드를 엉망으로 만들었을 때 바로 이전 상태로 되돌릴 수 있게 해놨어. Agent View로 여러 AI 세션을 한 화면에서 관제할 수도 있고. 즉, AI에 더 많은 자율성을 줄수록 '맡길 수 있는' 조건을 마련하는 데 공을 들인다는 이야기다. AI의 능력이 확장되는 만큼, 인간은 그 확장된 영역을 어떻게 통제하고 관리할지에 집중해야 한다는 뜻이지.

그런데 이런 통제와 관리가 AI 모델 자체에만 국한되는 건 아니더라. 최근 메타 AI 챗봇 오용으로 수천 개의 인스타그램 계정이 해킹당한 사건이 있었잖아. 메타의 공식 발표를 보면, "도구 자체는 제대로 작동했고 의도한 대로 기능했지만, 별도의 코드 경로에 있는 버그로 인해 시스템이 개인이 제공한 이메일 주소를 제대로 확인하지 못했습니다."라고 했어. AI 챗봇 자체는 요청대로 움직였는데, 비밀번호 재설정을 처리하는 '주변 시스템'에 버그가 있어서 해킹이 가능했던 거야. AI가 사용자에게 받은 이메일 주소를 계정 본인 이메일과 비교하지 않고 그대로 믿어버린 셈이지.

이 사건은 중요한 교훈을 준다. AI의 자율성이 아무리 높아져도, AI 모델 자체만 잘 만드는 것으론 부족하다는 거야. AI와 상호작용하는 '주변 시스템'의 설계와 구현이 얼마나 중요한지, 그리고 예상치 못한 취약점을 어떻게 만들어낼 수 있는지 보여주는 거지. AI의 능력이 커질수록, 전체 시스템을 아우르는 보안과 안정성에 대한 책임감도 함께 커져야 한다는 말이다.

나만의 에이전트, 나만의 통제권

결국 AI 모델의 발전은 단순히 더 똑똑한 AI를 만드는 걸 넘어, 우리가 AI를 시스템에 통합하고 활용하는 방식 전체를 재정의하게 만든다. '얇은 에이전트'를 직접 만들고, '관제 시스템'을 갖추며, '주변 시스템'의 취약점까지 신경 쓰는 건 AI의 자율성이 가져오는 새로운 워크플로우와 책임의 영역이라고 봐야 해.

모델이 좋아질수록 무거운 하네스의 수명은 짧아지고, 얇고 직접 깎은 하네스의 가치는 올라간다고들 말한다. 이건 단순히 효율성을 넘어서 우리가 AI 시스템에 대한 통제권을 얼마나 가져갈 것이냐의 문제로 이어지는 것 같아.

우리 팀의 AI 워크플로우는 지금 어디쯤 와 있는 걸까?

참고

  • 정구봉 (Goobong Jeong)님, "모델 발전: 얇고 직접 만드는 나만의 에이전트", LinkedIn, 2026-06-03.
  • 정상록 (Sangrok Jung)님, "클로드코드: AI 자율 개발 시대 개막!", LinkedIn, 2026-06-05.
  • Zack Whittaker, "Meta confirms 1000s of Instagram accounts were hacked by abusing its AI chatbot", ~this week in security~, 2026-06-06.
  • Meta, "Data Breach Notification Letter to Maine Attorney General", 2026-06-07.