실리콘밸리에 요즘 흥미로운 변화가 있더라. 전에는 "요즘 뭐 만들고 있어(What are you building)?" 하고 물었다면, 이제는 "에이전트 몇 개 돌리고 있어(How many agents are you running)?" 라고 묻는다고 해. 심지어 메타 같은 회사에서는 누가 토큰을 더 많이 쓰는지 리더보드까지 띄워놓고 '토큰 레전드(Token Legend)'라 부른다지. 우버도 AI 예산을 분기 만에 다 써버렸다는 이야기가 나오고. 이게 바로 '토큰맥싱(Token-maxing)' 문화인데, AI를 얼마나 적극적으로 활용해서 결과물을 내는지를 보여주는 지표인 거야.

AI는 이제 만질 수 있는 것을 움직인다

이 '토큰맥싱' 문화가 단순히 소프트웨어 안에서 벌어지는 일만은 아니야. 엔비디아 젠슨 황도 10년 뒤에는 인간 직원 한 명당 AI 에이전트가 10개에서 100개씩, 총 750만 명의 에이전트가 24시간 가동될 거라 하더라고. AI가 이제 단순한 코드 덩어리가 아니라, 물리적인 현실 세계를 움직이는 '피지컬 AI'로 진화하고 있다는 뜻이지.

일론 머스크의 '테라팹' 프로젝트가 대표적이다. 휴머노이드 생산을 위해 반도체 설계부터 제조까지 전 과정을 혁신하겠다는데, 여기에 필요한 핵심 엔지니어들에게 100억에서 200억 원대 보상까지 제시하고 있대. AI 시대의 질문이 "무엇을 코딩할 것인가"에서 "무엇을 움직일 것인가"로 바뀌고 있는 거야. 한국처럼 반도체와 제조 강국은 피지컬 AI 시대에 중요한 플레이어가 될 수 있다는 희망적인 이야기도 나오고.

똑똑한 에이전트도 계속 가르쳐야 하는 이유

그런데 AI 에이전트가 현실 세계를 움직이려면 아주 중요한 능력이 필요하다. 바로 '기억'이지. 지금의 LLM은 아무리 똑똑해도 매번 세션을 새로 시작하면 처음부터 다시 설명해야 해. "네가 누구인지, 뭘 원하는지, 뭘 이미 시도했는지"를 계속 알려줘야 하는 셈이야. 매일 같은 학생을 가르치는 것과 다를 바 없다. 물론 대화 기록을 프롬프트에 구겨 넣는 방법도 있지만, 느리고 비싸고 금방 한계에 부딪히기 마련이다.

이런 문제는 AI 에이전트가 더 복잡한 작업을 수행하고, 현실 세계에서 시행착오를 겪으며 학습해야 할 때 특히 두드러진다. 한번 실패해도 다음에는 또 똑같은 시도를 하는 게 흔한 일이지.

오픈소스 '뇌'가 에이전트를 영구히 기억하게 만든다

이런 갈증을 해결하려는 오픈소스 프로젝트 'Stash'가 등장했어. Stash는 AI 에이전트와 현실 세계 사이에 앉아서 영구적으로 기억하고 학습하는 인지 계층을 만든다. 에이전트의 경험을 학습해서 날것의 관찰을 '사실'로 만들고, 사실을 '지식 그래프'로 연결하고, 모순을 감지하고, 목표를 추적하면서 시간이 지남에 따라 사용자에 대한 이해를 심화시키는 방식이다. 한마디로 에이전트에게 잊지 않는 '뇌'를 달아주는 셈이지.

지금까지는 Claude.ai나 ChatGPT처럼 특정 플랫폼에 묶여서 독점적인 기능으로 제공되던 기억 능력을 Stash가 오픈소스로 풀어냈다. Docker Compose로 쉽게 설치해서 바로 쓸 수 있다고 하니, 이제 AI 에이전트의 기억은 더 이상 프리미엄 기능이 아니게 된 거지. 만약 네가 만드는 에이전트가 계속해서 너의 취향이나 과거의 결정을 기억하고 진정한 '에이전트'로서 일하기를 바란다면, 이런 도구들이 필수가 될 거다.

결국 '작품'과 'AI 슬롭'을 가르는 건 인간의 안목

이렇게 AI 에이전트가 기억을 가지고 현실 세계를 움직이게 되면, AI가 만들어내는 결과물은 기하급수적으로 늘어날 거다. 요즘 벌써 "AI 슬롭"이라 불리는, 그럴듯하지만 핵심이 없는 AI 생성물이 넘쳐난다고 하지. 아무리 똑똑하고 기억하는 AI가 '토큰맥싱'을 통해 많은 것을 만들어내도, 그 결과물이 진정한 '작품'이 될지, 아니면 그냥 "AI가 뱉은 것"이 될지는 결국 인간에게 달려있다고 봐.

결국 AI 시대의 핵심은 우리의 '안목과 취향'이다. 에이전트가 아무리 자율적으로 움직여도, 그 방향과 목표, 그리고 최종 결과물의 가치를 판단하는 건 사람의 몫이니까. 피지컬 AI가 주도하는 세상에서는 이 안목과 취향이 소프트웨어적 결과물뿐 아니라, 실제로 물리적 영향을 미치는 AI 에이전트의 행동에도 적용되어야 할 것이다.

그러니까, AI가 점점 더 많은 것을 기억하고 움직일 때, 우리는 어떤 결과물을 만들고, 또 어떤 세상을 만들어가고 싶은가?

참고

  • 한국 반도체 인재들, 200억 몸값 가능하다… AI 전쟁의 현실 (by 권순우)
  • Open source memory layer so any AI agent can do what Claude.ai and ChatGPT do (Stash)
  • AI 시대의 핵심: 안목과 취향 (by 황현태)