들어가며

같은 LLM(Large Language Model, 대형 언어 모델)이 한쪽에선 문장 한 줄을 만지작거리고, 다른 한쪽에선 수십 개의 파일을 가로지르며 코드를 수정하고 테스트를 돌리고 git 커밋까지 찍어요. 똑같은 모델인데 무엇이 그 격차를 만들까요. 모델 크기? 파라미터? 학습 데이터?

답은 의외로 단순해요. 모델 바깥의 코드 한 뭉치 — 도구를 호출하고 결과를 다시 모델에게 돌려주는 얇은 껍데기가 있느냐 없느냐의 차이예요. 이 껍데기를 하네스(harness) 라고 불러요. 본문이 풀어가는 첫 번째 이야기예요.

그리고 그 다음 이야기는 더 이상해요. 2026년 현재 가장 정교한 코딩 에이전트도 결국 메모리 대역폭 앞에서 무릎을 꿇어요. 더 똑똑한 알고리즘을 만들어도, 모델 가중치와 KV 캐시(Key-Value cache — 디코드 단계에서 이전 토큰의 K·V를 재사용하기 위해 잠시 들고 있는 단기 기억) 를 GPU 안으로 퍼 나르는 속도가 따라주지 않으면 토큰 1개를 더 뽑는 데 더 많은 밀리초가 걸려요. 지능의 진짜 병목은 소프트웨어가 아니라 하드웨어 쪽에 있어요. 본문이 결국 도착할 종착지예요.

왜 코딩 에이전트를 배워야 하는가? 업무 효율 향상은 기본이에요. 코딩 경력이 없어도, 시간이 없어도 — Claude Code나 Codex 같은 코딩 에이전트를 쓸 줄 알면 머릿속에 있던 것을 직접 만들어낼 수 있어요. 업무에서도, 개인 프로젝트에서도요.

코딩 에이전트는 음악을 작곡하거나, 그림을 그리거나, 회로를 설계하지는 못해요. 하지만 그 일을 해내는 AI 시스템을 만들어내는 도구예요. 음악 생성 모델, 이미지 합성 파이프라인, EDA 자동화 도구 — 이 모든 것이 코드 위에 올라가요. Anthropic의 Claude Code, OpenAI의 Codex(CLI) 같은 도구가 그 코드를 짜는 일을 맡아요. 본문은 특정 제품을 옹호하지 않고 에이전트 일반론을 다루되, 구체적 사례가 필요한 자리에서는 두 도구를 함께 인용해요.

이 문서는 소프트웨어 아키텍처 관점에서 에이전트를 해부하고, 지능의 진짜 병목이 어디인지 드러내요. Part I는 구조(뇌·몸·컨텍스트), Part II는 통제술(11개 원칙), Part III는 그 모든 최적화가 부딪히는 물리적 천장이에요.