거울 앞의 인공지능
구조적 치환
에이전트를 처음 마주할 때 가장 빠른 지름길은 — 그것을 자기 자신에 비춰 보는 것이에요. 어디가 닮았고 어디가 다른지 한 번에 잡아낼 수 있어요.
AI 에이전트의 구조를 이해하는 가장 빠른 방법은 인간과 대응시켜 보는 것이에요.
구조 대응
| 인간 | AI 에이전트 | 차이 |
|---|---|---|
| 뇌 (신경망) | LLM | 인간: 경험으로 실시간 재구성. AI: 학습 완료 후 가중치 동결 |
| 시냅스 (가소성) | 파라미터 | 인간: 평생 변화. AI: 학습 시 결정, 이후 고정 |
| 신체 (실행 인프라) | 하네스 (zsh, python3, 파일 시스템) | 인간: 유기적으로 진화, 물리 제약 있음. AI: 설계자가 임의로 교체·확장 가능 |
AI는 인간보다 부족해요 — 그래서 도구로 유용해요
LLM은 인간 뇌와 비교할 때 분명히 열위인 부분이 있어요. 학습이 끝난 후 가중치가 굳기 때문에 새로운 경험을 흡수하지 못하고, 진짜 이해 없이 패턴을 흉내 내며, 맥락을 벗어나면 쉽게 환각(hallucination)을 일으켜요.
규모만 봐도 그래요. 현재 가장 큰 프론티어 모델들의 파라미터 수는 아래와 같아요.
| 모델 | 파라미터 수 | 비고 |
|---|---|---|
| Claude Opus 4.7 | 비공개 (수조 단위 추정) | Anthropic 공식 미공개 |
| GPT-5.4 | 비공개 | OpenAI 공식 미공개 |
| DeepSeek-V4-Pro | 1조 6,000억 (MoE, 490억 활성) | DeepSeek 2026-04-24 출시. 현재 공개된 오픈웨이트 중 최대. MoE(Mixture of Experts): 입력마다 전체 파라미터 중 일부만 활성화하는 구조 |
| Kimi K2.6 | 1조 (MoE, 320억 활성, 384 experts) | Moonshot AI 2026-04-20 출시 |
| GLM-5.1 | 7,440억 (MoE, 400억 활성) | Z.AI 공식 |
| Llama 3.1 405B | 4,050억 (dense) | Meta 공식. 공개 dense 모델 중 최대 |
| 인간 뇌 시냅스 | 약 100조~150조 | 신경과학계 측정치 (대뇌피질 기준) |
프론티어 모델 중 Anthropic·OpenAI는 공식 파라미터 수를 공개하지 않아요. "수조 단위"라는 표현은 업계 추정일 뿐 확정치가 아니에요. 공개된 오픈웨이트 중에서는 DeepSeek-V4-Pro(1.6T MoE)와 Kimi K2.6(1T MoE)가 가장 크고, dense 구조(모든 파라미터를 한꺼번에 활성화하는 방식)로는 Llama 3.1 405B가 여전히 최대예요.
단순 규모로는 최대 프론티어 모델도 인간 뇌 시냅스의 수십 분의 1 수준이에요.
그런데 왜 고수준 작업에서 인상적인 성능을 내는가: LLM이 학습하는 데이터의 질과 밀도 때문이에요. 인간은 수십 년에 걸쳐 자신이 직접 경험한 것만 배워요. LLM은 인류가 기록한 수천억 단어 — 책, 논문, 코드, 웹 문서 — 를 동시에 압축 학습해요. 시냅스 수는 더 적지만 인류 도서관 전체를 읽은 셈이에요. 더 작은 뇌에 더 많은 책을 욱여넣은 결과, 일부 영역에서는 사람을 능가해요.
AI 학습 단계를 인간에 빗대면:
| AI 학습 단계 | 인간의 대응 |
|---|---|
| Pre-training | 유아기~학창 시절: 세상의 모든 텍스트를 읽으며 언어·지식 구조를 내재화 |
| Fine-tuning | 전공 교육·직업 훈련: 특정 도메인에 맞게 행동 방식을 좁혀나감 |
| RLHF (Reinforcement Learning from Human Feedback) | 멘토·사수의 피드백: "이건 좋아, 저건 안 돼"를 반복하며 행동 교정 |
| 학습 완료 후 가중치 | 암묵지(implicit knowledge): 자전거 타는 법처럼 몸이 기억하지만 언어로 설명하기 어려운 것 |
파라미터에 저장된 것은 명시적 사실이 아니라 패턴과 확률 구조예요. 인간의 암묵지와 성격이 비슷해요.
컨텍스트 윈도우는 단기 기억인가: 맞아요.
| 인간 | LLM | |
|---|---|---|
| 단기 기억 | 작업 기억(Working Memory), ~7±2 청크 | 컨텍스트 윈도우 (~200K 토큰) |
| 장기 기억 | 수면 중 해마→대뇌피질 공고화 | 파라미터 (학습으로 고정된 가중치) |
결정적 차이: 인간은 단기 기억의 일부가 장기 기억으로 공고화돼요. LLM은 컨텍스트에서 일어난 일이 세션이 끝나면 소멸해요 — 파라미터에 아무것도 남지 않아요. 다음 세션의 LLM은 이전 대화를 전혀 몰라요.
이것이 시스템 프롬프트 파일(예: Claude Code의 CLAUDE.md, Codex의 AGENTS.md)이 존재하는 이유예요. 세션을 넘겨도 유지해야 할 지식을 파일에 적어두고 매 세션 컨텍스트에 주입하는 방식으로, 외부 메모가 장기 기억을 보조하듯 동작해요.
그래서 왜 유용한가요
그런데 바로 이 "부족함"에서 도구로서의 가치가 생겨요.
가중치가 굳어 있다는 것은 동시에 일관성을 의미해요. 인간은 피로, 감정, 경험 편향에 따라 같은 입력에도 다른 판단을 내리지만, LLM은 동일한 입력에 대해 동일한 확률 분포로 응답해요. 연속해서 변화하는 환경에 적응하는 것보다 일관된 작업에서 일관된 품질의 결과물을 내놓는 것이 중요한 상황에서 이것은 강점이에요.
그리고 몸(하네스)은 인간의 신체와 달리 설계자가 완전히 통제해요. 규칙을 바꾸고 싶으면 시스템 프롬프트 파일 한 줄을 수정하면 돼요. 도구를 추가하고 싶으면 Tool 스펙을 붙이면 돼요. 인간에게 행동 지침을 바꾸도록 요청하는 것과는 차원이 다른 통제 가능성이에요.
요약하면 이래요.
| 인간 | AI 에이전트 | |
|---|---|---|
| 뇌의 유연성 | 높음 (평생 학습) | 낮음 (가중치 고정) |
| 뇌의 일관성 | 낮음 (감정·피로·편향) | 높음 (동일 입력 = 동일 분포) |
| 몸의 확장성 | 물리 제약 있음 | 소프트웨어로 무한 확장 |
| 몸의 통제 가능성 | 낮음 | 설계자가 완전 통제 |
AI 에이전트를 활용하는 핵심 전략은 AI가 인간보다 뛰어난 영역을 찾는 것이 아니에요. 인간이 직접 하기에 비효율적인 반복·정형 작업을 일관성 있게 수행할 수 있도록, 몸(하네스)을 잘 설계하는 것이에요.