🌱 레슨

토큰과 컨텍스트 — AI가 글을 '세는' 단위

AI는 글자가 아니라 토큰으로 세요. 왜 긴 대화에서 앞부분을 잊는지, 그 비밀이 여기 있어요.

① 오늘의 미스터리

"아까 말했잖아…?"

어제 가게 첫 페이지를 만들며 Claude와 한참 수다를 떨었어요. 그런데 대화가 길어지자 — 분명 처음에 "가게 이름은 '우리동네 반찬가게'야"라고 했는데, Claude가 어느 순간 가게 이름을 묻습니다.

AI가 바보라서가 아니에요. 오늘은 이 미스터리의 범인 — 토큰과 컨텍스트 창을 잡으러 갑니다.

설명을 따라 진행하면, 여기서 직접 쳐보게 돼요 👇

~/my-shop

$ _

📚 「토큰과 컨텍스트 — AI가 글을 '세는' 단위」 레슨 내용 전체 텍스트로 훑어보기

"아까 말했잖아…?"

AI가 바보라서가 아니에요. 오늘은 이 미스터리의 범인 — 토큰과 컨텍스트 창을 잡으러 갑니다.

사람은 글을 '글자'나 '단어'로 세죠. AI는 내가 보낸 글을 무슨 단위로 받아들일까요?

맞아요. AI는 글을 토큰(token)이라는 조각으로 잘라서 읽고, 답할 때도 토큰을 하나씩 이어 붙여요. 지난 레슨의 '다음 단어 맞히기'도 정확히는 '다음 토큰 맞히기'였던 거예요.

토큰은 '자주 함께 쓰이는 글자 묶음'이에요. 단어와 비슷하지만 더 잘게 쪼개질 때도 있어요.

감 잡는 숫자

· "반찬가게" → 한국어는 보통 2~4토큰으로 쪼개져요
· 영어 단어 하나 ≈ 1~2토큰 (한국어가 조금 더 비싸요)
· A4 한 장 분량 ≈ 800토큰 안팎

중요한 건 정확한 개수가 아니라 "AI는 모든 걸 토큰으로 계산한다"는 감각이에요. 대화도, 파일도, 답변도 전부 토큰으로 셉니다.

우리동네 반찬가게 오픈! — 이 한 문장은 토큰 몇 개쯤일까요?

대략 6~9토큰이에요. '우리', '동네', '반찬', '가게', '오픈', '!' 처럼 조각조각 쪼개지죠. 정확한 수는 모델마다 다르지만 '단어 수보다 약간 많다' 정도로 기억하면 충분해요.

토큰이 궁금하면 Claude에게 직접 물어보면 돼요. 가게 폴더에서 Claude를 켜고 대화해봐요.

'우리동네 반찬가게 오픈!' 이 문장은 토큰으로 대략 몇 개야? 왜 그렇게 쪼개지는지도 알려줘

— 토큰 감각을 대화로 확인해요

이렇게 AI 자체에 대한 질문도 AI에게 하면 돼요. 모르는 개념이 나올 때마다 쓸 수 있는 습관이에요.

이제 미스터리의 핵심. AI에겐 컨텍스트 창(context window)이라는 게 있어요 — 한 번에 올려놓고 볼 수 있는 책상의 크기예요.

책상 위에 올라가는 것

지금까지의 대화 전부 + 내가 보여준 파일 + AI가 한 답변까지, 전부 토큰으로 환산되어 책상을 차지해요. 책상에 없는 건 AI에게 존재하지 않는 것과 같아요.

어제 Claude가 가게 이름을 잊은 이유 — 대화가 길어지며 앞부분이 책상에서 밀려났기 때문이에요.

컨텍스트 창은 모델 세대마다 커져 왔어요.

📜 옛날 모델 (8K 토큰): A4 10장이면 책상이 꽉. 긴 문서는 쪼개서 줘야 했고, 대화 몇 번이면 앞을 잊었어요.

📚 요즘 모델 (1M 토큰): 책 한 질을 통째로 올려놓는 크기. 코드베이스 전체를 읽으며 일해요.
하지만 — 무한은 아니에요. 꽉 차는 날은 옵니다.

긴 작업으로 컨텍스트 창이 가득 차면 어떤 일이 생길까요?

맞아요. 앞부분이 밀려나거나, 요약(compaction)으로 압축돼요. 그래서 긴 작업일수록 중요한 정보를 '대화 흐름'에만 맡기면 위험해요. 그럼 어떻게 지키냐 — 👇

가게 이름·규칙처럼 절대 잊히면 안 되는 정보는 대화가 아니라 파일에 적어둬요. Claude가 매번 다시 읽는 그 파일, 이름이 뭘까요?

정답! CLAUDE.md예요. 책상(컨텍스트)이 아무리 어질러져도 매번 다시 읽는 벽에 붙인 안내문이죠. 자세한 건 'CLAUDE.md·컨텍스트' 코스에서 깊게 다뤄요.

Claude Code에는 지금 책상이 얼마나 찼는지 보는 명령이 있어요. 슬래시 커맨드 /context를 쳐보세요.

/context — 컨텍스트 사용량을 확인해요

긴 작업 중에 가끔 /context로 책상을 확인하는 습관 — 프로의 작은 비밀이에요.

한 줄로

AI는 모든 것을 토큰으로 세고, 컨텍스트 창(책상)에 올라온 것만 알아요. 긴 대화에서 잊는 건 고장이 아니라 책상이 밀려난 것 — 중요한 건 파일로 지키면 돼요.

다음 레슨에서

그런데 Claude는 "어제 뉴스"는 왜 모를까요? 책상 문제가 아닌, 학습과 추론의 차이를 다음 레슨에서 풉니다. 가게는 계속 자랍니다. 🌱