반찬가게를 차리기로 했어요
우리동네 반찬가게를 열기로 마음먹었어요. 메뉴판도, 안내문도, 홍보 글도 써야 하는데 —
혼자 다 하긴 벅차죠. 그래서
AI라는 직원을 한 명 고용하기로 했어요.
그런데 이 직원, 도대체 어떻게 글을 척척 써내는 걸까요?
오늘은 채용 첫날 — 이 직원의 머릿속이 어떻게 돌아가는지 정확히 들여다봅니다.
반찬가게 안내문을 써달라고 하면, AI는 머릿속에서 무슨 일을 할까요? 가장 가까운 걸 골라보세요.
맞아요. AI는 글을 통째로 떠올리지도, 어딘가서 찾아오지도 않아요. 지금까지 쓴 글을 보고 '다음에 올 가장 그럴듯한 단어'를 하나 고르는 일을, 한 단어씩 끝까지 반복할 뿐이에요. 이게 오늘의 전부입니다.
AI 직원의 정식 이름은 LLM(Large Language Model, 거대 언어 모델)이에요. 이름은 거창하지만 하는 일은 한 줄로 끝나요.
LLM이 하는 일 (전부)
지금까지의 글 →
다음에 올 단어 하나를 예측 → 그 단어를 붙임 →
늘어난 글로
또 다음 단어를 예측 → … 반복
놀랍게도 이 단순한 일을 어마어마한 양의 글로 연습시키면, 안내문도 쓰고 메뉴 설명도 짓는 직원이 돼요.
직접 그 '예측'을 한번 해볼까요 — 아래는 여러분이 LLM이 되는 시간이에요.
가게 안내문 문장이 이렇게 시작합니다. 여러분이 LLM이라면 다음 단어로 뭘 고를까요?
우리동네 반찬가게가 드디어 ___
거의 모두 '오픈했습니다'를 떠올렸을 거예요. '냉장고를'도 문법은 되지만 어색하고, '달팽이가'는 뜬금없죠. 여러분이 방금 한 일이 정확히 LLM이 하는 일 — 앞 문맥을 보고 가장 그럴듯한 다음 말을 고르기예요.
이번엔 조금 더 미묘해요. 다음 단어로 가장 그럴듯한 건?
오늘의 인기 반찬은 매콤한 ___
'제육볶음입니다'가 자연스럽죠. 여기서 핵심 — 여러분은 '반찬', '매콤한'이라는 앞 단어를 단서로 답을 좁혔어요. LLM도 똑같이 앞 문맥 전체를 보고 다음 단어의 후보를 좁혀요. 단어가 멀리 떨어져 있어도요.
그런데 방금 '매콤한 ___' 다음에 떠오른 게 사람마다 달랐을 거예요. 제육볶음, 닭볶음탕, 어묵볶음… 다 그럴듯하죠.
LLM은 '하나'를 정하지 않아요
LLM은 다음 단어로
여러 후보에 각각 확률을 매겨요. 마치 이렇게요 —
· 제육볶음
높음
· 닭볶음탕 중간
· 어묵볶음 조금
· 우산 거의 0
이렇게 매겨진 후보별 확률을 확률분포라고 해요. LLM은 이 분포에서 단어 하나를 골라 붙이고, 또 다음 분포를 계산해요.
그래서 같은 질문에도 답이 매번 조금씩 달라지는 거예요.
후보에 확률이 매겨졌으면, 그중 어떻게 하나를 고를지를 정하는 손잡이가 있어요. 이름은 temperature(온도)예요.
온도를 높이면 어떻게 될까요?
온도를 높이면 확률 낮은 후보도 종종 뽑혀 답이 다양·창의적이 되고(가끔 엉뚱해지기도), 낮추면 1등 단어만 골라 안정·일관적이 돼요. 반찬가게 홍보 문구처럼 톡톡 튀게 쓸 땐 높게, 영업시간 안내처럼 정확해야 할 땐 낮게 — 상황에 맞춰 조절하는 손잡이예요.
가장 좋은 확인법은 AI 직원에게 직접 물어보는 것이에요. 가게 폴더에서 Claude를 켜고 대화해봐요.
너는 글을 쓸 때 다음 단어를 하나씩 예측하면서 만드는 거야? 우리동네 반찬가게 안내문을 예로 쉽게 설명해줘 — AI 자체에 대한 질문도 AI에게 하면 돼요
이렇게 AI 자체에 대한 궁금증도 AI에게 물어보면 돼요. 모르는 개념이 나올 때마다 쓸 수 있는 습관이에요.
LLM이 안내문을 멋지게 써내면, 마치 가게를 이해하는 똑똑한 존재처럼 느껴져요. 진짜 핵심은 뭘까요?
여기가 오늘의 가장 중요한 통찰이에요. LLM의 능력은 '이해'나 '똑똑함'이 아니라 패턴이에요 — 수많은 글에서 익힌 패턴으로 다음 단어를 기막히게 잘 고르는 것. 그래서 그럴듯하지만 틀린 말을 자신 있게 하기도 하죠. 이 성질을 알면 AI를 훨씬 잘 부릴 수 있어요.
오늘 배운 LLM의 정체를 한 단어로 채워볼까요. LLM이 글을 만드는 방식은, 다음에 올 무엇을 계속 예측하는 거였죠?
정답! LLM은 다음 단어(정확히는 토큰)를 예측하는 단순한 일을, 끝까지 반복할 뿐이에요. 거창한 마법이 아니라 예측의 반복 — 이 한 줄이 오늘의 전부예요.
이제 정체를 알았으니 직원을 한번 부려봐요. 방금 배운 '다음 단어 예측'으로 짧은 홍보 문구를 만들어 달라고 해봐요.
우리동네 반찬가게 오픈 홍보 문구 한 줄만 짧고 통통 튀게 써줘 — 내 말로 시켜보는 첫 경험
방금 이 한 줄도, 직원이 단어를 하나씩 예측하며 이어 만든 거예요. 마법이 아니라 오늘 배운 그 원리 그대로죠.
한 줄로
LLM(AI 직원)은
지금까지의 글을 보고 다음 단어를 예측하는 일을 끝까지 반복할 뿐이에요.
후보마다
확률을 매기고,
temperature로 골라내는 성격을 조절하죠.
똑똑해서가 아니라
패턴을 잘 익혔기 때문이에요.
다음 레슨에서
그런데 이 직원은 글을 글자가 아니라
토큰이라는 단위로 세요. 긴 대화에서 앞부분을 잊는 이유도 여기 숨어 있고요.
다음
'토큰과 컨텍스트 — AI가 글을 세는 단위'에서 그 비밀을 풉니다. 가게는 계속 자랍니다. 🌱