🌱 레슨
학습과 추론 — AI는 언제 배우고 언제 답하나
"어제 뉴스 알아?"에 모른다고 하는 이유. 학습 컷오프와 추론의 차이를 알면 AI의 빈틈이 보여요.
① 오늘의 미스터리
"그건 모르는데요…?"
가게 메뉴를 정하다가 Claude에게 물었어요. "어제 발표된 우리 동네 배달앱 수수료 인하 소식 알아?"
Claude는 멀쩡히 반찬 레시피는 술술 답하면서, 어제 뉴스만은 모른다고 합니다.컨텍스트(책상)에 안 올려서가 아니에요. 오늘은 — AI가 언제 배우고(학습) 언제 답하는지(추론), 이 두 시간대의 비밀을 풉니다.
설명을 따라 진행하면, 여기서 직접 쳐보게 돼요 👇
$ _
📚 「학습과 추론 — AI는 언제 배우고 언제 답하나」 레슨 내용 전체 텍스트로 훑어보기
"그건 모르는데요…?"
가게 메뉴를 정하다가 Claude에게 물었어요. "어제 발표된 우리 동네 배달앱 수수료 인하 소식 알아?"
Claude는 멀쩡히 반찬 레시피는 술술 답하면서, 어제 뉴스만은 모른다고 합니다.컨텍스트(책상)에 안 올려서가 아니에요. 오늘은 — AI가 언제 배우고(학습) 언제 답하는지(추론), 이 두 시간대의 비밀을 풉니다.
내가 지금 질문을 던지는 이 순간, AI는 답을 만들려고 새로 공부를 할까요?
맞아요. AI는 과거에 한 번 크게 공부(사전학습)를 끝내둔 상태예요. 지금 질문할 때는 그 외운 지식으로 답을 만들 뿐(추론), 새로 배우는 게 아니에요. 이 둘은 완전히 다른 시간대의 일이에요.
AI의 인생에는 시간대가 둘 있어요. 둘을 헷갈리면 AI가 이상하게 느껴져요.
① 사전학습 (과거에 한 번)
세상의 방대한 글을 읽으며 '말의 패턴'을 익힌 단계. 공장에서 직원을 교육시킨 시기예요. 이미 끝났고, 답할 때 다시 일어나지 않아요.② 추론 (지금, 답할 때)
내 질문을 받고 외운 지식으로 답을 지어내는 단계. 가게에 출근한 직원이 손님 질문에 답하는 순간이에요. 여기선 배우지 않아요.그래서 AI는 '교육은 끝났지만 출근은 매일 하는 직원'이에요.
사전학습은 '어느 날짜까지의 글'로 끝나요. 이걸 학습 컷오프라고 불러요. 그럼 컷오프 이후에 생긴 일은 AI가 어떻게 될까요?
맞아요. 컷오프 이후의 일은 공부한 책에 아예 없던 내용이라 모릅니다. 어제 발표된 배달앱 뉴스를 못 맞힌 이유가 이거예요 — AI의 '교과서'가 거기서 멈췄기 때문이에요.
내 AI의 교과서가 언제까지인지 본인에게 직접 물어보면 돼요. 가게 폴더에서 Claude를 켜고 대화해봐요.
너는 어제 우리 동네에서 생긴 뉴스를 알 수 있어? 학습 컷오프가 뭔지 쉽게 설명해줘 — 학습 컷오프 개념을 대화로 확인해요이렇게 AI의 한계도 AI에게 물어 확인하면 돼요. 그리고 마지막 한마디 — "웹검색·문서를 주면 된다"가 오늘의 두 번째 열쇠예요.
"그럼 내가 대화로 알려주면 되잖아!" 맞아요. 어제 뉴스를 직접 말해주면 그 대화에선 똑똑하게 답해요. 그런데 —
세션이 끝나면 사라진다
대화창에서 가르친 내용은 그 세션 동안만 책상(컨텍스트) 위에 있어요.
창을 닫고 새 대화를 켜면 — AI는 그걸 배운 적 없는 처음 상태로 돌아와요.대화로 알려준 건 '공부(학습)'가 아니라 '잠깐 책상에 올려둔 메모'예요. 직원의 머릿속에 영구히 새겨지는 게 아니에요.
많은 사람이 '대화로 가르치면 AI가 영구히 똑똑해진다'고 오해해요. 사실은 이렇게 달라요.
🗒️ 대화로 알려주기 (메모): 이번 세션에만 통해요. 창을 닫으면 사라지고, 다른 사람·다음 대화엔 영향이 없어요. 우리가 매일 하는 게 이거예요.
🏭 파인튜닝 (재교육): 모델 자체를 다시 공부시켜 영구히 바꾸는 큰 작업. 별도 비용·데이터·과정이 필요해요. 대화 몇 마디로는 절대 일어나지 않아요.
그럼 어제 배달앱 뉴스 같은 '컷오프 이후 정보'를 AI가 답에 반영하게 하려면, 가장 현실적인 방법은?
맞아요. 모델을 바꾸는 게 아니라 '책상에 최신 자료를 올려주는' 방식이에요. ① 웹검색으로 지금 정보를 가져오게 하거나, ② 뉴스·문서를 직접 첨부해 읽게 하면 돼요. 학습이 아니라 '재료 공급'인 셈이죠.
AI가 모르는 최신 정보를 답에 쓰게 하는 두 보완책이 있어요. 하나는 문서를 직접 주는 것, 다른 하나는 인터넷에서 지금 찾아오게 하는 것 — 이 두 번째를 뭐라고 부를까요?
정답! 웹검색이에요. 모델을 재교육하는 게 아니라, 매번 그때그때 필요한 자료를 책상에 올려주는 방식이라 빠르고 안전해요. 문서를 직접 첨부하는 것도 같은 원리예요.
이번엔 컷오프 너머를 웹검색으로 메우는 경험을 해봐요. 가게 메뉴에 쓸 최신 정보를 Claude에게 찾아달라고 부탁해봅니다.
요즘 우리 같은 동네 반찬가게가 자주 쓰는 배달 수단이 뭔지 웹에서 한번 찾아서 알려줄래? — 최신 정보는 검색해서 가져오게 부탁해요핵심은 "AI가 새로 배운 게 아니라, 자료를 받아 읽은 것"이라는 점이에요. 컷오프의 빈틈을 메우는 가장 실전적인 습관이에요.
한 줄로
AI는 과거에 한 번 공부(사전학습)를 끝내고, 지금은 외운 걸로 답할 뿐(추론)이에요.
그래서 컷오프 이후는 모르고, 대화로 가르친 건 세션이 끝나면 사라져요(파인튜닝 아님).
모르는 최신 정보는 웹검색·문서 제공으로 책상에 올려주면 돼요.다음 레슨에서
그런데 AI는 모르면서도 가끔 그럴듯한 거짓말을 자신 있게 해요. 왜 그럴까요? 다음 레슨 "할루시네이션은 왜 생길까"에서 그 정체를 풉니다. 가게는 계속 자랍니다. 🌱