🔍 레슨

RAG vs 긴 컨텍스트 vs 파인튜닝

내 데이터를 AI에 넣는 세 가지 길. 비용·신선도·정확도로 고르는 기준.

① 오늘의 미션

"우리 가게 지식을 AI가 알게 하려면?"

우리동네 반찬가게엔 AI가 모르는 게 많아요 — 오늘의 반찬 목록, 알레르기 안내, 단골 배송 규칙, 사장님만 아는 레시피 메모까지. 손님 챗봇이 이걸 척척 답하게 하려면, 이 가게 지식을 AI에 넣어야 해요.

방법은 크게 세 가지. 지난 레슨에서 본 RAG의 한계를 딛고, 오늘은 세 길을 견적 비교하듯 나란히 놓고 고르는 법을 배웁니다.

설명을 따라 진행하면, 여기서 직접 쳐보게 돼요 👇

~/my-shop

$ _

📚 「RAG vs 긴 컨텍스트 vs 파인튜닝」 레슨 내용 전체 텍스트로 훑어보기

"우리 가게 지식을 AI가 알게 하려면?"

방법은 크게 세 가지. 지난 레슨에서 본 RAG의 한계를 딛고, 오늘은 세 길을 견적 비교하듯 나란히 놓고 고르는 법을 배웁니다.

사장님이 가진 '반찬 정보 100장'을 AI가 답에 쓰게 만드는 방법, 크게 몇 갈래로 나뉠까요?

맞아요. 크게 세 길이에요. ①RAG(필요한 조각만 찾아서 보여주기) ②긴 컨텍스트(통째로 책상에 올리기) ③파인튜닝(모델 자체를 재교육하기). 오늘은 셋을 비교해서 '우리 가게엔 뭐가 맞나'를 고릅니다.

세 길을 '반찬 정보를 손님 챗봇에 어떻게 쓰나'로 풀면 이래요.

한 줄 정의

· RAG — 질문이 오면 관련 조각만 검색해 그때그때 보여줘요. 정보가 바뀌면 문서만 갈면 끝, 최신 유지가 쉬워요.
· 긴 컨텍스트 — 반찬 정보 전부를 통째로 책상(컨텍스트 창)에 올려요. 단순하지만 매번 다 올리니 비용·속도 부담.
· 파인튜닝 — 가게 지식으로 모델 자체를 재교육해요. 무겁고 비싸고, 드물게만 정답인 길.

핵심 감각: 대부분의 가게는 RAG나 긴 컨텍스트로 충분하고, 파인튜닝까지 가는 경우는 흔치 않아요.

가장 자주 고민하는 두 길부터 나란히 봐요. 반찬 정보가 '오늘의 메뉴'처럼 자주 바뀐다고 칠게요.

🔍 RAG (조각 검색): 질문마다 관련 반찬 정보만 골라 보여줘요. 정보 100장이라도 매번 몇 장만 올리니 가볍고, 메뉴가 바뀌면 그 문서만 교체하면 끝.

📚 긴 컨텍스트 (통째로): 반찬 정보 100장을 전부 한 번에 올려요. 만들기는 간단하지만, 매 질문마다 100장을 다시 올리니 토큰·비용이 커지고 느려질 수 있어요.

어떤 사장님이 "우리 가게 챗봇은 파인튜닝으로 가야겠다"고 합니다. 이게 좋은 선택일 가능성이 높은 경우는 뭘까요?

맞아요. 파인튜닝은 지식 주입보다 '말투·형식·행동 습관'을 굳히는 데 강해요. 게다가 한 번 구우면 정보 갱신이 어려워서, 자주 바뀌는 메뉴엔 최악이에요. 자주 바뀌면 RAG, 다 넣어도 되면 긴 컨텍스트가 보통 정답이에요.

헷갈리면 Claude에게 우리 상황으로 비교를 시켜보면 돼요. 가게 폴더에서 Claude를 켜고 물어봐요.

우리동네 반찬가게 손님 챗봇을 만들 거야. 반찬 메뉴는 매주 바뀌어. RAG·긴 컨텍스트·파인튜닝 중 뭐가 맞을지 짧게 비교해줘

— 우리 가게 상황을 주고 세 길을 비교시켜요

이렇게 '내 진짜 조건'을 주고 비교를 받으면, 추상적 설명보다 훨씬 빨리 감이 와요.

고를 때 머릿속으로 굴리는 세 질문이 있어요. 위에서부터 답해 내려가면 길이 정해져요.

반찬가게용 결정 트리

① 문서량이 많은가? (반찬 정보 수백 장 이상)
→ 많으면: 통째로 올리면 비싸요. RAG로.
→ 적으면 (몇 장~수십 장): 다음 질문으로.
② 자주 바뀌는가? (메뉴·가격이 주마다)
→ 자주 바뀌면: 갱신 쉬운 RAG.
→ 거의 안 바뀌면: 간단한 긴 컨텍스트.
③ 말투·형식을 깊이 굳혀야 하고 예산이 넉넉한가?
→ 그렇다면: 드물게 파인튜닝도 고려.

정리하면 문서량·갱신 빈도·예산 세 축으로 고르는 거예요.

사장님이 단골 배송 규칙을 정리한 '안내문 3장'이 있어요. 1년에 한두 번 바뀔까 말까예요. 손님이 배송 규칙을 물으면 답하는 챗봇을 가장 간단히 만들려면?

맞아요. 문서가 적고(3장) 거의 안 바뀌면 굳이 검색을 붙일 필요 없이 긴 컨텍스트가 제일 간단해요. RAG는 문서가 많거나 자주 바뀔 때 빛나고, 파인튜닝은 이런 규칙 3장에는 과해요(돈·시간 낭비).

세 길을 고를 때 가장 먼저 따지는 건, 넣을 자료가 책상에 다 올라가느냐 — 즉 얼마나 많으냐예요. 이 기준을 한 단어로 뭐라 부를까요?

정답! 문서량이에요. 문서량이 많으면 통째로 못 올리니 RAG, 적으면 그다음으로 갱신 빈도를 따져 RAG냐 긴 컨텍스트냐를 정해요. 마지막에 예산·말투 요구가 크면 파인튜닝.

이제 결정 트리를 Claude에게 대신 굴려보게 해요. 내 조건 세 가지(문서량·갱신·예산)를 주면 길을 짚어줘요.

반찬가게 챗봇용 자료가 알레르기 안내문 2장이고 거의 안 바뀌어. 예산도 빠듯해. RAG·긴 컨텍스트·파인튜닝 중 뭘 추천해?

— 조건을 주고 결정 트리로 추천받아요

결정 트리를 외우지 않아도, 조건만 정확히 주면 Claude가 같이 골라줘요. 사장님이 할 일은 '내 조건을 솔직히 말하기'.

가게 지식을 AI에 넣을 때, 길을 고르는 생각의 순서를 정렬해보세요.

문서량 → 갱신 빈도 → 예산 순으로 좁혀 길을 골라요. 대부분 RAG나 긴 컨텍스트에서 끝나고, 파인튜닝은 마지막에 드물게 등장해요.

한 줄로

가게 지식을 AI에 넣는 길은 세 가지 — RAG(많고 자주 바뀜) · 긴 컨텍스트(적고 안 바뀜) · 파인튜닝(드문 정답, 말투·형식). 문서량·갱신 빈도·예산 세 축으로 고르면 돼요.

다음 레슨에서

그런데 가게 정보가 아니라 '바깥 세상' 정보가 필요하면? Claude가 직접 웹을 검색하고 읽어오게 하는 법 — '웹검색·리서치' 레슨에서 풉니다. 가게는 계속 자랍니다. 🌱