💬 레슨

할루시네이션·검증 — 그럴듯한 거짓말 거르기

① 오늘의 미션

AI는 가끔, 자신 있게 틀려요

Claude는 똑똑하지만 모를 때도 '가장 그럴듯한 말'을 당당하게 지어내요. 이걸 할루시네이션(환각)이라 해요. 오늘은 '우리동네 반찬가게'에 결제를 붙이며, AI가 지어낸 거짓을 직접 잡아내는 법을 익힙니다.

특히 돈·결제가 걸리면 검증이 필수예요. 우측 터미널에서 직접 되물어 확인해 봅시다.

설명을 따라 진행하면, 여기서 직접 쳐보게 돼요 👇

~/my-shop

$ _

📚 「할루시네이션·검증 — 그럴듯한 거짓말 거르기」 레슨 내용 전체 텍스트로 훑어보기

AI는 가끔, 자신 있게 틀려요

특히 돈·결제가 걸리면 검증이 필수예요. 우측 터미널에서 직접 되물어 확인해 봅시다.

"이 결제 라이브러리 쓰면 돼요"라고 Claude가 확신에 차서 알려줬어요. 어떻게 받아들여야 할까요?

맞아요. AI는 모를 때도 가장 그럴듯한 말을 자신 있게 지어내요 — 없는 라이브러리 이름, 틀린 수수료율, 가짜 API 주소처럼요. 말투가 당당하다고 사실은 아니에요. 👇

어떤 답은 그냥 써도 되고, 어떤 답은 꼭 검증해야 해요. 버튼으로 구분해보세요.

✅ 비교적 안전: 상품 설명 문구 다듬기 · 배너 카피 아이디어 · 색 조합 추천 · 레이아웃 정리.
화면으로 바로 확인 가능한 일.

⚠️ 꼭 검증: 결제 수수료율 · 배송비 계산 · 재고 숫자 · 법적 고지(반품 규정) · 외부 결제 API 주소.
"~라더라"는 반드시 원본으로 확인. 특히 돈·결제 관련. ✅

존재할 법한 이름의 결제 서비스를 붙여달라고 해볼게요. AI가 자신 있게 지어내는 모습을 직접 보세요.

우리 반찬가게에 'PayKwik'으로 결제 붙여줘 — 결제 연동을 시켰더니 — 당당하게 답함

자신감 넘치죠? 하지만 'PayKwik'은 실제로 없는 서비스일 수 있어요. 이게 바로 할루시네이션이에요.

이제 그 서비스 실제로 있어? 공식 문서 링크 줘. 확실하지 않으면 솔직히 말해라고 되물으려 해요. 무슨 일이 일어날까요?

맞아요. 출처를 되묻고 "확실하지 않으면 솔직히"라고 단서를 주면, AI가 한 번 더 검토해 잘못을 정정하는 경우가 많아요. 직접 되물어 볼까요? 👇

돈 관련이니 그냥 넘기지 말고 출처를 되물으세요. "확실하지 않으면 솔직히 말해"가 핵심 한마디예요.

그 결제 서비스 실제로 있어? 공식 문서 링크 줘. 확실하지 않으면 솔직히 말해줘 — 돈 관련 — 반드시 출처 확인

되물으니 바로 정정하죠? 검증 한 번이 가짜 결제로 가게가 망가지는 걸 막았어요.

AI가 정직하게 답하도록 유도하는 마법의 단서가 있어요. 빈칸을 채워 검증 프롬프트를 완성하세요.

좋아요! "확실하지 않으면 모른다고/솔직히 말해줘"를 붙이면, AI가 무리하게 지어내는 걸 줄이고 정직하게 답할 확률이 높아져요.

거창한 게 아니에요. 가게를 만들 때 이 셋만 몸에 붙이면 충분해요.

1️⃣ "출처 알려줘"

"이 결제 연동이 진짜 되는 방식이야? 공식 문서 링크 줘"라고 되물어요. 못 대면 의심.

2️⃣ 돈 걸린 숫자는 직접 한 번 더

수수료·배송비·재고처럼 돈이 걸린 숫자는 원본으로 교차 확인.

3️⃣ "확실해? 다시 검토해줘"

한 번 되물으면 스스로 틀린 부분을 잡기도 해요.

돈 걸린 숫자가 나오면 그냥 쓰지 말고 근거를 요구하세요. 직접 되물어 보세요.

토스페이먼츠 결제 수수료가 정확히 몇 %야? 공식 안내 근거랑 같이 알려줘. 모르면 모른다고 해

— 수수료 숫자 — 근거를 요구

숫자를 단정하지 않고 출처로 미루죠? 이런 답이 오히려 믿을 만한 답이에요.

AI가 중요한 답을 줬을 때의 검증 순서를 맞춰보세요. (↑↓로 정렬)

정확해요! 분류 → 출처 요구 → 정직 단서 → 직접 교차확인. 모든 답을 의심할 필요는 없지만, 돈·법·외부서비스는 꼭 이 단계를 거치세요.

다음 중 할루시네이션이 가장 위험한 경우는?

맞아요. 화면으로 바로 확인되는 일은 틀려도 금방 알아채요. 하지만 돈·법이 걸린 정보는 틀린 채로 손님에게 나가면 큰일이라, 꼭 검증해야 해요.

한 줄로

AI는 똑똑한 인턴이에요 — 가게 만드는 일은 잘하지만 가끔 자신 있게 틀려요. 다듬기는 믿고, 사실(특히 돈·결제)은 검증. 이 균형이 AI를 안전하게 쓰는 핵심이에요.

다음 레슨에서

그런데 Claude가 일하다 "이 파일 수정해도 될까요?"라며 멈춰 묻는 순간, 만나보셨죠? 다음은 '권한과 auto mode — 위험한 명령은 누가 막나' — AI에게 일을 어디까지 맡길지 정하는 검문소를 배웁니다. 🌱