🤖 레슨

신뢰성·가드레일 — 믿고 맡겨도 되나

① 오늘의 미션

자동화가 무서워졌어요

'우리동네 반찬가게'에 자동 직원들이 늘었어요. 그런데 환불 처리까지 자동으로 돌리려니 겁이 나요 — 실수로 100만원을 환불해버리면? 자는 동안 돌면 막을 사람도 없죠.

오늘은 자동화에 '안전 울타리(가드레일)'를 쳐서 안심하고 맡기는 법을 배워요.

설명을 따라 진행하면, 여기서 직접 쳐보게 돼요 👇

~/my-shop

$ _

📚 「신뢰성·가드레일 — 믿고 맡겨도 되나」 레슨 내용 전체 텍스트로 훑어보기

자동화가 무서워졌어요

오늘은 자동화에 '안전 울타리(가드레일)'를 쳐서 안심하고 맡기는 법을 배워요.

스케줄드 에이전트가 내가 없을 때 알아서 일해요(환불 처리 등). 사고 없이 믿고 맡기려면 무엇이 필요할까요?

맞아요. 가드레일 = AI가 넘으면 안 되는 '안전 울타리'예요. '10만원 넘는 환불은 사람 승인', '상품 데이터 삭제 금지'처럼, 미리 선을 그어두는 거예요. 👇

고속도로 가드레일처럼, 사고가 나도 큰일로 안 번지게 막아줘요.

🚧 한계선 (제한)

"한 번에 100건 넘게 알림 보내지 마", "상품·주문 데이터는 삭제 금지"처럼 위험한 행동을 미리 막아둬요.

✋ 사람 승인 (HITL)

되돌리기 어려운 일(큰 금액 환불·대량 발송)은 사람의 '승인' 한 번을 꼭 거치게 해요. (앞에서 배운 HITL!)

📋 기록 (로그)

"언제 어떤 환불·주문 처리를 했나"를 전부 남겨둬요. 문제가 생겨도 어디서 어긋났는지 바로 추적할 수 있어요.

가게 폴더로 들어가, 환불 자동화에 '10만원 넘으면 사람 승인' 가드레일을 걸어요.

cd my-shop — 가게 폴더로 들어가요

환불은 10만원 넘으면 사람 승인 받게 가드레일 걸어줘 — 환불 자동화에 한계선을 정해요

이제 환불 자동화에 안전선이 그어졌어요. 작은 건 자동, 큰 건 멈춰요.

가드레일을 걸어둔 상태에서 15만원 환불 요청이 들어왔어요. 어떻게 될까요?

맞아요. 한계선(10만원)을 넘었으니 자동 처리를 멈추고 사람을 호출해요. 직접 확인해볼까요? 👇

큰 환불 요청이 들어왔을 때 가드레일이 동작하는 모습을 봐요.

15만원 환불 요청 들어왔어, 처리해줘 — 큰 금액 환불 처리를 시켜봐요

자동으로 안 나가고 멈춰서 사람을 불렀어요. 가드레일이 사고를 막은 거예요.

가드레일의 세 장치 중, 되돌리기 어려운 일에 사람을 끼우는 걸 뭐라 했죠? (영문 약자)

맞아요. 가드레일의 핵심 장치 하나가 바로 앞에서 배운 HITL(사람 승인)이에요. 가드레일은 HITL을 포함한 더 넓은 안전망이죠.

세 번째 장치 '기록'을 확인해요. 무슨 일이 있었는지 로그로 추적할 수 있어요.

cat logs/refund.log — 환불 처리 기록을 확인해요

언제 무엇을 했는지 다 남아 있어요. 문제가 생겨도 바로 추적돼서 안심이죠.

가드레일이 걸린 환불 자동화의 흐름을 맞춰보세요. (↑↓로 정렬)

정확해요! 요청 → 한계선 확인 → (초과 시) 사람 승인 → 기록. 세 장치가 한 흐름에 다 들어 있죠.

처음부터 모든 일을 가드레일 걸고 자동화하는 게 맞을까요?

맞아요. 작고 안전한 일(재고 알림)부터 자동화 → 며칠 지켜보며 가드레일 보강 → 환불 처리 같은 큰 일로 점점 넓혀가는 게 정석이에요.

결국 신뢰는

자동화의 신뢰는 'AI가 똑똑하냐'가 아니라 '잘못돼도 안전하냐'에서 나와요. 한계선·사람 승인·기록 — 이 셋만 깔아두면 자는 동안 도는 자동화도 믿고 맡길 수 있어요.

한 줄로

가드레일 = 한계선 + 사람 승인 + 기록. 이 셋을 깔아두면, '자는 동안 도는 반찬가게 자동화'도 안심하고 맡길 수 있어요.

다음 레슨에서

정해진 순서만 도는 자동화의 한계를 넘어, 상황을 보고 스스로 길을 정하는 Dynamic Workflows(에이전트 군단)를 만나봐요. 🌱