📚 레슨
10. Deep Residual Learning (ResNet)
깊어질수록 왜 더 안 배울까 — Skip connections, gradient highways
① 이 논문의 질문
10. Deep Residual Learning (ResNet)
질문: 깊어질수록 왜 더 안 배울까
키워드: Skip connections, gradient highways
읽기 목표
이 레슨은 논문 전체를 요약 암기하는 대신, “어떤 병목을 봤고 어떤 아이디어로 뚫었는가”를 잡습니다.📚 「10. Deep Residual Learning (ResNet)」 레슨 내용 전체 텍스트로 훑어보기
10. Deep Residual Learning (ResNet)
질문: 깊어질수록 왜 더 안 배울까
키워드: Skip connections, gradient highways
읽기 목표
이 레슨은 논문 전체를 요약 암기하는 대신, “어떤 병목을 봤고 어떤 아이디어로 뚫었는가”를 잡습니다.다음 퀴즈로 넘어가기 전에 이 논문이 푸는 문제와 핵심 아이디어를 먼저 잡고 갑니다.
병목
깊어질수록 왜 더 안 배울까핵심 아이디어
residual connection은 층이 원래 입력에 “수정분”만 더하게 만든다키워드: Skip connections, gradient highways. 지금은 용어를 외우기보다 “무엇이 막혔고, 어떤 관점으로 풀었는가”를 먼저 잡으면 됩니다.
이 논문의 중심 아이디어에 가장 가까운 설명은?
맞습니다. 심화 학습에서는 점수보다 병목과 해결 아이디어를 먼저 잡아야 합니다.
깊은 네트워크 학습의 병목은 표현력보다 gradient 흐름일 수 있다
수츠케버 30을 따로 목차로 빼는 이유도 여기에 있습니다. 한 논문씩 보면 AI 발전사가 “기술 이름 나열”이 아니라 문제 해결의 연쇄로 보입니다.
이 논문을 지금의 Claude, Kimi, RAG, 에이전트 흐름으로 다시 읽어봅니다.
논문 당시의 문제: 깊어질수록 왜 더 안 배울까
오늘의 연결: Transformer의 residual stream을 이해하는 가장 좋은 선행 개념이다
이 아이디어를 AI 제품/에이전트/검색 시스템에 옮길 때 가장 먼저 확인할 것은?
정답입니다. 심화 학습의 목표는 멋진 용어 수집이 아니라, 내 문제의 병목을 정확히 보는 눈입니다.
빈칸을 채우며 오늘 논문을 한 문장으로 정리합니다.
좋습니다. 이제 이 논문은 제목이 아니라 하나의 문제 해결 렌즈로 기억하면 됩니다.