DAY 03학습의 출발점·기울기와 이동 방향
경사하강법의 한 걸음
손실 곡선 위에서 왜 기울기를 빼는지 눈으로 확인합니다.
01 / UNDERSTAND
핵심 개념
손실을 w에 대한 곡선 L(w)로 그리면 현재 위치에서 오른쪽으로 갈 때 손실이 늘지 줄지 알 수 있습니다. 그 방향을 나타내는 값이 기울기입니다.
경사하강법은 w ← w − 학습률 × 기울기를 반복합니다. 기울기가 음수면 오른쪽으로, 양수면 왼쪽으로 이동하여 손실이 낮은 쪽을 향합니다.
기울기는 방향, 학습률은 보폭을 정합니다.
02 / WORKED EXAMPLE∑
작은 숫자로 따라가기
01
이 예제의 손실 곡선은 L(w)=14/3 × (w−2)²입니다.
02
w=0.5에서 기울기는 -14이므로 오른쪽으로 움직여야 합니다.
03
학습률 0.05면 다음 w는 0.5−0.05×(-14)=1.2입니다.
03 / EXPLORE
직접 실험해 보기
w=0.5와 학습률 0.05를 맞춰 한 걸음 뒤 위치를 확인하세요.
LIVE EXPERIMENT · 01
손실 곡선을 걸어 보세요
YOUR NOTES · 3 MIN
메모는 이 브라우저에만 저장됩니다.오늘의 변화를 내 말로 설명하기
무엇을 조작했나요? 어떤 숫자나 그림이 달라졌나요? 그 이유는 무엇인가요?
04 / CHECK YOURSELF
오늘의 이해 확인
기울기가 -14일 때 작은 양의 학습률로 갱신하면 w는?
FURTHER READING
개념 원문
오늘의 작은 숫자 예제는 이 강의를 위해 작성했습니다. 아래 자료에서 실제 연구와 구현 설명을 확인할 수 있습니다.
Linear regression: Gradient descentGoogle Machine Learning Crash Course이 자료는 개념 학습용입니다. 실제 모델의 구조와 학습 설정은 구현마다 다를 수 있습니다.