DAY 30데이터와 튜닝·배치와 최적화

여러 예제를 함께 보기

한 문장씩 배우는 방식과 묶어서 배우는 방식을 비교합니다.

18–20분 조작형 실험 확인 퀴즈

01 / UNDERSTAND

핵심 개념

미니배치는 여러 학습 예제의 손실과 기울기를 묶어 한 번의 파라미터 갱신에 사용합니다. 배치 크기는 계산 효율과 기울기의 흔들림에 영향을 줍니다.

에폭은 전체 훈련 데이터를 한 번 훑는 단위입니다. 스텝은 보통 한 배치로 계산한 뒤 한 번 갱신하는 단위이므로 둘을 혼동하지 않습니다.

에폭은 데이터 한 바퀴, 스텝은 한 번의 갱신입니다.

02 / WORKED EXAMPLE∑

학습 예제가 100개이고 배치 크기가 10이면 한 에폭에 배치가 10개입니다.

각 배치에서 손실 기울기를 계산합니다.

배치마다 한 번 갱신하면 한 에폭에 10스텝입니다.

03 / EXPLORE

배치 크기를 바꿔 한 에폭의 스텝 수가 어떻게 달라지는지 보세요.

LIVE EXPERIMENT · 06

훈련검증

학습 스텝45배치 크기10

YOUR NOTES · 3 MIN

무엇을 조작했나요? 어떤 숫자나 그림이 달라졌나요? 그 이유는 무엇인가요?

메모는 이 브라우저에만 저장됩니다.

04 / CHECK YOURSELF

100개 예제와 배치 10개를 한 번씩 쓰면 갱신 스텝은?

오늘의 작은 숫자 예제는 이 강의를 위해 작성했습니다. 아래 자료에서 실제 연구와 구현 설명을 확인할 수 있습니다.

이 자료는 개념 학습용입니다. 실제 모델의 구조와 학습 설정은 구현마다 다를 수 있습니다.