DAY 44실제 응용·환각과 근거
그럴듯한 오류
유창한 답과 확인된 사실을 구분합니다.
01 / UNDERSTAND
핵심 개념
언어 모델은 그럴듯한 문장을 생성해도 사실과 맞지 않을 수 있습니다. 이를 흔히 환각이라고 부릅니다. 자신 있는 말투도 정확성을 보장하지 않습니다.
확인 가능한 질문에는 근거 문서를 찾고, 인용이 실제 주장을 뒷받침하는지 살펴야 합니다. 출처를 붙이는 것만으로 오류가 사라지지는 않습니다.
유창함과 사실성은 별도로 검증합니다.
02 / WORKED EXAMPLE∑
작은 숫자로 따라가기
01
모델이 ‘논문 A는 2020년에 나왔다’고 답합니다.
02
원문 메타데이터에서 실제 날짜를 확인합니다.
03
날짜가 다르면 문장 자체가 유창해도 틀린 답입니다.
03 / EXPLORE
직접 실험해 보기
답변과 근거 카드의 내용을 대조해 뒷받침되지 않는 문장을 찾으세요.
LIVE EXPERIMENT · 08
답의 근거를 직접 고르기
질문: 환불 기간은 며칠인가요?
선택한 근거
구매 후 14일 이내에 환불을 요청할 수 있습니다.
YOUR NOTES · 3 MIN
메모는 이 브라우저에만 저장됩니다.오늘의 변화를 내 말로 설명하기
무엇을 조작했나요? 어떤 숫자나 그림이 달라졌나요? 그 이유는 무엇인가요?
04 / CHECK YOURSELF
오늘의 이해 확인
출처가 달린 답변은 항상 정확한가요?
FURTHER READING
개념 원문
오늘의 작은 숫자 예제는 이 강의를 위해 작성했습니다. 아래 자료에서 실제 연구와 구현 설명을 확인할 수 있습니다.
Retrieval-Augmented Generation for Knowledge-Intensive NLP TasksLewis et al. (2020)이 자료는 개념 학습용입니다. 실제 모델의 구조와 학습 설정은 구현마다 다를 수 있습니다.