AUGUST FEATURE

AI NEWSLETTER

AI 할루시네이션의
이해 및 출처 확인 방법

생성형 AI는 유창한 답을 만들지만 사실과 다른 정보나 출처가 포함될 수 있습니다. 이번 호에서는 할루시네이션의 의미와 발생 이유부터 출처 확인 순서까지 살펴봅니다.

할루시네이션 이해

발생 이유

출처 확인 5단계

This Issue

할루시네이션은 무엇인가요?

AI가 실제 사실이나 근거와 일치하지 않는 내용을 그럴듯하게 생성하는 현상입니다. 잘못된 숫자뿐 아니라 존재하지 않는 출처·인명·제도도 포함될 수 있습니다.

이런 내용을 확인할 수 있어요

• 할루시네이션은 어떤 형태로 나타날까?
• AI의 답변은 왜 그럴듯하게 보일까?
• 출처는 어디까지 확인해야 할까?

TRY THIS WEEK

AI가 제시한 출처 하나를 직접 열어 제목 → 발행기관 → 작성일 → 본문이 답변과 일치하는지 확인해 보세요.

01

UNDERSTANDING HALLUCINATION

WHAT IT IS

AI 할루시네이션이란 무엇인가요?

AI 할루시네이션(Hallucination)은 언어 모델이 실제 사실이나 근거와 일치하지 않는 내용을 그럴듯하게 생성하는 현상입니다. 잘못된 숫자, 존재하지 않는 출처, 원문과 다른 요약 등으로 나타날 수 있습니다.

사실 오류숫자·날짜·인물·제도 등을 다르게 제시

출처 생성없는 문서·논문·기사·링크를 제시

맥락 왜곡실제 자료를 원문과 다른 의미로 요약

핵심문장의 자연스러움은 사실 여부를 보장하지 않음

HOW IT HAPPENS

AI 할루시네이션은 왜 발생할까요?

언어 모델은 정답을 조회하는 방식이 아니라, 문맥과 학습한 언어 패턴을 바탕으로 다음 표현을 생성합니다.

참고 · OpenAI 「언어 모델이 환각을 일으키는 이유」 →

그럴듯한 문장 생성

문맥에 맞는 표현을 만들기 때문에 틀린 내용도 자연스럽게 보일 수 있습니다.

불확실성 속 추측

정보가 부족하거나 질문이 모호하면 추측성 내용이 포함될 수 있습니다.

01 질문과 문맥 파악

입력된 질문과 앞선 대화의 맥락을 반영합니다.

02 다음 표현 생성

학습한 패턴을 바탕으로 이어질 가능성이 높은 표현을 만듭니다.

03 오류 포함 가능

근거가 부족하면 사실과 다른 세부정보가 포함될 수 있습니다.

VERIFY

02

10-SECOND CHECK

10초 확인 퀴즈

확인되지 않은 수치는 어떻게 다룰까요?

상황 · 국내 건설업 평균 이직률을 AI에게 물었지만, 공식 출처를 확인하지 못했습니다. 두 답변이 불확실한 정보를 어떻게 표현하는지 살펴보세요.

?

선택 기준

출처·기준 시점·조사 대상이 있는지, 확인하지 못한 범위와 확인 방법을 분명히 밝히는지 살펴보세요.

01근거

출처가 제시되었는가?

02범위

기준 시점과 대상이 분명한가?

03다음 행동

확인 방법이 구체적인가?

※ 아래 수치는 설명을 위해 만든 미검증 예시이며, 실제 통계가 아닙니다.

YOUR CHOICE A 또는 B를 선택하면 판단 기준을 확인할 수 있습니다.

03

SOURCE CHECK

SOURCE CHECK STEPS

AI가 제시한 출처, 이렇게 확인합니다

출처가 제시됐다는 사실만으로 내용이 확인된 것은 아닙니다. 링크를 직접 열어 다음 다섯 항목을 순서대로 살펴봅니다.

01

출처 존재 여부

링크가 열리고 해당 자료가 실제 기관·매체에 게시되어 있는지 확인합니다.

TIP · 검색 결과 제목만 보지 말고 원문을 직접 여세요.

02

제목·작성자·기관 대조

AI가 적은 문서명·작성자·발행기관이 원문 정보와 같은지 대조합니다.

TIP · 링크가 맞아도 제목이나 저자가 다를 수 있습니다.

03

작성일·기준 시점 확인

자료의 작성일과 통계·제도의 기준 시점이 질문 범위에 맞는지 확인합니다.

TIP · 법·제도·통계는 최신 공식 자료를 우선 확인하세요.

04

인용 내용·원문 비교

원문이 AI 답변의 주장과 숫자를 실제로 뒷받침하는지 본문까지 확인합니다.

TIP · 같은 문장도 앞뒤 맥락에 따라 의미가 달라질 수 있습니다.

05

중요 내용 교차 확인

공식 자료를 우선하고, 필요하면 독립적인 다른 출처와 결론을 대조합니다.

TIP · 서로 다른 출처가 같은 결론을 뒷받침하는지 살펴보세요.

04

PRACTICAL TOOLKIT

WORKFLOW

출처 확인 업무 적용 절차

AI 답변에서 근거가 필요한 항목을 먼저 표시한 뒤, 출처를 열어 원문과 대조합니다.

Step 1

확인할 주장 표시

숫자·날짜·인명·제도·인용·외부 사례 등 근거가 필요한 항목을 표시합니다.

Step 2

출처 열고 원문 대조

제목·발행기관·작성일과 인용 내용이 원문과 일치하는지 확인합니다.

Step 3

확인 결과 반영

확인된 출처는 함께 제시하고, 확인하지 못한 내용은 삭제하거나 ‘미확인’으로 표시합니다.

COPY & USE

출처 확인 프롬프트

방금 작성한 답변에서 사실 확인이 필요한 내용을 표로 정리해줘.

1. 숫자·날짜·고유명사·법/제도·인용·외부 사례를 구분해줘.
2. 각 항목의 출처명·링크·기준 시점을 표시해줘.
3. 검색·원문 확인을 실제로 수행했는지 밝혀줘.
4. 확인하지 못한 내용은 '미확인'으로 표시해줘.
5. 사실과 해석·추론을 구분해줘.

출처·문서명·링크를 새로 지어내지 말고,
확인되지 않은 내용은 단정하지 말아줘.

05

EXAMPLE & REFERENCES

EXAMPLE & GUIDE

출처가 제시되어도 원문 확인이 필요합니다

AI가 제시한 출처는 실제 자료와 제목·저자·내용이 다를 수 있습니다. 출처의 존재 여부뿐 아니라, 해당 원문이 답변의 주장을 뒷받침하는지도 확인합니다.

ITWORLD · 2025.05.29

Claude의 인용 정보 오류 사례

Claude를 활용한 인용 형식화 과정에서 실제 자료의 제목과 저자 정보가 잘못 생성되어 법원 제출 문서에 포함됐습니다. 링크가 실제 자료를 가리키더라도 제목·저자·내용이 일치하는지 확인해야 함을 보여줍니다.

사례 기사 보기 →

전자신문 · 2025.10.08

Deloitte 정부 보고서의 가짜 인용 사례

호주 정부에 제출한 보고서에 존재하지 않는 학술 자료와 실제와 다른 판결문 인용이 포함돼, 출처 141건 중 14건이 문제로 확인돼 수정본을 다시 제출했습니다. AI가 정리한 출처도 존재 여부와 원문 일치 여부를 확인해야 함을 보여줍니다.

사례 기사 보기 →

06

INTERNAL AI USE

WORKPLACE GUIDE

사내 AI 활용 시 다음 사항을 확인해 주세요

AI는 자료 정리와 초안 작성에 유용합니다. 출처가 필요한 정보를 선별해 원문을 확인하고, 확인하지 못한 내용은 표시한 뒤 활용합니다.

이번 주 실천

AI 답변에 제시된 출처 1개를 직접 열어 확인해 보세요

1 링크와 문서 실재 여부 2 제목·기관·작성일 대조 3 원문이 답변을 뒷받침하는지 확인

THREE POINTS

업무 적용 전 확인할 세 가지

SOURCE
CHECK

01

입력 기준

개인정보·고객정보·기밀정보 등 민감한 내부정보는 입력하지 않습니다.

02

출처 확인

AI가 제시한 링크와 원문을 대조하고, 확인되지 않은 정보는 그대로 활용하지 않습니다.

03

사고 보고

보안 사고가 발생하면 즉시 정보보호센터에 보고합니다.

07