Q질문: AI는 왜 없는 사실을 그럴듯하게 지어내요?

AI 챗봇의 바탕인 언어 모델은 질문을 받아도 사실을 하나하나 찾아보는 게 아니라, 지금까지의 글 다음에 올 법한 말을 하나씩 골라 이어 붙여요. 그래서 그럴듯한 말이 늘 맞는 말은 아니에요. AI가 사실이 아닌 내용을 자신 있게 말하는 것을 환각이라고 불러요.

이 문제는 연구실 밖에서도 여러 번 드러났어요. 2023년 3월 공개된 AutoGPT는 목표만 주면 알아서 일하는 AI로 주목받았지만, 환각과 끝없이 도는 실수도 함께 사람들 눈앞에 보여 줬어요¹. 2025년 10월 나온 Grokipedia는 AI가 쓴 백과사전인데, 출처가 없거나 잘못 인용한 내용이 있다는 지적을 받았어요².

그래서 연구자들은 지어내는 답을 줄이는 방법을 찾아 왔어요. 2020년 5월 나온 RAG 논문은 AI가 답하기 전에 관련 자료를 먼저 찾아 읽게 하는 방법을 내놓았어요³. 2023년 9월 발표된 Chain-of-Verification은 AI가 초안을 쓴 뒤 스스로 확인 질문을 만들고, 그 질문에 따로 답해 본 다음 고쳐 쓰게 해요⁴.

방법이 나와도 확인하는 일은 여전히 중요해요. 2026년 10월 공개된 과학 보고서용 모델 AstaBrief는 답이 맞는지뿐 아니라 인용이 정확한지도 따로 재서 밝혔어요. 보고서에서 정말 중요한 건 문장이 매끄러운지가 아니라 인용한 출처가 실제로 있는지이기 때문이에요⁵. 그러니 AI의 답에 날짜·숫자·출처가 나오면, 그 출처를 직접 열어 확인하는 습관이 가장 확실해요.