AI가 사실이 아닌 내용을 그럴듯하고 자신 있게 지어내는 현상이에요.
환각은 AI가 없는 사실, 틀린 숫자, 존재하지 않는 책이나 논문을 진짜처럼 말하는 현상이에요. AI가 일부러 거짓말하는 건 아니에요. 사실을 찾아보는 대신 그럴듯한 다음 토큰을 고르다 보니, 틀린 내용도 매끄럽게 이어 붙일 수 있는 거예요.
학습한 글에 없거나 드문 내용, 최근 소식, 정확한 숫자와 출처를 물을 때 특히 잘 생겨요. 말투가 자신 있다고 맞는 답이라는 뜻은 아니에요.
줄이는 방법도 있어요. 자료를 찾아 옆에 펴 두고 답하게 하는 RAG, 계산기나 검색 같은 도구 쓰기가 대표적이에요. 그래도 완전히 없애기는 어려워서, 중요한 내용은 다른 출처로 직접 확인하는 게 가장 확실해요.
비유로 보면
공부를 안 한 채 서술형 시험을 보는 학생을 떠올려 보세요. 빈칸으로 내기 싫어서 그럴듯한 문장으로 답안을 꽉 채우지만, 내용은 틀렸을 수 있어요. 글씨가 반듯하다고 정답이 되는 건 아니죠.
예를 들면
'이 주장을 뒷받침하는 논문 알려 줘'라고 하면, 있을 법한 제목과 저자 이름을 지어낼 수 있어요.