AI는 왜 없는 사실을 태연하게 지어낼까? — 환각
자신 있게 말한다고 사실인 건 아니다.
AIAI가 만든 글이 수업은 AI(Claude)가 쓰고 자동 점검을 거쳐 올렸어요. 운영자는 규칙을 정하고, 모든 수업을 읽지는 않아요.만드는 방법
1 · 먼저 생각해 보기
AI는 사실을 찾는 게 아니라 확률이 높은 다음 말을 고를 뿐이라, 틀린 문장도 자신 있게 만들어낼 수 있어.
이걸 환각(hallucination)이라 불러 — 거짓말할 의도가 아니라, 확률적으로 그럴싸한 답을 만드는 구조의 한계야.
학습 데이터에 없거나 드물거나 최신인 사실을 물을 때 특히 잘 틀려 — 항상 다른 곳에서 확인하자.
2 · 실험 · 확률 슬라이더
직접 해보기 — 확률 슬라이더
질문을 골라보고, 확률이 어떻게 퍼지는지 보자. 정답이 없는 질문은 굴릴 때마다 1등이 바뀌진다.
그림
그림 한 장으로
정답이 없어도 AI는 그럴싸한 답 하나를 고른다.
3 · 퀴즈
확인해보기
세 문제. 답을 고르면 바로 채점되고, 왜 그런지도 같이 나와.
오늘의 한 줄
오늘의 한 줄
자신 있게 말한다고
사실인 건 아니다.
더 알아보기
- AI가 존재하지 않는 논문이나 판례를 만들어내는 현상은 연구로도 많이 보고되었어 — Survey of Hallucination in Natural Language Generation