AI는 왜 방금 한 말도 잊어버릴까? — 기억의 한계

AI는 대화를 뇌처럼 저장하지 않고, 매번 지금까지의 대화 전체를 다시 통째로 읽어 들여서 답해.

이 한 번에 읽을 수 있는 분량(컨텍스트 길이)에는 한계가 있어서, 대화가 길어지면 앞부분이 밀린다.

그래서 정말 중요한 정보는 대화 뒷부분에서 다시 짚어주는 것이 AI와 사람 모두에게 도움이 돼.

직접 해보기 — 컨텍스트 창 추적기

대화가 이어질수록 오래된 메시지가 어떻게 밀려나는지 직접 보자.

슬롯은 4개뿐이야. 대화가 이어질수록 오래된 것부터 밀려나. 밀려난 걸 다시 언급하면 다시 들어옵.

지금 창(컨텍스트) 안

창 밖으로 밀려난 메시지 (클릭하면 다시 언급)

창은 고정된 크기다. 새 메시지가 들어오면 가장 오래된 게 밀려난다.

메시지 4~6만 창 안에 있고, 1~3은 밀려나 이번 답변에 반영되지 않는다.

세 문제. 답을 고르면 바로 채점되고, 왜 그런지도 같이 나와.

오늘의 한 줄

중요한 말은
한 번 더 해주자.

AI가 한 번에 읽을 수 있는 길이를 컸텍스트 길이(context length)라고 부르고, 이를 늘리려는 연구가 활발해 — Lost in the Middle: How Language Models Use Long Contexts
내일은 프롬프트를 다뤄 — 질문 하나만 바꿔도 답이 왜 달라지는지 알아볼 거야.

하루5분 AI 수업 · DAY 07 · 2026-09-13 | 작성자 blog.naver.com/factnotes