1부 AI가 뭔지

AI는 어떻게 말을 할까?

AI는 문장을 통째로 지어내지 않아. 다음에 올 한 조각만 고르는 일을 할 뿐이야.

고른 조각을 붙이고, 또 다음 조각을 고르고 — 이걸 수백 번 반복하면 우리가 보는 긴 답이 돼.

그래서 AI는 어딘가에서 답을 찾아오는 게 아니라, 가장 그럴듯한 다음 조각을 매번 새로 고르는 거야.

직접 해보기 — 다음 단어 고르기 기계

AI가 되어 보자. 빈칸에 올 단어 후보와 각각의 확률이 보일 거야. 버튼을 누르면 그중 하나가 뽑혀서 문장에 붙는다.

그림 한 장으로

AI가 한 번에 하는 일은 딱 이만큼이다. 나머지는 이걸 반복한 것뿐.

이 고리를 수백 번 돌면 한 문단이 나온다. AI가 “생각한다”기보다 “고르기를 반복한다”에 가까운 이유.

1. Q1AI가 한 번에 하는 일은 무엇일까?

   1. ① 문장 전체를 통째로 만들어 낸다
   2. ② 다음에 올 조각 하나를 골라서 붙인다
   3. ③ 인터넷에서 비슷한 문장을 찾아온다
   4. ④ 미리 저장해 둔 답 중에 하나를 꺼낸다

2. Q2위 실험에서 “모험심”을 0으로 내리면 어떻게 될까?

   1. ① 매번 다른 문장이 나온다
   2. ② 몇 번을 눌러도 똑같은 문장이 나온다
   3. ③ AI가 더 정확해진다
   4. ④ 속도가 빨라진다

3. Q3“AI는 답을 어딘가에서 검색해 와서 알려준다.” 맞을까, 틀릴까?

   1. ① 맞다
   2. ② 틀리다

AI는 다음 한 조각을 고르는 일을 아주 빠르게 반복하는 기계다.

AI가 말하는 '한 조각', 토큰이 뭘까?

어제 배운 다음 조각을, AI 세계에서는 토큰이라고 불러.

토큰은 글자도 단어도 아니고, AI가 계산하기 편하게 자른 조각이야 — 크기는 그때그때 달라.

그래서 같은 문장도 토큰 개수가 다르게 세어지고, 그 개수만큼 시간과 비용이 들어.

직접 해보기 — 문장 쪼개기 기계

문장을 하나 고르고, 세 가지 방식으로 잘라보자. 잘리는 조각 수가 방식마다 다르다.

그림 한 장으로

같은 문장인데 사람이 세는 단위(어절)와 AI가 세는 단위(토큰)는 다르다.

주황 상자가 새로 쪼개져 나온 조각이다. 짧은 낱말('학교')은 그대로, 활용형이 있는 낱말은 더 잘게 쪼개졌다.

1. Q1“토큰”이 뭘까?

   1. ① 항상 한 글자야
   2. ② 항상 한 단어야
   3. ③ AI가 계산하기 편하게 자른 조각이야(크기는 그때그때 달라)
   4. ④ 사람이 미리 정해 둔 단어장 전체야

2. Q2토큰 수가 많아질수록 AI에게 생기는 일은?

   1. ① 더 빨라진다
   2. ② 계산할 것도, 걸리는 시간도 늘어난다
   3. ③ 아무 영향 없다
   4. ④ 무조건 더 똑똑해진다

3. Q3같은 문장이라도 AI마다 토큰으로 쪼개는 방식이 다를 수 있다. 맞을까, 틀릴까?

   1. ① 맞다
   2. ② 틀리다

AI에게 문장은 글자도 단어도 아니라, 토큰이라는 조각들의 줄이다.

AI는 왜 매번 다르게 대답할까?

AI는 다음 조각을 고를 때 후보마다 확률을 매기고, 그 확률대로 제비뽑기를 해.

온도는 그 확률표를 얼마나 평평하게 만들지 정하는 손잡이야 — 낮추면 1등만 뽑히고, 올리면 아래 후보도 자주 뽑혀.

그래서 온도를 낮추면 답이 비슷비슷해지고, 올리면 다양해지는 대신 엉뚱해질 위험도 같이 커져.

직접 해보기 — 온도 손잡이 돌려보기

어제까지는 후보를 보기만 했다면, 오늘은 그 확률표 자체를 바꿔본다. 손잡이를 움직이면 막대 길이가 실제로 변한다.

그림 한 장으로

같은 후보, 같은 순위인데 온도만 바뀌면 막대 모양이 이렇게 달라진다.

왼쪽은 거의 1등만 뽑히고, 오른쪽은 5등도 심심찮게 뽑힌다. 세 그림의 후보 순서는 완전히 같다.

1. Q1온도를 0에 아주 가깝게 낮추면 어떻게 될까?

   1. ① 후보 순위가 뒤집힌다
   2. ② 거의 항상 확률 1등만 뽑힌다
   3. ③ 후보가 더 많아진다
   4. ④ AI가 더 똑똑해진다

2. Q2온도를 높이면 같이 커지는 것은?

   1. ① 답이 다양해지지만 엉뚱해질 위험도 커진다
   2. ② 계산 속도가 빨라진다
   3. ③ 정답률이 항상 올라간다
   4. ④ 토큰 수가 줄어든다

3. Q3온도를 0으로 맞추면 같은 질문에 언제나 완전히 똑같은 답이 나온다. 맞을까, 틀릴까?

   1. ① 맞다
   2. ② 틀리다

온도는 AI를 똑똑하게 만드는 손잡이가 아니라, 얼마나 모험할지 정하는 손잡이다.

뭔가를 '배운다'는 게, AI한테는 무슨 뜻일까?

AI의 학습은 사람처럼 이해가 아니라, 정답에 더 가까워지도록 숫자(가중치)를 계속 조금씩 고치는 과정이야.

방법은 간단해: 문장 일부를 가리고 다음 글자를 맞혀보게 한 뒤, 틀린 만큼 가중치를 살짝 수정해.

이 과정을 인터넷 텍스트로 수천억 번 반복하면, 문법도 상식도 저절로 녹아든 숫자 뻖치가 만들어져.

직접 해보기 — 학습 사이클 순서 맞추기

세 가지 상황의 ‘반복 학습’ 과정을 순서대로 맞혀보자.

그림 한 장으로

네 단계를 수천억 번 반복하면, 무작위 예측이 점점 자연스러워진다.

오렌지 상자(④ 가중치 수정)가 매번 반복되는 핵심 단계다. 이 반복이 쌊이면 예측이 자연스러워진다.

1. Q1AI가 학습한다는 것은 정확히 무슨 뜻일까?

   1. ① 사람처럼 의미를 이해하게 된다
   2. ② 정답에 가까워지도록 숫자(가중치)를 조금씩 고친다
   3. ③ 인터넷을 통째로 저장한다
   4. ④ 정해진 규칙표를 외운다

2. Q2학습은 한 번에 정답을 딱 맞히도록 크게 수정하는 과정이다.

   1. ① 맞다
   2. ② 틀리다

3. Q3학습을 딱 한 번만 반복하면 어떻게 될까?

   1. ① 바로 똑똑해진다
   2. ② 거의 변화가 없다
   3. ③ 오히려 더 나빠진다
   4. ④ 학습이 끝난다

학습은 '깨달음'이 아니라, '조금씩 고치기'의 반복이다.

이 숫자, 대체 얼마나 큰 걸까?

파라미터는 학습 중 계속 고쳐지는 가중치 숫자의 개수야. 많을수록 담을 수 있는 패턴의 그릇이 커져.

요즘 큰 모델은 파라미터가 수백억~1조 개 단위야. 사람 뇌 시냅스 수(약 100조 개)에는 아직 못 미쳐.

파라미터가 많다고 무조건 또똑한 건 아니야 — 무엇을 어떻게 학습했는지가 함께 따라와야 해.

직접 해보기 — 숫자 감각 슬라이더

슬라이더를 움직여 자릿수(10의 몇 제곱)를 추측해보고, 실제 값과 얼마나 가까운지 확인해보자.

그림 한 장으로

세 숫자를 나란히 놓고 보면 자릿수가 얼마나 다른지 느낌이 온다.

막대 길이는 정확한 비율이 아니라 자릿수 차이를 느낌으로 전달하기 위한 그림이다.

1. Q1파라미터가 많을수록 항상 더 똑똑한 AI다.

   1. ① 맞다
   2. ② 틀리다

2. Q2파라미터란 정확히 무엇인가?

   1. ① 모델이 외운 문장 개수
   2. ② 학습 중 계속 고쳐지는 가중치 숫자의 개수
   3. ③ 서버의 개수
   4. ④ 동시 사용자 수

3. Q3알려진 것 중에서는, 사람 뇌의 시냅스 수 추정치가 지금까지 공개된 어떤 AI 모델의 파라미터 수보다도 많다.

   1. ① 맞다
   2. ② 틀리다

숫자가 크다고 다 똑똑한 건 아니다.

AI는 왜 없는 사실을 태연하게 지어낼까?

AI는 사실을 찾는 게 아니라 확률이 높은 다음 말을 고를 뿐이라, 틀린 문장도 자신 있게 만들어낼 수 있어.

이걸 환각(hallucination)이라 불러 — 거짓말할 의도가 아니라, 확률적으로 그럴싸한 답을 만드는 구조의 한계야.

학습 데이터에 없거나 드물거나 최신인 사실을 물을 때 특히 잘 틀려 — 항상 다른 곳에서 확인하자.

직접 해보기 — 확률 슬라이더

질문을 골라보고, 확률이 어떻게 퍼지는지 보자. 정답이 없는 질문은 굴릴 때마다 1등이 바뀌진다.

그림 한 장으로

정답이 없어도 AI는 그럴싸한 답 하나를 고른다.

질문에 실제 정답이 없어도, AI는 그럴듯한 조합을 만들어 자신있게 대답한다.

1. Q1환각(hallucination)이 생기는 근본적인 이유는?

   1. ① AI가 거짓말을 하려는 의도가 있어서
   2. ② AI가 확률적으로 그럴듯한 말을 고르는 구조라서
   3. ③ 서버 오류 때문에
   4. ④ 사용자가 질문을 잘못해서

2. Q2환각은 학습 데이터에 없거나 드문 내용을 물을 때 더 자주 나타난다.

   1. ① 맞다
   2. ② 틀리다

3. Q3AI가 자신 있는 말투로 대답하면 그 내용은 항상 사실이다.

   1. ① 맞다
   2. ② 틀리다

자신 있게 말한다고 사실인 건 아니다.

AI는 왜 방금 한 말도 잊어버릴까?

AI는 대화를 뇌처럼 저장하지 않고, 매번 지금까지의 대화 전체를 다시 통째로 읽어 들여서 답해.

이 한 번에 읽을 수 있는 분량(컨텍스트 길이)에는 한계가 있어서, 대화가 길어지면 앞부분이 밀린다.

그래서 정말 중요한 정보는 대화 뒷부분에서 다시 짚어주는 것이 AI와 사람 모두에게 도움이 돼.

직접 해보기 — 컨텍스트 창 추적기

대화가 이어질수록 오래된 메시지가 어떻게 밀려나는지 직접 보자.

그림 한 장으로

창은 고정된 크기다. 새 메시지가 들어오면 가장 오래된 게 밀려난다.

메시지 4~6만 창 안에 있고, 1~3은 밀려나 이번 답변에 반영되지 않는다.

1. Q1AI가 대화 앞부분을 ‘잊는’ 이유는?

   1. ① 감정이 상해서
   2. ② 한 번에 읽을 수 있는 분량(컨텍스트)에 한계가 있어서
   3. ③ 일부러 무시해서
   4. ④ 사용자를 시험하려고

2. Q2대화가 아주 길어져도 AI는 처음 한 말을 항상 정확히 기억한다.

   1. ① 맞다
   2. ② 틀리다

3. Q3중요한 정보를 대화 중간에 한 번 더 말해주면 AI가 더 잘 반영한다.

   1. ① 맞다
   2. ② 틀리다

중요한 말은 한 번 더 해주자.

질문 하나 바꿨을 뿐인데, 답이 확 달라지는 이유

프롬프트는 AI에게 건네는 입력 문장 전체야 — 문장이 달라지면 다음 말의 확률 분포 자체가 달라져.

애매하고 짧은 프롬프트는 애매한 답을, 역할·조건·형식을 구체적으로 준 프롬프트는 훨씬 쓸모 있는 답을 끓어내.

프롬프트를 잘 쓰는 건 AI를 속이는 기술이 아니라, 내가 원하는 걸 더 명확하게 말해주는 것뿐이야.

직접 해보기 — 프롬프트 다듬기

조건 칩을 누를수록 프롬프트가 구체적으로 바뀌고, 결과도 함께 나아진다.

그림 한 장으로

같은 AI라도 프롬프트가 다르면 결과도 달라진다.

대상·형식·분량을 구체적으로 줄수록 결과의 쓸모가 달라진다.

1. Q1좋은 프롬프트의 핵심은 무엇인가?

   1. ① AI를 속이는 특별한 주문
   2. ② 원하는 결과를 구체적으로 말해주는 것
   3. ③ 최대한 짧게 쓰는 것
   4. ④ 영어로 쓰는 것

2. Q2프롬프트를 바꾸면 AI가 고르는 다음 말의 확률 분포도 함께 바뀜다.

   1. ① 맞다
   2. ② 틀리다

3. Q3프롬프트를 아무리 구체적으로 써도 결과에는 별 차이가 없다.

   1. ① 맞다
   2. ② 틀리다

AI를 바꾸지 말고, 질문을 바꿔보자.

큰 모델이 무조건 좋을까?

모델이 크다는 건 5일차에 본 파라미터가 많다는 뜻이야 — 아는 게 많고, 처음 보는 어려운 문제를 잘 버텨.

대신 큰 모델은 느리고 비싸고, 네 폰 안에는 아예 안 들어가. 인터넷 너머 서버에서만 돌아.

그래서 큰 모델이 배운 걸 작은 모델에 옮겨 담아 쓰기도 해. 좋은 크기는 쓸 자리가 정한다.

직접 해보기 — 이 일, 어느 쪽에 맡길까?

여섯 가지 상황이야. 큰 모델과 작은 모델 중 하나를 골라 봐. 고르는 즉시 채점되고 이유도 나와.

그림 한 장으로

둘은 실력 순서가 아니라 사는 곳이 다른 거다.

작은 모델은 가까이 있어서 빠르고, 큰 모델은 아는 게 많아서 어려운 걸 버틴다.

1. Q1모델이 ‘크다’는 건 주로 무엇이 많다는 뜻일까?

   1. ① 화면에 뜨는 글자 수가 많다
   2. ② 파라미터(학습으로 맞춰 둔 숫자)가 많다
   3. ③ 쓰는 사람이 많다
   4. ④ 답하는 데 걸리는 시간이 많다

2. Q2작은 모델이 큰 모델보다 확실히 나은 점은?

   1. ① 처음 보는 어려운 문제를 더 잘 푼다
   2. ② 아는 사실이 더 많다
   3. ③ 빠르고 싸고, 인터넷 없이 내 기기에서 돈다
   4. ④ 절대 틀린 말을 하지 않는다

3. Q3큰 모델이 배운 것을 작은 모델에 옮겨 담는 방법이 있다.

   1. ① 맞다
   2. ② 틀리다

큰 모델이 좋은 게 아니라, 자리에 맞는 크기가 좋은 거야.

이 AI, 내 노트북에 넣을 수 있을까?

닫힌 모델은 알맹이가 회사 서버 안에만 있어. 우리는 앱이나 창구로 말만 걸 수 있고, 모델 자체는 못 받아.

열린 모델은 그 알맹이 — 5일차에 본 파라미터 숫자 뭉치, 곧 가중치 — 를 통째로 내려받아 내 컴퓨터에서 돌릴 수 있어.

그런데 ‘열렸다’는 한 덩어리가 아니야. 가중치는 열어도 학습 데이터는 안 여는 쪽이 대부분이라, 얼마나 열렸는지는 조각마다 다르다.

직접 해보기 — ‘열렸다’를 네 조각으로 쪼개보기

모델 하나를 네 조각으로 쪼개 놓았어. 아래 세 가지 공개 방식을 눌러 보면, 어느 조각이 열리고 어느 조각이 잠기는지 바뀐다.

그림 한 장으로

묻는 자리는 같아도, 모델이 사는 자리가 다르다.

닫힌 모델은 창구에서만 만나고, 열린 모델은 파일째 내 기계로 들어온다.

1. Q1열린 모델에서 ‘열렸다’는 건 주로 무엇을 받을 수 있다는 뜻일까?

   1. ① 그 회사 서버의 비밀번호
   2. ② 학습으로 맞춰 둔 숫자 뭉치, 곧 가중치
   3. ③ 그 AI가 사람들과 나눈 대화 기록
   4. ④ 그 회사가 번 돈의 일부

2. Q2닫힌 모델을 쓸 때 우리가 할 수 있는 일은?

   1. ① 모델 파일을 내려받아 내 노트북에 넣는다
   2. ② 학습에 쓴 데이터를 열어 본다
   3. ③ 앱이나 API 창구로 질문하고 답을 받는다
   4. ④ 모델 속 숫자를 직접 고친다

3. Q3가중치를 공개한 모델이면 학습에 쓴 데이터도 대부분 같이 공개된다.

   1. ① 맞다
   2. ② 틀리다

열렸다는 건 공짜라는 뜻이 아니라, 알맹이를 내 손에 받아올 수 있다는 뜻이야.