2부 여기까지 온 길

AI는 어디서 시작됐을까?

1958년, 프랭크 로젠블랫이 퍼셉트론이라는 기계를 만들었어 — 사람 뇌의 신경세포 하나를 흉내 낸 인공 뉴런이야.

하는 일은 딱 하나야. 들어온 신호마다 무게(가중치)를 곱해서 전부 더하고, 그 합이 문턱을 넘으면 1, 못 넘으면 0.

진짜 새로웠던 건 이거야 — 틀리면 스스로 무게를 조금씩 고쳤어. 규칙을 사람이 안 써 줘도 예시만 보고 배운 첫 기계였다.

직접 해보기 — 무게를 움직여 문턱을 넘겨 보자

온라인 비디오 하나를 볼지 말지 정하는 인공 뉴런이야. 위의 신호를 켜고 끄고, 아래 무게를 끌어 봐. 합이 문턱 120(주황 선)을 넘으면 1, 못 넘으면 0이 나온다.

그림 한 장으로

곱하고, 더하고, 문턱과 견준다 — 인공 뉴런 하나가 하는 일은 이게 전부야.

인공 뉴런 하나 — 곱하고, 더하고, 문턱과 견준다.

1. Q1퍼셉트론(인공 뉴런) 하나가 하는 일을 한 줄로 말하면?

   1. ① 문장을 통째로 외웠다가 그대로 꺼낸다
   2. ② 신호마다 무게를 곱해 더하고, 문턱을 넘으면 1을 낸다
   3. ③ 인터넷을 뒤져 정답을 찾아온다
   4. ④ 사람이 써 준 규칙을 순서대로 하나씩 따른다

2. Q21958년 퍼셉트론이 그 전 기계들과 가장 크게 달랐던 점은?

   1. ① 계산이 훨씬 빨랐다
   2. ② 전기를 쓰지 않았다
   3. ③ 답이 틀리면 스스로 무게를 고쳤다
   4. ④ 그림과 음악을 만들 수 있었다

3. Q3퍼셉트론의 ‘무게’는 오늘날 AI에서 뭐라고 부를까?

   1. ① 토큰
   2. ② 가중치 — 5일차에 본 파라미터가 바로 이것
   3. ③ 프롬프트
   4. ④ 온도

지금의 AI도 결국, 1958년 그 뉴런 하나를 아주 많이 쌓은 거야.

AI는 왜 두 번이나 얼어붙었을까?

어제 본 퍼셉트론이 한창 잘나가던 1969년, 민스키와 페퍼트가 한 층짜리 뉴런으로는 못 푸는 문제가 있다는 걸 수학으로 증명했어. 연구비도 사람도 빠져나갔다 — 첫 번째 겨울이야.

1980년대엔 규칙을 사람이 손으로 다 적어 주는 전문가 시스템이 붐이었는데, 적어 준 상황에서 조금만 벗어나면 바로 틀렸어. 1987년엔 그 전용 컴퓨터 시장이 통째로 무너졌다 — 두 번째 겨울.

두 번 다 이유는 같아. AI가 갑자기 멍청해진 게 아니라, 약속이 실력보다 앞서 갔던 거야.

직접 해보기 — 겨울이 오는 순서 맞추기

출시 전 비디오는 대단했는데 막상 해 보니 별로였던 게임, 있지? 그러면 사람들이 우르르 빠져나가잖아. AI 겨울이 딱 그거야. 세 가지 이야기의 순서를 맞혀 보자.

그림 한 장으로

기대는 두 번 치솟았다가 두 번 다 무너졌어. 회색 띠가 겨울이야.

두 번의 겨울 — 봉우리는 늘 약속이 만들고, 골짜기는 늘 약속이 안 지켜져서 생겼다.

1. Q11969년 민스키와 페퍼트의 책이 증명한 건 뭘까?

   1. ① 컴퓨터가 사람보다 계산이 빠르다는 것
   2. ② 한 층짜리 퍼셉트론으로는 풀 수 없는 문제가 있다는 것
   3. ③ 신경망은 크게 만들수록 무조건 좋아진다는 것
   4. ④ AI에게는 규칙을 적어 주면 안 된다는 것

2. Q21980년대 전문가 시스템이 무너진 가장 큰 이유는?

   1. ① 전기를 너무 많이 먹어서
   2. ② 규칙을 사람이 일일이 적어 줘야 해서, 안 적어 둔 상황이 오면 바로 틀려서
   3. ③ 인터넷이 아직 없어서
   4. ④ 아무도 관심을 안 가져서

3. Q3두 번의 AI 겨울이 똑같이 알려주는 건 뭘까?

   1. ① AI는 원래 안 되는 기술이다
   2. ② 약속이 실제 실력보다 앞서 가면 겨울이 온다
   3. ③ 돈만 많으면 무조건 성공한다
   4. ④ 새 이론이 나오면 언제나 겨울이 온다

겨울이 온 건 AI가 못해서가 아니라, 약속이 실력보다 앞서 갔기 때문이야.

사진 맞히기 대회 한 판으로 판이 뒤집혔다

2012년 이미지넷 사진 맞히기 대회에서 토론토대 팀의 신경망이 top-5 오류 15.3%로 우승했어. 2위가 26.2%였으니 10%포인트가 넘는 차이다 — 그 대회에서 이런 격차는 처음이었어.

새로 발명한 건 거의 없었어. 사진 수백만 장 · 게임용 그래픽카드 · 깊게 쌓은 신경망, 이 세 가지가 그해에 처음으로 한자리에 모인 거야.

이날 이후 사진을 다루는 연구는 통째로 신경망으로 갈아탔다. 어제 본 두 번째 겨울이 진짜로 끝난 날이야.

직접 해보기 — 2012년 전과 후

게임 패치 전후 비교 비디오 보는 거랑 똑같아. 항목을 고르고, 「2011년까지」와 「2012년」을 번갈아 눌러 봐. 뭐가 달라졌는지 바로 보일 거야.

그림 한 장으로

해마다 조금씩 줄던 오류율이 2012년에 혼자만 뚝 떨어졌어.

2012년 우승팀의 오류율은 2위와 10%포인트 넘게 벌어졌다 — 그 대회에서 처음 있는 일이었다.

1. Q12012년 이미지넷 대회 결과가 충격적이었던 이유는?

   1. ① 우승 팀이 사상 처음으로 0% 오류를 냈기 때문에
   2. ② 우승 팀 오류가 15.3%로, 2위(26.2%)와 10%포인트 넘게 벌어졌기 때문에
   3. ③ 대회에 처음으로 사람이 참가했기 때문에
   4. ④ 그해 대회에 참가팀이 한 팀뿐이었기 때문에

2. Q22012년에야 딥러닝이 터진 가장 큰 이유는 뭘까?

   1. ① 그해에 신경망이라는 개념이 처음 발명돼서
   2. ② 사진 데이터, 그래픽카드, 깊은 신경망 세 가지가 그때 처음 한자리에 모여서
   3. ③ 그해에 인터넷이 처음 생겨서
   4. ④ 정부가 AI 연구를 법으로 강제해서

3. Q3게임용 그래픽카드(GPU)가 딥러닝에 쓰인 이유로 맞는 건?

   1. ① 화면이 예쁘게 나와서
   2. ② 비슷한 계산을 한꺼번에 아주 많이 하는 데 특화돼 있어서
   3. ③ 인터넷 속도가 빨라져서
   4. ④ 저장 공간이 커서

겨울을 끝낸 건 새 아이디어가 아니라, 데이터·계산·깊이가 한자리에 모인 날이었어.

문장 속 단어들이 서로를 쳐다보기 시작했다

2017년 구글 연구팀이 낸 논문 한 편이 지금 쓰는 AI의 뼈대를 정했어. 이름은 트랜스포머, 논문 제목은 'Attention Is All You Need'야.

그 전까지는 문장을 앞에서부터 한 단어씩 차례로 읽었어. 트랜스포머는 문장 속 모든 단어가 서로를 동시에 쳐다보게 했어 — 이걸 '어텐션'이라고 불러.

동시에 본다는 건 한꺼번에 계산할 수 있다는 뜻이야. 그래서 그래픽카드에 딱 맞았고, 이 뼈대 위에서 GPT·클로드·제미나이가 전부 자랐어.

직접 해보기 — '그것'이 뭘 가리키는지, 단어들이 서로 쳐다보기

단어 하나를 고르면, 그 단어가 문장 속 어느 단어를 얼마나 세게 쳐다보는지 색으로 보여줘. 진할수록 세게 본다는 뜻이야.

차례로 읽기 vs 한꺼번에 쳐다보기

읽는 방식이 바뀌자 계산하는 방식도 바뀌었어.

2017년 논문 제목이 '어텐션만 있으면 된다'였던 이유 — 차례로 읽는 부품을 아예 빼 버렸거든.

1. Q1트랜스포머가 그 전 방식과 가장 다른 점은?

   1. ① 문장 속 단어들이 서로를 동시에 쳐다본다
   2. ② 단어를 더 빨리 외운다
   3. ③ 인터넷을 검색해서 답한다
   4. ④ 사람이 규칙을 손으로 넣어 준다

2. Q2'동시에 본다'가 왜 중요했을까?

   1. ① 문장이 더 예뻐져서
   2. ② 한꺼번에 계산할 수 있어서 그래픽카드에 딱 맞았기 때문에
   3. ③ 메모리가 덜 들어서
   4. ④ 사람이 읽기 편해서

3. Q3'그것은 너무 피곤했다'에서 '그것'이 '동물'인 걸 어텐션은 어떻게 알까?

   1. ① 제일 앞 단어라서
   2. ② 사전에 적혀 있어서
   3. ③ 주변 단어와 어울림 점수로
   4. ④ 무작위로 골라서

단어들이 서로를 쳐다보게 했더니, AI가 문장을 통째로 이해하기 시작했어.

크기만 키웠는데 왜 새 재주가 생겼을까

어제 배운 트랜스포머 뼈대를 바꾸지 않고 그냥 크게 키웠더니, 2020년에 숫자 1,750억 개짜리 모델이 나왔어. 이름이 GPT-3야.

놀라운 건 크기가 아니라 배우는 방식이었어. 다시 훈련시키지 않고 질문 안에 예시 두세 개만 끼워 넣어도 바로 따라 했거든.

그래서 논문 제목도 '언어 모델은 예시 몇 개만 보면 된다'였어. 이때부터 '뭐라고 시키느냐', 즉 프롬프트가 중요해졌지.

직접 해보기 — 자릿수 감각 — GPT는 얼마나 커진 걸까

손잡이를 움직여 '10의 몇 제곱쯤일까'를 먼저 어림해 봐. 정답 확인을 누르면 실제 숫자가 나와. 맞히는 게 목적이 아니라 자릿수가 얼마나 훌쩍 뛰는지 느끼는 게 목적이야.

3년 동안 GPT가 커진 정도

같은 자로 재서 막대로 그리면 차이가 한눈에 보여.

숫자를 키우면 성능이 얼마나 오를지 미리 계산해 보는 연구가 먼저 있었고, GPT-3는 그 계산을 실제로 밀어붙인 결과야.

1. Q1GPT-3가 그 전 모델들과 가장 달랐던 점은?

   1. ① 인터넷을 실시간으로 검색했다
   2. ② 예시 몇 개만 보여주면 새 일을 바로 따라 했다
   3. ③ 사람이 규칙을 하나하나 넣어 줬다
   4. ④ 혼자서 전원을 켜고 껐다

2. Q2GPT-3가 가진 숫자(파라미터)는 약 몇 개일까?

   1. ① 약 1억 7천만
   2. ② 약 17억
   3. ③ 약 1,750억
   4. ④ 약 175억

3. Q3질문 안에 예시를 끼워 넣어 시키는 것을 뭐라고 부를까?

   1. ① 업데이트
   2. ② 다운로드
   3. ③ 새로고침
   4. ④ 프롬프트

뼈대는 그대로, 크기와 읽은 글만 키웠더니 예시만 봐도 따라 하는 재주가 생겼어.

모델보다 대화창이 세상을 바꿨다고

2022년 11월 30일, 어제 배운 GPT 계열 모델을 말을 주고받는 대화창에 얹어서 누구나 쓰게 열었어. 그게 ChatGPT야.

모델을 새로 발명한 게 아니야. 사람들이 어떤 답을 더 좋아하는지 골라 준 걸로 다시 다듬어서, 시키는 걸 제대로 알아듣게 만든 게 컸어.

그래서 이 날 바뀐 건 기술이 아니라 쓰는 사람의 범위였어. 예시를 붙일 줄 아는 사람만 쓰던 걸 전부가 쓰게 됐거든.

직접 해보기 — 2020년과 2022년, 뭐가 달라졌나

항목을 고르고 「2020년」과 「2022년」을 번갈아 눌러 봐. 모델 크기 말고 무엇이 달라졌는지 보이면 성공이야.

큰 모델이 '누구나 쓰는 것'이 되기까지

세 번의 손질이 겹쳐서 2022년 11월이 만들어졌어.

2022년 11월 30일, 같은 계열 모델이 대화창을 달고 나온 날 — 사람들은 이때 처음 AI를 직접 만졌어.

1. Q1ChatGPT가 세상을 놀라게 한 가장 큰 이유는?

   1. ① 완전히 새로운 뼈대를 발명해서
   2. ② 인터넷보다 빨라서
   3. ③ 누구나 말만 걸면 쓸 수 있게 해서
   4. ④ 숫자를 1조 개로 늘려서

2. Q2사람 피드백으로 다듬는 방법이 보여준 결과는?

   1. ① 항상 큰 모델이 이겼다
   2. ② 답이 무조건 길어졌다
   3. ③ 크기와 상관없이 결과가 같았다
   4. ④ 13억짜리 답을 1,750억짜리보다 더 좋아했다

3. Q3ChatGPT가 처음 공개된 해는?

   1. ① 2022년
   2. ② 2020년
   3. ③ 2017년
   4. ④ 2025년

더 큰 모델이 아니라 말 걸 수 있는 창이 AI를 모두의 것으로 만들었어.

왜 바로 대답하지 않고 풀이부터 쓸까

어려운 문제에서 AI가 확 잘해진 비결은 더 커진 게 아니라 답하기 전에 풀이 단계를 밟게 한 거야.

처음엔 사람이 '단계별로 생각해 봐'라고 시켜서 됐는데, 나중엔 스스로 풀이를 먼저 쓰도록 훈련받은 모델이 나왔어. 이걸 추론 모델이라고 불러.

대신 값을 치러. 생각을 길게 하는 만큼 답이 늦게 나오고 글자도 많이 써. 그래서 쉬운 질문엔 굳이 안 쓰지.

직접 해보기 — 풀이 단계를 순서대로 놓아 보기

섞인 조각을 맞다고 생각하는 순서대로 눌러 봐. 다 고르면 채점해 줘. 순서를 지켜야 답이 맞는다는 걸 몸으로 느끼는 게 목적이야.

바로 답하기 vs 생각하고 답하기

같은 모델 계열인데 답하는 차례만 바꿔도 결과가 달라져.

2022년엔 사람이 '단계별로 생각해 봐'라고 시켜야 했고, 2024년엔 시키지 않아도 스스로 그러는 모델이 나왔어.

1. Q1추론 모델이 그 전 모델과 다른 점은?

   1. ① 답을 통째로 외워 둔다
   2. ② 답을 더 짧게 줄인다
   3. ③ 항상 인터넷을 검색한다
   4. ④ 답하기 전에 풀이 단계를 먼저 밟는다

2. Q2같은 수학 대회 문제에서 벌어진 일은?

   1. ① 12%에서 74%로 올랐다
   2. ② 74%에서 12%로 떨어졌다
   3. ③ 둘 다 100%였다
   4. ④ 아무 차이도 없었다

3. Q3생각하고 답하는 대신 내주는 것은?

   1. ① 정답률
   2. ② 시간과 글자 수
   3. ③ 인터넷 속도
   4. ④ 화면 밝기

바로 답하는 대신 풀이를 먼저 쓰게 했더니, 틀리던 문제를 맞히기 시작했어.

모를 때 계산기를 집는 게 더 똑똑한 걸까

AI는 다음 낱말을 잇는 게 본업이라 큰 곱셈이나 오늘 날씨처럼 정확히 알아야 하는 것에 약해. 그래서 계산기·검색·코드 실행 같은 도구를 옆에 붙여 줬어.

중요한 건 도구가 아니라 언제 집을지 스스로 고르는 것이야. 2023년부터 모델이 '지금 계산기가 필요해'라고 정해진 형식으로 말하고, 결과를 받아 답을 마무리하게 됐어.

그래서 잘하는 AI는 다 아는 AI가 아니야. 모른다는 걸 알아채고 도구를 집는 AI지. 사람이 시험 때 계산기를 쓰는 판단이랑 똑같아.

직접 해보기 — 직접 답할까, 도구를 집을까

여섯 가지 질문이야. AI라면 어떻게 하는 게 나을지 골라 봐. 고르는 순간 바로 채점되고, 다 고르면 규칙이 보일 거야.

도구를 집는 네 걸음

도구를 쓰는 AI는 이 차례를 속으로 밟아.

2023년부터 '어떤 도구를 어떤 값으로 부를지'를 정해진 형식으로 말하게 됐고, 그게 지금 거의 모든 모델의 기본 기능이 됐어.

1. Q1AI가 '도구를 쓴다'는 건 무슨 뜻일까?

   1. ① 정답을 통째로 외워 둔다
   2. ② 계산기·검색·코드 실행을 스스로 불러 쓴다
   3. ③ 더 큰 모델로 갈아탄다
   4. ④ 답을 짧게 줄인다

2. Q2다음 중 도구를 쓰는 편이 나은 질문은?

   1. ① '고양이'를 영어로 뭐라고 해?
   2. ② '크다'의 반대말은?
   3. ③ 847,293 곱하기 6,184는?
   4. ④ 3 더하기 4는?

3. Q3도구를 부를지 말지는 누가 정할까?

   1. ① 전원 버튼
   2. ② 사용자가 매번
   3. ③ 인터넷 회선
   4. ④ 모델이 스스로

모른다는 걸 알아채고 도구를 집는 것도 똑똑함의 한 종류야.

사진과 소리를 어떻게 글자 옆에 세울까

AI가 사진을 보고 소리를 듣게 된 비결은 눈과 귀를 단 게 아니야. 사진도 소리도 작은 조각으로 쪼개서 글자 조각과 같은 줄에 세운 거야.

글은 낱말 조각으로, 사진은 격자로 자른 네모 조각으로, 소리는 아주 짧은 시간 토막으로 잘라. 잘라 놓으면 셋 다 그냥 '줄 세운 조각'이 돼.

그러면 뼈대를 새로 만들 필요가 없어. 조각들이 서로 쳐다보게 하는 트랜스포머에 그대로 넣으면 되거든. 여러 감각을 한꺼번에 다룬다고 해서 멀티모달이라고 불러.

직접 해보기 — 글·사진·소리를 조각으로 쪼개 보기

버튼을 눌러 재료를 바꿔 봐. 무엇을 넣든 결국 조각이 줄지어 선다는 게 보이면 성공이야. 주황색은 지금 눈여겨볼 조각이야.

무엇을 넣든 같은 길로 들어간다

재료는 셋인데 지나가는 길은 하나야.

2023년엔 사진을 읽는 기능이 널리 열렸고, 2024년엔 글·사진·소리를 한 뼈대로 배운 모델이 나와 말 대답이 평균 0.32초까지 빨라졌어.

1. Q1사진을 AI에 넣을 때 실제로 하는 일은?

   1. ① 사진을 먼저 글로 번역한다
   2. ② 흑백으로 바꾼다
   3. ③ 격자로 잘라 조각을 만들어 줄 세운다
   4. ④ 크기를 두 배로 키운다

2. Q2글·사진·소리를 한 뼈대로 다룰 수 있는 이유는?

   1. ① 모델에 눈과 귀를 달아서
   2. ② 사진이 원래 글자니까
   3. ③ 소리에는 뜻이 없으니까
   4. ④ 셋 다 조각으로 바꿔 같은 줄에 세우니까

3. Q3소리는 어떤 식으로 쪼갤까?

   1. ① 짧은 시간 토막
   2. ② 글자 한 개씩
   3. ③ 색깔별로
   4. ④ 길이순 정렬

사진도 소리도 조각으로 쪼개 줄을 세우면, 글자와 똑같은 자리에 설 수 있어.

왜 이제는 쓸 수 있는 AI가 이렇게 많을까

2022년 말엔 제대로 쓸 만한 대화형 AI가 손에 꼽을 정도였어. 지금은 미국·유럽·중국·한국까지 수십 곳이 저마다 모델을 내놔.

가장 크게 바뀐 건 열린 모델이 생긴 거야. 모델의 숫자 뭉치를 통째로 풀어 줘서, 누구나 내려받아 자기 장비에서 돌릴 수 있게 됐거든.

그래서 지금은 하나를 쓰는 게 아니라 골라 쓰는 시대야. 값, 속도, 잘하는 분야가 다 다르고, 한 곳이 새 기능을 내면 몇 달 안에 비슷한 게 여기저기서 나와.

직접 해보기 — 2022년과 지금, 무엇이 달라졌나

항목을 고르고 「2022년 말」과 「지금」을 번갈아 눌러 봐. 숫자보다 '고를 수 있느냐'가 어떻게 달라졌는지가 핵심이야.

누구나 내려받을 수 있었던 모델의 크기

열린 모델이 얼마나 빨리 커졌는지 숫자로 보자.

숫자 뭉치가 풀리자 학교와 작은 연구팀도 직접 고쳐 쓰기 시작했고, 그게 지금의 경쟁 구도를 만들었어.

1. Q12022년 말과 지금을 가르는 가장 큰 차이는?

   1. ① 쓰는 값이 크게 올랐다
   2. ② 모델이 하나로 합쳐졌다
   3. ③ 이제 아무도 안 만든다
   4. ④ 모델을 만드는 곳이 훨씬 많아졌다

2. Q2'열린 모델'이 뜻하는 건?

   1. ① 누구나 숫자 뭉치를 받아 직접 돌릴 수 있는 모델
   2. ② 광고가 없는 모델
   3. ③ 언제나 정답만 주는 모델
   4. ④ 인터넷 없이 검색되는 모델

3. Q3만드는 곳이 늘면 쓰는 사람에게 생기는 일은?

   1. ① 답이 사라진다
   2. ② 골라 쓸 수 있다
   3. ③ 전기가 끊긴다
   4. ④ 글자가 커진다

만드는 곳이 몇 군데에서 수십 곳으로 늘자, AI는 '쓰는 것'에서 '고르는 것'이 됐어.