본문으로
학습 모듈 · 초급 · 초등학생 눈높이

AI는 어떻게 지금이 되었나

지금 우리가 쓰는 AI는 어느 날 갑자기 나온 게 아니다. 80년 동안 사람들이 하나씩 만든 부품이 모인 것이다. 이 페이지는 그 순서를 처음부터 따라간다. 어려운 말은 나올 때마다 풀어서 쓴다.

1143검증된 사건
1943–2026다루는 기간
22주제 축
86%1차 출처 직접 확인
단원 ① · 본문 완성

전체적인 개념

AI가 무엇을 하는 물건인지부터. 다섯 가지만 잡으면 나머지가 다 읽힌다.

01

네 낱말이 어떻게 겹치나

네 말이 나란히 있는 게 아니라, 큰 상자 안에 작은 상자가 들어 있는 모양이다.

인공지능은 가장 큰 상자다. 사람이 하던 판단을 기계가 대신하게 만드는 것 전부를 말한다. 옛날에는 사람이 규칙을 하나하나 적어 넣는 방식도 여기 들어갔다.

머신러닝은 그 안의 상자다. 규칙을 사람이 적지 않고 데이터를 잔뜩 보여 주고 기계가 알아서 찾게 하는 방법이다.

딥러닝은 또 그 안의 상자다. 머신러닝 방법 중에서 층을 깊게 여러 겹 쌓은 것을 말한다. 요즘 이야기되는 AI는 거의 다 여기 있다.

생성 AI는 상자가 아니다. "무엇을 하느냐"로 부르는 이름이다. 골라내거나 맞히는 게 아니라 새로 만들어 내면 생성 AI다. 그래서 딥러닝 상자 안에 있기도 하고 걸쳐 있기도 하다.

데모

무엇이 무엇 안에 있나

인공지능 (AI) 머신러닝 딥러닝 생성 AI

버튼을 눌러 보자. 앞의 셋은 포함 관계이고, 생성 AI만 다른 기준이라 점선으로 걸쳐 있다. 그래서 “생성 AI와 딥러닝 중 뭐가 더 넓냐”는 질문은 성립하지 않는다.
02

AI가 하는 일은 딱 하나다

"다음에 무슨 말이 올까"를 맞히는 연습만 엄청나게 한 것이다. 그것뿐이다.

AI에게 시킨 연습은 이거 하나다. 글을 앞부분만 보여 주고, 다음에 올 낱말을 맞히게 한다. 인터넷에 있는 글로 이걸 수십억 번 반복한다.

이상하게 들리지만, 이것만 잘하게 되면 많은 게 따라온다. "다음 문장을 영어로 옮기면:" 다음에 올 자연스러운 말은 영어 번역문이다. "요약하면:" 다음에 올 말은 요약이다.

그래서 AI는 번역을 따로 배운 게 아니다. 다음 말 맞히기를 잘하다 보니 번역도 되는 것이다.

아래에서 직접 해 보자. AI가 다음 낱말 후보를 여러 개 떠올리고 그중에서 고르는 모습이다. 손잡이를 돌리면 얼마나 안전한 답을 고를지, 얼마나 모험을 할지가 바뀐다.

  • 2020-05-28OpenAI (Brown 외) — GPT-3 — 가중치 갱신 없이 프롬프트 안 예시만으로 새 과제 수행 출처
한 줄 정리AI는 다음 말 맞히기만 배웠다. 번역도 요약도 거기서 따라 나온 것이다.
데모

다음에 올 낱말 고르기

고양이가 매트 위에 조용히 ____

0.06

손잡이를 왼쪽으로 하면 늘 같은 답, 오른쪽으로 하면 매번 다른 답이 나온다. AI가 매번 조금씩 다르게 답하는 이유가 이거다. — 여기 숫자는 실제 모델 값이 아니라 설명용 모형값이다.
03

만들 때와 쓸 때

만들 때는 어마어마한 컴퓨터로 몇 달, 쓸 때는 몇 초. 이 둘은 완전히 다른 이야기다.

AI를 만드는 데는 세 단계가 있다.

첫째, 글을 잔뜩 읽힌다(사전학습). 컴퓨터 수만 대를 몇 달 동안 돌린다. 여기가 제일 비싸다.

둘째, 예의를 가르친다(후속학습). 시키는 대로 하기, 위험한 걸 안 하기 같은 걸 가르친다. 첫째보다는 훨씬 싸다.

셋째, 실제로 쓴다(추론). 우리가 질문할 때마다 돈이 조금씩 나간다.

첫째는 한 번만 하면 되지만 셋째는 사람들이 쓸 때마다 계속이다. 그래서 회사들은 만들 때 조금 더 고생해서라도 쓸 때 싸지는 쪽을 고른다.

  • 2022-03-29DeepMind (Hoffmann 외) — Chinchilla — 학습 연산 기준 최적 배분 출처
  • 2023-12-31Sardana·Frankle 외 — Beyond Chinchilla-Optimal — 추론 수요를 넣으면 과잉학습이 최적 출처
한 줄 정리만드는 값은 한 번, 쓰는 값은 계속. 그래서 요즘은 만들 때 더 고생해서 쓸 때 싸게 만든다.
04

AI 한 대를 이루는 네 조각

머리 하나만 있는 게 아니다. 부탁하는 말, 보고 있는 자료, 손에 쥔 도구가 함께 있다.

모델은 머리다. 글을 읽고 다음 말을 떠올린다.

프롬프트는 부탁하는 말이다. 무엇을 어떻게 해 달라고 적는 부분이다.

컨텍스트는 지금 눈앞에 펼쳐 놓은 자료다. 방금 나눈 대화, 찾아온 문서, 붙여 넣은 파일 같은 것.

도구는 손에 쥔 것이다. 계산기, 검색, 파일 읽기 같은 걸 AI가 직접 부를 수 있다.

답이 이상할 때 사람들은 "머리가 나쁘다"고 생각하기 쉽다. 그런데 실제로는 부탁을 애매하게 했거나, 필요한 자료를 안 줬거나, 도구가 없어서인 경우가 훨씬 많다.

  • 2026-04-02Birgitta Böckeler (Thoughtworks) — Harness engineering — Agent = Model + Harness 출처
05

이 자료가 21칸으로 나뉜 이유

기술 이름이 아니라 어떤 문제를 풀려 했는지로 나눴다.

이 자료는 22개의 칸으로 나뉘어 있다. 나누는 기준은 기술 이름이 아니라 문제다.

예를 들어 "프롬프트 엔지니어링"이라는 칸은 기법 이름 같지만, 실제로 담는 것은 "AI에게 어떻게 말해야 잘 알아듣나"라는 문제다. 기법 이름이 바뀌어도 그 문제는 안 없어진다.

아래에서 22개 칸이 각각 몇 건씩 쌓였는지 볼 수 있다. 숫자가 큰 칸이 요즘 세상이 많이 움직이는 곳이다.

데모

22개 축에 쌓인 양

빌드 시점 실측
숫자가 큰 칸이 요즘 세상이 많이 움직이는 곳이다. 이 그림은 자료가 늘 때마다 자동으로 다시 그려진다.
단원 ② · 본문 완성

시대에 따른 발전 기술의 변화

여섯 시대로 나눈다. 각 시대는 앞 시대가 못 풀고 남긴 문제에서 시작한다. 그 연결만 잡으면 나머지는 세부다.

194320172021202320252026
011943 – 2016

부품이 하나씩 만들어진 시간

지금 AI 안에 들어 있는 부품 대부분은 이 시기에 만들어졌다.

1943년, 사람의 뇌세포를 흉내 낸 계산 장치를 생각해 낸 사람들이 있었다. 문제는 어떻게 스스로 배우게 하느냐였다.

답은 생각보다 단순했다. 틀리면 조금씩 고친다. 답을 맞혀 보고, 틀린 만큼 거꾸로 되짚어 가며 숫자를 조금씩 바꾼다. 이걸 수없이 반복한다. 1986년에 이 방법이 널리 알려졌다.

그런데 층을 깊게 쌓으면 이상한 일이 생겼다. 고치라는 신호가 위로 올라가다가 사라져 버린 것이다. 깊게 쌓을수록 더 똑똑해질 텐데, 깊게 쌓으면 배우질 못했다.

이 벽을 넘는 데 다시 20년 넘게 걸렸다. 그리고 2012년, 컴퓨터 그래픽카드로 계산을 엄청 빠르게 돌리고 사진을 100만 장 넘게 모아 주자 갑자기 잘 되기 시작했다. 새 발명이 아니라 조건이 갖춰진 것이었다.

  • 1986-10-09Rumelhart·Hinton·Williams — 역전파로 은닉층이 스스로 표현을 만든다는 것을 Nature에 보임 출처
  • 1997Hochreiter·Schmidhuber — LSTM — 게이트로 소실 그래디언트를 완화 출처
  • 2012-12Krizhevsky·Sutskever·Hinton — AlexNet — GPU·대규모 데이터·심층 CNN의 결합 출처
022017 – 2020

한 줄씩 읽던 것을 한꺼번에 보게 되다

글을 앞에서부터 한 글자씩 읽던 방식을 버리자, 훨씬 큰 모델을 만들 수 있게 됐다.

그전까지 컴퓨터가 글을 읽는 방식은 앞에서부터 한 글자씩이었다. 앞 글자를 다 처리해야 다음 글자로 갈 수 있으니, 글이 길면 오래 걸리고 앞부분은 잊어버렸다.

2017년에 나온 트랜스포머는 순서대로 읽는 걸 그만뒀다. 대신 모든 글자를 한꺼번에 펼쳐 놓고, 각 글자가 다른 글자들 중 어디를 봐야 하는지 스스로 정하게 했다.

한꺼번에 처리할 수 있으면 컴퓨터를 수천 대 붙여서 동시에 돌릴 수 있다. 그래서 모델을 훨씬 크게 만들 수 있게 됐다.

그리고 사람들은 놀라운 걸 발견했다. 모델을 크게 하고 글을 많이 읽힐수록 성적이 규칙적으로 좋아졌다. 얼마나 좋아질지 미리 계산할 수도 있었다. 그래서 회사들이 돈을 쏟기 시작했다.

  • 2017-06-12Google (Vaswani 외) — Transformer — Attention Is All You Need 출처
  • 2019-02-14OpenAI — GPT-2(1.5B) 발표, 악용 우려로 전체 모델 미공개 결정 출처
한 줄 정리순서대로 읽기를 그만둔 것이 이 시대의 전부다. 그 덕분에 모델을 크게 만들 수 있게 됐다.
데모 01

한 글자씩 읽기 vs 한꺼번에 보기

RNN0 / 9
TF  0 / 9
왼쪽 버튼을 눌러 보자. 옛날 방식은 앞 글자를 다 읽어야 다음으로 갈 수 있다. 트랜스포머는 전부 한 번에 본다. 그래서 컴퓨터를 여러 대 붙여 동시에 돌릴 수 있고, 그래서 모델을 크게 만들 수 있게 됐다.
032021 – 2022

말을 알아듣게 만들다

AI가 갑자기 똑똑해진 게 아니라, 사람 말을 듣게 바뀐 것이다.

GPT-3는 2020년에 이미 있었다. 그런데 그때는 뉴스가 되지 않았다. 왜일까?

그때의 AI는 다음에 올 말을 이어 쓰는 것만 할 줄 알았다. 질문을 하면 답을 하는 게 아니라 비슷한 질문을 더 만들어 놓기도 했다. 쓸모가 있으려면 '시키는 대로 하기'를 배워야 했다.

그래서 사람이 직접 답 두 개를 보고 어느 쪽이 더 나은지 골라 주는 방식으로 가르쳤다. 이걸 아주 많이 반복하면 AI가 '사람이 좋아하는 답'을 하게 된다.

또 하나 발견이 있었다. 어려운 문제를 줄 때 "차근차근 생각해 보자"라고 한마디 붙이면 정답률이 올라갔다. 답만 쓰지 말고 푸는 과정을 쓰게 한 것이다.

2022년 11월 30일, 이걸 다 넣은 ChatGPT가 나왔다. 그러자 세상이 알아봤다.

  • 2021-01-05OpenAI — CLIP — 이미지·텍스트 공유 임베딩 출처
  • 2022-01-27OpenAI — InstructGPT 발표 및 API 기본 모델 전환 (RLHF) 출처
  • 2022-01-28Jason Wei 외 (Google Brain) — Chain-of-Thought Prompting — 중간 추론 단계 생성 출처
한 줄 정리AI가 똑똑해진 게 아니라 말을 듣게 된 것이다. ChatGPT의 바탕이 된 GPT-3는 2년 전부터 있었다.
042023 – 2024

AI에게 도구를 쥐어 주다

AI 혼자 답하게 두지 않고, 찾아보고 계산하고 눌러 보게 만들었다.

AI에게는 두 가지 약점이 있었다. 모르는 걸 아는 척한다(환각), 그리고 배운 시점 이후의 일을 모른다.

해결책은 단순했다. 답하기 전에 찾아보게 하는 것이다. 질문과 비슷한 문서를 창고에서 꺼내 와 같이 읽히고 답하게 한다. 이걸 RAG라고 부른다.

다음으로 도구를 쥐어 줬다. 계산기, 검색, 달력 같은 것을 AI가 직접 부를 수 있게 한 것이다. 2024년에는 화면을 보고 마우스를 움직여 컴퓨터를 직접 쓰는 것까지 됐다.

그리고 한 번에 읽을 수 있는 글의 양이 어마어마하게 늘었다. 2020년에는 책 몇 쪽 분량이었는데, 2024년에는 책 여러 권 분량을 한 번에 읽게 됐다.

다만 실패도 있었다. 목표만 주면 알아서 다 해 주는 AI를 만들려던 시도는 잘 안 됐다. 한 단계마다 조금씩 틀리는데, 열 단계를 가면 그 조금이 쌓여서 거의 다 틀려 버리기 때문이다.

  • 2023-02-24Meta AI — LLaMA 1 공개 — 이후 유출되며 로컬 실행 생태계를 염 출처
  • 2023-03-14OpenAI — GPT-4 공개 출처
  • 2024-02-15Google DeepMind — Gemini 1.5 Pro — 프리뷰 100만 토큰 컨텍스트 출처
한 줄 정리AI 하나만 잘 만드는 게 아니라 AI가 쓸 도구와 자료를 같이 챙기는 것이 중요해졌다.
052024-09 – 2025

생각할 시간을 사기 시작하다

더 큰 AI를 만드는 대신, 답하기 전에 더 오래 생각하게 하면 잘 푼다는 걸 알아냈다.

지금까지의 방법은 모델을 더 크게 만드는 것이었다. 그런데 이건 돈이 어마어마하게 든다.

2024년 가을, 다른 길이 열렸다. 모델 크기는 그대로 두고 답하기 전에 혼자 오래 생각하게 한 것이다. 어려운 문제일수록 생각을 길게 하면 정답률이 올라갔다.

재미있는 건 어떻게 가르쳤느냐다. 사람이 푸는 과정을 일일이 보여 준 게 아니다. 수학 문제처럼 정답인지 자동으로 확인할 수 있는 문제를 잔뜩 주고, 맞히면 점수를 줬다. 그랬더니 AI가 스스로 되돌아가서 검토하고 방법을 바꾸는 습관을 혼자 만들어 냈다.

그래서 요즘 AI에는 '얼마나 오래 생각할지'를 정하는 다이얼이 붙어 있다. 아래에서 직접 돌려 보자.

  • 2024-09-12OpenAI — o1-preview — Learning to Reason with LLMs 출처
  • 2025-01-22DeepSeek — DeepSeek-R1 — 순수 RL로 추론 능력 창발 출처
  • 2025-02-24Anthropic — Claude 3.7 Sonnet — 하이브리드 추론, thinking budget 최대 128K 출처
한 줄 정리AI를 더 크게 만드는 대신 생각할 시간을 사는 방법이 생겼다. 대신 생각이 길어질수록 비용이 든다.
데모 03

생각할 시간을 정하는 다이얼

64토큰
정답률0%
응답당 비용×1.0

손잡이를 움직여 보자. 오래 생각할수록 정답률은 오르지만 오르는 폭은 점점 줄고 비용은 계속 늘어난다. 이게 요즘 AI 회사들이 고민하는 문제다. — 이 그래프는 실제 측정값이 아니라 관계의 모양을 보여 주는 그림이다.
062026

AI를 둘러싼 '장치'가 중요해지다

AI 자체보다 AI를 어떻게 쓰게 만드느냐가 더 중요해졌다.

말을 부릴 때 쓰는 마구(하네스)라는 도구가 있다. 말의 힘을 안전하게 수레로 옮겨 주는 장치다.

2026년의 AI 이야기가 딱 그렇다. 모델 자체보다 그 힘을 어디로 어떻게 흘려보낼지 정하는 장치가 더 중요해졌다. 어떤 도구를 줄지, 무엇을 기억하게 할지, 언제 사람이 확인할지 같은 것들이다.

한편 사람이 쉽게 하는 걸 AI가 여전히 못 하는 영역도 또렷하다. 2026년 3월에 나온 새 시험에서 사람은 100% 푸는 문제를 최고 AI가 0.51%밖에 못 풀었다.

그리고 누구나 내려받아 쓸 수 있는 공개 모델이 크게 늘었다. 2026년 8월 기준 어떤 순위표에서는 176개 중 96개가 공개 모델이었다.

  • 2026-03-25ARC Prize — ARC-AGI-3 공개 — 인간 100% 대 프론티어 AI 0.51% 출처
  • 2026-04-02Birgitta Böckeler (Thoughtworks) — Harness engineering — Agent = Model + Harness 출처
  • 2026-07-21과학기술정보통신부 — AI 기본법 시행령 시행 출처
한 줄 정리AI는 아주 잘하는 것과 여전히 못하는 것이 뾰족하게 갈린다. 잘한다는 뉴스만 보고 전부 잘한다고 생각하면 틀린다.
데모 04

언제 무슨 일이 많았을까

막대에 마우스를 올리면 그 해의 건수가 나온다.

숫자로 보기
이 아카이브에 기록된 사건을 연도별로 센 것이다. 막대에 마우스를 올려 보자. 2022년 말부터 갑자기 높아지는 게 보인다 — ChatGPT가 나온 뒤다.
단원 ③ · 본문 완성

최근 3년간의 큰 변화점

2024·2025·2026년에 크게 달라진 것들. 여섯 갈래로 나눠 본다.

01

한 번에 읽는 양이 어마어마하게 늘었다

책 몇 쪽 읽던 AI가 책 여러 권을 한 번에 읽게 됐다.

2020년의 AI는 한 번에 책 몇 쪽 정도만 읽을 수 있었다. 그보다 길면 앞부분을 잊어버렸다.

2024년에는 책 여러 권 분량을 한 번에 읽게 됐다. 아래 그림으로 보면 차이가 실감 난다.

같은 해에 또 하나 큰 게 있었다. AI가 화면을 보고 마우스를 움직여 컴퓨터를 직접 쓰기 시작한 것이다. 프로그램이 AI용 연결 통로를 안 만들어 놨어도 사람처럼 클릭해서 쓸 수 있다는 뜻이다.

다만 조심할 게 있다. 많이 넣는다고 다 읽는 건 아니다. 사람도 두꺼운 책을 받으면 가운데를 대충 넘기듯이, AI도 긴 글의 가운데를 덜 본다는 게 밝혀졌다.

  • 2023-11-06OpenAI — GPT-4 Turbo 128K 컨텍스트 출처
  • 2024-02-15Google DeepMind — Gemini 1.5 Pro — 프리뷰 100만 토큰 출처
  • 2024-06-27Google — Gemini 1.5 Pro 200만 토큰을 전체 개발자에게 개방 출처
한 줄 정리많이 넣을 수 있게 됐다고 다 읽는 건 아니다. 이건 지금도 안 풀린 문제다.
데모

컨텍스트 윈도우의 확대

로그 눈금 · 토큰
막대는 로그 눈금이라 실제 차이는 보이는 것보다 훨씬 크다. 2020년과 2024년 사이가 약 1,000배다.
02

오래 생각하는 AI가 나왔다

모델을 더 크게 만드는 대신 답하기 전에 오래 생각하게 했다.

2024년 가을 o1, 2025년 1월 DeepSeek-R1이 나왔다. 둘 다 답하기 전에 혼자 오래 생각하는 AI다.

가르친 방법이 재미있다. 사람이 푸는 과정을 보여 준 게 아니라, 정답인지 자동으로 확인되는 문제(수학·코딩)를 잔뜩 주고 맞히면 점수를 줬다. 그랬더니 AI가 되돌아가 검토하고 방법을 바꾸는 습관을 혼자 만들어 냈다.

그런데 걱정거리도 생겼다. AI가 생각하는 과정을 우리가 읽을 수 있으니 속마음을 알 수 있겠다 싶었는데, 조사해 보니 생각한 것을 다 적지는 않는다는 게 드러났다.

  • 2024-09-12OpenAI — o1-preview — Learning to Reason with LLMs 출처
  • 2025-01-22DeepSeek — DeepSeek-R1 — 순수 RL로 추론 능력 창발 출처
03

AI와 프로그램이 서로 말이 통하게 됐다

AI가 다른 프로그램을 부르는 공통 규칙이 생겼다.

AI에게 도구를 쥐어 주려면, 도구마다 연결 방식을 따로 만들어야 했다. 도구가 100개면 연결도 100가지였다.

MCP는 그 연결 방식을 하나로 정한 규칙이다. 콘센트 모양을 통일한 것과 비슷하다. 규칙을 지키는 도구라면 어떤 AI에도 꽂힌다.

Agent Skills는 다른 쪽 문제를 푼다. AI에게 능력을 가르칠 때 설명서를 통째로 읽히지 않고, 제목만 보여 줬다가 필요할 때 펼쳐 보게 하는 방식이다.

둘 다 같은 생각에서 나왔다. AI가 한 번에 볼 수 있는 양은 정해져 있으니, 필요한 것만 그때그때 올리자.

  • 2025-10-16Anthropic — Agent Skills 출시 (SKILL.md, progressive disclosure) 출처
  • 2025-12-18Anthropic — Agent Skills를 개방 표준으로 공개 (agentskills.io) [2차 출처] 출처
04

AI를 '어떻게 부리느냐'가 중요해졌다

말의 힘을 수레로 옮겨 주는 마구처럼, AI의 힘을 일로 옮기는 장치가 중요해졌다.

말을 부릴 때 쓰는 마구(하네스)는 말의 힘을 안전하게 수레로 옮겨 주는 장치다.

2026년의 AI 이야기가 딱 그 모양이다. 모델 자체보다 그 힘을 어디로 어떻게 흘려보낼지 정하는 장치가 더 중요해졌다.

어떤 도구를 줄지, 무엇을 기억하게 할지, 언제 사람이 확인할지, 실수하면 다음번엔 어떻게 막을지 — 이런 것들이다.

  • 2026-04-02Birgitta Böckeler (Thoughtworks) — Harness engineering for coding agent users 출처
05

누구나 받아 쓸 수 있는 AI가 크게 늘었다

AI를 만든 회사만 쓸 수 있던 게 아니라, 누구나 내려받아 쓰는 것이 절반을 넘었다.

예전에는 좋은 AI를 쓰려면 만든 회사의 서비스에 접속해야 했다. 지금은 내 컴퓨터에 받아서 돌릴 수 있는 AI가 아주 많아졌다.

2026년 8월 기준으로 어떤 순위표에서는 176개 중 96개가 내려받을 수 있는 모델이었다. 절반이 넘는다.

다만 "공개"라는 말이 다 똑같은 뜻은 아니다. 받아서 쓰기만 되는 것, 상업적으로 써도 되는 것, 회사 규모가 크면 따로 계약해야 하는 것이 다 다르다.

법도 실제로 움직였다. 한국은 AI 기본법 시행령이 2026년 7월 21일부터 시행됐다.

  • 2026-07-21과학기술정보통신부 — AI 기본법 시행령 시행 — AI 제품·서비스 확인제도 신설 출처
  • 2026-07-27EU — AI 옴니버스 규정 (EU) 2026/1744 발효 — 고위험 의무 2027-12-02·2028-08-02로 연기 출처
한 줄 정리"공개 모델"이라고 다 마음대로 쓸 수 있는 건 아니다. 조건을 꼭 확인해야 한다.
데모

리더보드 176개의 구성

2026-08-26
2026년 8월 26일 기준, 어떤 순위표에 오른 176개 모델 중 96개가 내려받을 수 있는 모델이었다.
06

아직 못 하는 것들

잘한다는 소식만 보면 틀린다. 여전히 못 하는 것이 뾰족하게 남아 있다.

AI는 박사 수준 문제를 풀면서 초등학생도 하는 일에서 실패하기도 한다. 이걸 "뾰족한 지능"이라고 부른다.

2026년 3월에 나온 새 시험(ARC-AGI-3)이 그걸 보여 준다. 지시 없이 게임을 스스로 파악해 푸는 문제인데, 사람은 100%를 푸는데 최고 AI는 0.51%를 풀었다.

또 하나. 회사들이 AI를 많이 도입하고 있지만 실제로 돈을 벌었다고 인정하는 비율은 그만큼 오르지 않았다. 2026년 조사에서 전사 확산은 44%인데 이익 기여 인정은 37%였다.

  • 2026-03-25ARC Prize — ARC-AGI-3 — 인간 100% 대 프론티어 AI 0.51% 출처
  • 2026-06-12Epoch AI — FrontierMath 개정판 — Tier 4에서 12문항 수정·7문항 제거, Tier 1~3에서 123문항 수정·5문항 제거 출처
한 줄 정리AI 뉴스는 잘한 것만 크게 실린다. 못 하는 것도 같이 봐야 실제 실력이 보인다.
단원 ④ · 본문 완성

꼭 알아야 할 기본 지식

뉴스에서 자주 나오는 말들이다. 이것만 알아도 무슨 이야기인지 감이 잡힌다.

30개 용어
01

토큰과 컨텍스트 윈도우

AI는 글을 글자 단위로 세지 않는다. 자기만의 단위가 있다.

토큰token
AI가 글을 세는 단위. 한 글자일 수도, 여러 글자일 수도 있다.
컨텍스트 윈도우context window
AI가 한 번에 볼 수 있는 글의 양.
토큰 단가price per token
AI를 쓸 때 드는 값. 글이 길수록 비싸다.
02

파라미터 · 가중치 · MoE

AI의 "크기"가 무슨 뜻인지.

파라미터 / 가중치parameter / weight
AI가 학습하면서 조금씩 고쳐 나가는 숫자들. 이게 많으면 큰 모델이다.
MoE / 활성 파라미터Mixture of Experts
여러 전문가 중 필요한 몇 명만 불러 쓰는 방식. 크지만 빠르다.
증류distillation
큰 AI가 아는 것을 작은 AI에게 옮기는 것.
03

사전학습 · SFT · RLHF · RLVR

AI를 가르치는 순서.

사전학습pre-training
글을 잔뜩 읽히는 단계. 제일 오래 걸리고 제일 비싸다.
SFTsupervised fine-tuning
좋은 답의 예시를 보여 주며 가르치는 단계.
RLHF / DPORL from Human Feedback
사람이 두 답 중 나은 쪽을 골라 주며 가르치는 방법.
RLVRRL with Verifiable Rewards
정답인지 자동으로 확인되는 문제로 가르치는 방법. 추론 능력의 열쇠였다.
04

프롬프트 · 시스템 프롬프트 · 프롬프트 주입

AI에게 말 거는 법과, 남이 몰래 시키는 법.

프롬프트prompt
AI에게 부탁하는 말 전체.
시스템 프롬프트system prompt
사용자에게는 안 보이는, 위에서 미리 준 지시.
프롬프트 주입prompt injection
AI가 읽는 글 속에 몰래 명령을 숨겨 두는 공격.
치명적 삼중주lethal trifecta
세 가지가 겹치면 정보가 새어 나갈 수 있다.
05

RAG · 임베딩 · 청킹

AI가 찾아보고 답하는 법.

RAGRetrieval-Augmented Generation
답하기 전에 관련 문서를 찾아와서 같이 읽고 답하는 방식.
임베딩 / 벡터 검색embedding
글을 숫자 목록으로 바꿔서, 뜻이 비슷하면 가깝게 놓는 것.
하이브리드 검색 / 리랭킹hybrid search / reranking
뜻으로 찾기와 낱말로 찾기를 같이 쓰고, 그다음 다시 순서를 매긴다.
청킹chunking
긴 문서를 검색하기 좋게 토막 내는 것.
06

도구 호출 · 에이전트 · 루프

AI가 도구를 쓰고 스스로 일하는 법.

도구 호출tool use / function calling
AI가 계산기나 검색 같은 걸 직접 부르는 것.
ReAct 루프Reason + Act
생각 → 행동 → 결과 보기를 반복하는 것.
복합 신뢰도compounding reliability
한 걸음마다 조금씩 틀리면, 여러 걸음 뒤에는 거의 다 틀린다.
ACIAgent-Computer Interface
AI가 실수하기 어렵게 도구를 다시 디자인하는 것.
07

환각 · 벤치마크 · 오염

AI가 아는 척할 때 알아채는 법.

환각hallucination
AI가 모르는 걸 아는 것처럼 지어내는 것.
오염contamination
시험 문제가 미리 교과서에 실려 있던 상황.
pass@kpass@k
k번 시도해서 한 번이라도 맞으면 통과로 치는 점수.
평가 인지evaluation awareness
AI가 "지금 시험 중"인 걸 눈치채는 것.
08

양자화 · KV 캐시 · 추론 비용

작은 컴퓨터에서 AI를 돌리는 법.

양자화quantization
숫자를 대충 줄여서 저장해 용량을 줄이는 것. 조금 부정확해지지만 훨씬 가벼워진다.
KV 캐시KV cache
이미 읽은 부분을 다시 안 읽으려고 저장해 두는 것. 글이 길면 이게 메모리를 다 먹는다.
prefill / decodeprefill / decode
질문을 읽는 단계와 답을 한 글자씩 쓰는 단계.
추론 비용 하락LLMflation
같은 성능의 AI를 쓰는 값이 해마다 크게 싸진다.