컴퓨터는 '사과'라는 말을 어떻게 알아들을까? — 뜻을 숫자로
뜻을 숫자 묶음으로 바꾸면, 비슷하다는 말이 '가깝다'가 돼.
AIAI가 만든 글이 수업은 AI(Claude)가 쓰고 자동 점검을 거쳐 올렸어요. 운영자는 규칙을 정하고, 모든 수업을 읽지는 않아요.만드는 방법
1 · 먼저 생각해 보기
컴퓨터는 글자를 모르고 숫자만 다뤄. 그래서 단어 하나를 숫자 여러 개가 묶인 값으로 바꿔 놓고 써.
아무 숫자나 붙이는 건 아니야. 같이 쓰이는 말이 비슷하면 숫자도 비슷해지게 배워서, 뜻이 가까운 말끼리 가까운 자리에 놓이거든.
뜻이 자리로 바뀌면 가깝다·멀다를 계산으로 잴 수 있어. 이게 내일 배울 '비슷한 것 찾기'의 바탕이야.
2 · 실험 · 쪼개보기
직접 해보기 — 단어를 뜻 조각으로 켜고 꺼 보기
단어 하나를 일곱 칸짜리 숫자 묶음이라고 치자. 단어를 바꿔 누르면 어떤 칸이 켜지는지 보여. 켜진 칸이 많이 겹칠수록 가까운 단어야.
그림
글자로 볼 때 vs 숫자 묶음으로 볼 때
같은 단어라도 어떻게 담아 두느냐에 따라 할 수 있는 일이 달라져.
3 · 퀴즈
확인해보기
세 문제. 답을 고르면 바로 채점되고, 왜 그런지도 같이 나와.
오늘의 한 줄
오늘의 한 줄
뜻을 숫자 묶음으로 바꾸면,
비슷하다는 말이 '가깝다'가 돼.
더 알아보기
- 2013년 word2vec 논문 — 단어를 숫자 묶음으로 배치하는 방식을 널리 퍼뜨렸어 — Efficient Estimation of Word Representations (2013)
- 2003년 논문. 단어를 숫자 묶음으로 배우는 발상의 앞선 뿌리야 — A Neural Probabilistic Language Model (2003)