Q질문: 챗봇은 어떻게 사람처럼 말하게 됐어요?

한 번에 된 일이 아니라, 여러 걸음이 차례로 쌓인 결과예요. 바탕에는 지금까지의 글을 보고 다음에 올 말을 맞히는 단순한 연습이 있어요.

먼저 2003년 요슈아 벤지오 연구팀이 신경망으로 만든 언어 모델을 내놓았어요. 단어를 숫자 묶음(벡터)으로 바꿔 배우게 한 이 연구는, 이후 단어를 숫자로 나타내는 여러 연구의 직접적인 출발점이 됐어요¹.

2017년 6월 구글 연구진이 발표한 트랜스포머는 문장을 한 단어씩 차례로 읽지 않고도 한꺼번에 학습할 수 있게 했어요. 덕분에 아주 많은 글로 미리 학습시키는 일이 가능해졌어요². 2020년 5월 나온 GPT-3(175B)는 이렇게 크게 키운 모델인데, 모델을 다시 학습시키지 않고도 질문 속 예시만 보고 새 일을 해냈어요³.

하지만 글을 이어 쓰는 것과 사람의 부탁을 잘 따르는 것은 달랐어요. 2022년 1월 OpenAI는 InstructGPT를 내놓으며, 질문을 잘 써 주는 것만으로는 끌어내기 어려웠던 능력을 열었다고 밝혔어요⁴. 2022년 3월 공개된 논문에서는 사람이 더 나은 답을 고른 기록으로 다듬은 1.3B 모델의 답을, 사람들이 175B GPT-3의 답보다 더 좋아했어요. 이 방법(RLHF)은 AI를 다듬는 표준 절차가 됐어요⁵. 그리고 2022년 11월 30일 ChatGPT가 대화창으로 공개되면서, 전문가가 아니어도 누구나 AI와 말을 주고받게 됐어요⁶.

정리하면, 챗봇의 말솜씨는 엄청난 양의 글로 다음 말을 맞히는 연습을 하고, 사람이 고른 답으로 다듬은 결과예요. 말을 잘한다고 늘 맞는 말을 하는 건 아니라는 점도 함께 기억해 두세요.