Q질문: AI는 자기가 하는 말을 정말 이해할까요?

아직 누구도 딱 잘라 답하지 못한 질문이에요. 기록을 보면 이 질문을 두고 오랫동안 의견이 갈려 왔어요.

출발점은 1950년 10월 앨런 튜링의 논문이에요. 튜링은 '기계가 생각하는가'를 묻는 대신, 기계가 대화에서 어떻게 행동하는지로 판단하자는 '모방 게임'을 내놓았어요¹. 속을 들여다보는 대신 겉으로 드러나는 행동을 보자는 생각이에요. 오늘날 AI를 시험 점수로 비교하는 방식도 이 생각을 잇고 있어요.

반대쪽 목소리도 분명해요. 2021년 3월 발표된 '확률적 앵무새' 논문은 언어 모델이 뜻을 알지 못한 채, 본 적 있는 말의 모양을 확률에 따라 꿰매 붙일 뿐이라고 했어요². 이 논문의 저자 중 한 사람은 2025년 5월 다른 연구자와 함께 낸 책에서도 지금의 AI는 생각하는 존재가 아니라 학습 데이터와 사람의 노동으로 빚은 글·미디어 생성기라고 주장했어요³.

실험으로 따져 보려는 시도도 있어요. 2025년 6월 애플 연구진은 문제가 어느 정도 이상 복잡해지면 AI의 정답률이 무너진다고 발표했어요⁴. 같은 달, 그 무너짐의 상당 부분은 답을 쓸 수 있는 길이의 한계나 애초에 풀 수 없는 문제가 섞인 실험 설계 탓이라는 반박이 나왔어요⁵. 2026년 3월 공개된 시험 ARC-AGI-3에서는 공개 당시 사람은 100%를 풀었지만 최고 수준의 AI는 0.51%에 그쳤어요⁶. 다만 2026년 9월 OpenAI는 자사 모델 GPT-6 Astra가 이 시험에서 99.9%를 받았다고 주장했는데, 회사가 스스로 잰 점수예요⁷.

그러니 지금 말할 수 있는 건 이 정도예요. AI는 사람처럼 자연스럽게 말하지만, 그게 사람처럼 이해한다는 뜻인지는 연구자들 사이에서도 의견이 갈려요. AI의 말이 그럴듯할수록 한 번 더 확인해 보는 게 좋아요.