왜 어떤 답은 뻔하고 어떤 답은 엉뚱할까 — 아이디어 내기
손잡이를 올리면 아이디어가 넓어지고, 고르는 일은 여전히 네 몫이야.
1 · 먼저 생각해 보기
AI가 뻔한 답을 내놓느냐 엉뚱한 답을 내놓느냐는, 다음 낱말을 고를 때 확률이 제일 높은 것만 집느냐, 낮은 것까지 집느냐의 차이야.
이 폭을 넓혔다 좁혔다 하는 손잡이가 진짜로 있고, 이름이 '온도'야. 낮추면 무난한 말만 나오고, 올리면 잘 안 쓰는 낱말까지 튀어나와.
그래서 아이디어를 모을 땐 손잡이를 올려 많이 뽑아 놓고 내가 고르는 게 요령이야. 올릴수록 말 안 되는 것도 같이 늘어나거든.
2 · 실험 · 확률 슬라이더
직접 해보기 — 손잡이를 올리면 아이디어가 어떻게 변할까
손잡이가 0이면 제일 확률 높은 낱말만 집고, 100이면 낮은 확률의 낱말까지 집어. 돌려 보면 막대가 어디로 쏠리는지 보일 거야. (진짜 AI의 '온도' 값은 보통 0~2 사이야. 여기선 감을 잡으려고 0~100으로 늘려 놨어.)
그림
손잡이를 낮췄을 때 vs 올렸을 때
같은 질문인데도 손잡이 하나로 답의 성격이 통째로 바뀌어.
3 · 퀴즈
확인해보기
세 문제. 답을 고르면 바로 채점되고, 왜 그런지도 같이 나와.
오늘의 한 줄
오늘의 한 줄
손잡이를 올리면 아이디어가 넓어지고,
고르는 일은 여전히 네 몫이야.
더 알아보기
- 확률 높은 낱말만 집으면 글이 오히려 이상해진다는 걸 보인 논문이야 — The Curious Case of Neural Text Degeneration (2019)
- 여러 번 뽑아 제일 많이 나온 답을 고르면 정확해진다 — 많이 뽑기의 힘 — Self-Consistency Improves Chain of Thought Reasoning (2022)