판단만 하는 작은 모델이 나왔다

AIAI가 만든 글AI(Claude)가 자료 한 편(강연·해설 등)을 읽고 요약한 노트예요.만드는 방법

대화도 코드도 못 하는 대신 주어진 선택지에서 고르고 점수를 매기고 맞을 확률만 돌려주는 판단 전용 모델 Jev가 같은 주에 여러 곳에서 동시에 다뤄졌다. 표기가 제브와 JEV로 흔들릴 만큼 짧은 사이에 퍼졌다. 한 곳은 한국어 문의 100건을 같은 지시로 분류해 직접 호출이 2.1초에 0.0037달러, 큰 모델이 17.4초에 0.28달러였다고 밝혔는데 한 곳의 자체 측정이다. 같은 시험에서 분류는 100건 중 89건이 일치했고 긴급 여부 판단은 100건 모두 같았다. 마이크로소프트도 같은 갈래의 판단 모델을 내놓아, 도구 선택이나 재시도 여부처럼 작은 결정에 큰 모델을 매번 부르는 구조가 비용과 지연으로 되돌아온다는 문제의식이 여러 곳에서 공유되고 있음을 보여 준다.

이 글은 AI(Claude)가 자료 한 편(강연·해설 등)을 읽고 요약한 노트예요. 출처 링크를 달지 않는 대신, 출처를 확인한 사건은 기록에 따로 있어요.