SemiAnalysis의 실제 에이전트 코딩 트레이스를 기반으로 한 공개 벤치마크 AgentX에 맞춘 최적화 결과를 발표함
AIAI가 만든 글AI(Claude)가 출처를 읽고 쓴 기록이에요. 중요한 내용은 아래 출처에서 확인해 주세요.만드는 방법
SemiAnalysis의 실제 에이전트 코딩 트레이스를 기반으로 한 공개 벤치마크 AgentX에 맞춘 최적화 결과를 발표함. AgentX 워크로드는 중앙값 43턴, 입력 중앙값 142K 토큰·출력 444 토큰, 프리픽스 캐시 적중률 96% 이상이 특징임. KV 캐시 관리·병렬화 전략·prefill/decode 분리 세 층을 최적화해 자사 주장으로 DeepSeek V4 Pro는 GB300 12장·동시 세션 256에서 GPU-초당 83K 토큰(P90 상호작용성 58.3 tok/s), MiniMax M3는 B300 2장에서 70K TPGS(74.2 tok/s), Kimi K3는 GB300 16장에서 11.8K TPGS(62.7 tok/s)를 기록함. Opus 5 API 대비 서빙 비용이 각각 106배·85배·14.6배 저렴하다고 주장하나 이는 96% 이상 캐시 적중률을 가정하고 Opus의 캐시 쓰기 요금을 제외한 비교임.
왜 중요한가
에이전트 코딩이 추론 서빙의 대표 워크로드가 되면서 벤치마크의 목표 자체가 단발 처리량에서 장기 멀티턴 세션 경제성으로 옮겨 갔다.
출처 — 1차 출처를 우선 확인하고, 2차 보도는 「보도」로 따로 표시해요
공식 발표vllm.aihttps://vllm.ai/blog/2026-09-08-vllm-agentx2026년 38주차에 더한 기록이에요 · 그 주 보기
노선도에서 — ⑯ 평가·벤치마크 노선
- 앞 역RealSWE
- 이 기록SemiAnalysis의 실제 에이전트 코딩 트레이스를 기반으로 한 공개 벤치마크 AgentX에 맞춘 최적화 결과를 발표함
- 다음 역Verifiable Social Reasoning 공개