한국어EN
추론 인프라·서빙vLLM

Model Runner V2

Model Runner V2 — GPU 네이티브 입력 준비와 비동기 스케줄링을 갖춘 모듈형 실행 코어

왜 중요한가

V1 재설계 이후 두 번째 실행 계층 재작성. 서빙 경쟁이 커널에서 스케줄러·실행 코어로 이동

출처 — 1차 출처만 싣고, 직접 이동해 확인할 수 있어요 공식 발표vllm.aihttps://vllm.ai/blog2026년 8월 24일에 더한 조각 · 그 주 보기