한국어EN
추론 인프라·서빙OpenAI

GPT-6 프롬프트 캐싱 개편

GPT-6 프롬프트 캐싱 개편 — 캐시 유효 구간을 30분으로 늘리고 캐시 입력 토큰에 최대 90% 할인을 적용. 명시적 캐시 브레이크포인트, 대화 중간에 추론 강도를 바꿔도 캐시가 깨지지 않는 configuration_update, allowed_tools 로 도구 목록이 바뀌어도 캐시를 유지하는 기능, 캐시 예열, 적중률·미스 원인을 보는 대시보드와 진단 도구를 함께 공개. 자사 제시 사례로 GitHub Copilot 이 신규 처리 토큰을 50% 이상 줄였고, 한 파트너는 적중률 83%→91% 로 올려 추론 비용을 36% 절감

왜 중요한가

장기 에이전트 루프의 과금이 캐시 설계에 달려 있다는 점을 API 표면으로 끌어올린 변화다. 도구 목록 변경과 추론 강도 조정을 캐시 무효화 사유에서 뺀 것은, 한 세션이 몇 시간씩 도구를 갈아 끼우며 도는 에이전트를 1급 사용 패턴으로 인정했다는 뜻이다

출처 — 1차 출처만 싣고, 직접 이동해 확인할 수 있어요 공식 발표openai.comhttps://openai.com/index/better-prompt-caching-for-gpt-6/2026년 9월 28일에 더한 조각 · 그 주 보기