StreamingLLM
StreamingLLM — attention sink 발견
왜 중요한가
초기 토큰이 어텐션 배수구 역할을 한다는 발견, 2년 뒤 gpt-oss가 학습 가능 sink로 채택
출처 — 1차 출처를 우선 확인하고, 2차 보도는 「보도」로 따로 표시해요
논문arxiv.orghttps://arxiv.org/abs/2309.174532026년 35주차에 더한 기록이에요 · 그 주 보기
StreamingLLM — attention sink 발견
초기 토큰이 어텐션 배수구 역할을 한다는 발견, 2년 뒤 gpt-oss가 학습 가능 sink로 채택
2026년 35주차에 더한 기록이에요 · 그 주 보기