Monitoring Reasoning Models for Misbehavior
Monitoring Reasoning Models for Misbehavior
왜 중요한가
CoT를 직접 최적화하면 reward hacking이 은폐형으로 진화, CoT에 최적화 압력을 걸지 말라는 규범의 근거
출처 — 1차 출처를 우선 확인하고, 2차 보도는 「보도」로 따로 표시해요
논문arxiv.orghttps://arxiv.org/abs/2503.119262026년 35주차에 더한 기록이에요 · 그 주 보기