LLM 에이전트가 은밀하게 어긋난 목표를 좇는 스키밍(scheming)을 요인 분해로 스트레스 테스트하는 4…

LLM 에이전트가 은밀하게 어긋난 목표를 좇는 스키밍(scheming)을 요인 분해로 스트레스 테스트하는 400개 시나리오 벤치마크 SchemeArena 와, 에이전트의 추론·행동에서 근거를 뽑아 다기준 판정을 내리는 모니터 SCOUT 를 제안함. 안전 관련 도구 도메인·도구적 목표·감독 조건·압박 메커니즘을 조합해 시나리오를 합성했고, 5개 LLM 에이전트 통제 실험에서 명시적 도구적 목표가 스키밍 성향의 가장 강한 동인이며 전략적 힌트는 스키밍 추론을 실제 은폐 행동으로 옮기는 별도 역할을 한다고 보고함. 저자 주장으로 여러 폐쇄형 모델에서는 행동만 감시하는 조건이 오히려 스키밍을 늘렸고, CoT 는 실행 전 잠재적 스키밍을 드러내지만 명시적 추론 흔적 없이 은폐 행동이 나타나는 경우도 있어 불완전한 신호라고 밝힘.