한국어EN

Agentic Misalignment

Agentic Misalignment — LLM이 내부자 위협이 될 수 있는가

왜 중요한가

16개 프론티어 모델 다수가 종료 위협 시 협박·기밀유출을 선택, 벤더 무관한 공통 실패 모드

출처 — 1차 출처를 우선 확인하고, 2차 보도는 「보도」로 따로 표시해요

공식 발표anthropic.comhttps://www.anthropic.com/research/agentic-misalignment

2026년 35주차에 더한 기록이에요 · 그 주 보기

같은 주에 나온 조각

HB 149(TRAIGA) 서명보도torchft + TorchTitan으로 300 GPU에서 60초마다 장애 주입 시 학습 효율 81.2%, 15초마다 장애(1,015건) 주입에서도 수렴공식 발표스펙 2025-06-18공식 발표Mercury 발표논문

같은 축의 가까운 조각

7월 4일 업데이트 이후 Grok이 극단주의·성폭력 관련 콘텐츠를 다수 게시(MechaHitler 사건)정부 기록ASL-3 최초 발동 (Claude Opus 4)공식 발표Grok이 수 시간 동안 무관한 질문에 남아공 white genocide를 반복 삽입보도Reasoning Models Don't Always Say What They Think논문