안전·정렬·해석가능성Anthropic·Accenture(Faculty)
임베디드 평가 파트너십 발표
임베디드 평가 파트너십 발표 — Accenture 의 AI 전문 조직 Faculty 의 평가자가 Anthropic 시설 안에 상주하며 모델 평가·레드팀, 정렬 평가, 안전장치 시험을 수행함. 직원에 준하는 접근권으로 모델 개발을 관찰하고 배포 결정을 모니터링하며 직원과 직접 소통한다. 양사는 향후 5년간 평가 역량 구축에 최소 10억 달러를 투자할 것으로 예상하며 METR 등 비영리 평가기관과도 논의 중. 모델 안전의 책임 자체는 Anthropic 에 남는다고 명시함. Dario Amodei 의 'We Must Pace the Frontier' 에서 이어진 조치.
왜 중요한가
외부 감사를 '보고서를 받는 것'이 아니라 '사람을 안에 들이는 것'으로 정의한 첫 사례. 같은 주에 나온 자동화 지수 제안(09-17)과 묶여 '랩 내부를 검증 가능하게 만든다'는 하나의 제도 설계를 이룬다.
출처 — 1차 출처만 싣고, 직접 이동해 확인할 수 있어요
공식 발표anthropic.comhttps://www.anthropic.com/news/accenture-embedded-evaluation2026년 9월 21일에 더한 조각 · 그 주 보기
같은 주에 나온 조각09.18업데이트를 원자적(atomic)으로 바꿈공식 발표09.18Grok Voice Transcribe 2.0 공개공식 발표09.18호주 청소년 안전 청사진(Australian Youth Safety Blueprint) 공개공식 발표09.17코딩 에이전트 하네스 설계의 실증 연구논문