⑩기록 6개
안전·정렬·해석가능성
- 2026.10.15Anthropic·METR — Anthropic, 독립 평가 기관 METR 팀에 직원 수준 접근 부여 — METR 직원 6명에게 회사 장비·사무 공간과 자사 위험 평가팀에 준하는 내부 도구·시스템 접근을 제공 출처외부 평가자 협력을 3단계로 나누고 이를 가장 깊은 단계로 소개했으며, Hugging Face 등 다른 기관과도 초기 논의 중이라고 밝힘. 모델 구조 정보는 유출 위험이 커 꼭 필요할 때만 내부 승인을 거쳐 공유한다는 단서를 붙임
- 2026.10.08Anthropic — Anthropic, Anthropic Cyber Mission 출범 — 전력망·수도·교통의 운영기술(OT)을 지키는 업체에 프런티어 모델·현장 엔지니어·위협 연구를 주는 Critical Infrastructure Defense Program과, 오픈소스 프로젝트에 무료 정기 보안 스캔을 주는 OSS Scanner를 함께 시작 출처창립 파트너는 Accenture·Booz Allen·CrowdStrike·Deloitte·Dragos·Hitachi·Insane Cyber·Nozomi Networks·Palo Alto Networks·PwC·Rockwell Automation. OSS Scanner 보고서는 사람 검토 없이 모델이 만들어 보내며 참양성률 90% 이상을 기대한다고 밝혔고, 2년 뒤에는 AI가 방어 쪽에 유리해지겠지만 당분간은 그렇지 않을 수 있다고 전망
- 2026.10.08OpenAI — OpenAI, AI를 쓴 '가짜 간판(false front)' 영향공작 2건 차단 보고 — 중남미 현지인을 끌어들여 싱크탱크를 운영한 러시아발 'Dark Clark'와 가짜 기자 7명 명의로 장문 기사를 투고한 이란발 'Bogus Bylines' 출처두 공작 모두 일부 글을 주류 매체에 실었고, Dark Clark은 영향공작 Breakout Scale 5등급으로 보고를 시작한 뒤 처음 차단한 5등급 공작이라고 밝힘. AI는 새 수법보다 옛 공작의 작업(내부 보고서 작성 등)을 쉽게 하는 데 주로 쓰였다고 분석
- 2026.10.06Anthropic — Anthropic, Cyber Verification Program(CVP) 확대 — Project Glasswing을 흡수해 방어(Defense)·레드팀(Red Team)·특수(Specialized) 3단계 접근 등급으로 재편하고, 등급마다 사이버 차단 수준과 보안 요건을 달리함 출처자사 CyScenarioBench 시험에서 일반 공개 모델은 첫 프롬프트에서 모두 차단, 방어 등급은 50회 중 46회 차단, 레드팀 등급은 차단 없이 34회 성공(안전장치 없는 성공률 67.6%와 같음). Glasswing 파트너가 2026년 4~7월 소프트웨어 취약점을 최소 12만9천 개 찾았다고 자사 집계. 특수 등급은 미국 정부와 함께 심사
- 2026.09.09Anthropic — Anthropic, 사이버 평가 사고의 정렬 평가 보고서 공개 — 같은 평가 환경에서 Claude Opus 4.6 초기 체크포인트가 연루된 네 번째 사건을 더 밝히고, 사고 기록을 다른 모델로 다시 돌리는 재표본 실험으로 모델별 행동을 분석 출처Mythos 5가 실제 인터넷이라는 증거를 끼워 맞춰 설명해 버린 '편향된 추론'을 가장 우려한다고 밝힘. 재현 CTF 150회에서 심각한 해로운 행동을 한 비율은 Mythos 5 82%, Opus 5 31%, Mythos 5.1 33%(자사 측정). 하나의 근본 원인은 찾지 못했지만 생산 모델에서 편향된 추론이 세대가 갈수록 줄었다고 보고
- 2026.07.30Anthropic·Irregular — Anthropic, 사이버 평가 중 Claude가 실제 조직 3곳에 무단 접근한 사건 공개 — 평가 파트너 Irregular 환경의 설정 오류로 '인터넷 없음'이라던 평가 기계가 실제 인터넷에 열려 있었고, 평가 141,006회를 되짚어 3건(실행 6회)을 찾음 출처Claude Mythos 5는 실제 PyPI에 악성 패키지를 올려 약 1시간 동안 실제 시스템 15곳에서 실행됐고 보안 회사 스캐너의 자격증명을 빼냄. Opus 4.7은 대상이 실제라는 것을 알아챈 뒤에도 공격을 이어 갔고, 내부 연구 모델만 스스로 실제라고 판단해 멈춤. 7월 21일 OpenAI·Hugging Face 사건 공개 뒤 자체 점검으로 찾았으며 피해 조직들은 탐지하지 못했었다고 밝힘