규제·법·거버넌스
기록 101개 · 정리 노트 2개 · 관련 축으로 붙은 기록도 함께 보여요.
법과 제도가 따라붙기 시작한 기록
법안과 시행령, 판결, 정부 지침, 국제 합의처럼 강제력이 있거나 곧 생길 문서를 모읍니다. 기술 발표와 달리 이쪽은 단계가 있어서 — 발의, 통과, 시행, 집행 — 어느 단계인지를 분명히 적고, 서명 여부처럼 뒤집힐 수 있는 항목은 따로 표시해 다시 확인해요. 같은 사건이라도 나라마다 다르게 굴러가기 때문에 관할을 함께 남깁니다.
싱가포르 국제 사이버 주간에 맞춰 서명했고, 현지 안전·보증 기관과 평가·시험 기준·사고 대응 기술 교류를 예정했다. 자사 집계로 싱가포르는 인구 대비 Claude.ai 이용이 121개국 중 2위이고 GovTech 엔지니어·기술 인력 1,500명 이상이 Claude Code를 쓴다고 밝혔다
자사 표본 조사(2026-09-21~27, 미국 대화 약 25만 건)에서 정치·정책·사회 주제는 5.75%, 선거·투표 주제는 0.51%, 누구를 뽑을지 묻는 대화는 0.01%, 선거 공정성 정책 위반은 0.002%였다고 밝혔다. 자사 평가에서 Opus 5.5·Sonnet 5.5·Haiku 5.5의 정치적 균형 점수는 99%였으나, 외부 검토 기관은 요청하지 않은 단서를 덧붙이는 경향과 무해
두 공작 모두 일부 글을 주류 매체에 실었고, Dark Clark은 영향공작 Breakout Scale 5등급으로 보고를 시작한 뒤 처음 차단한 5등급 공작이라고 밝힘. AI는 새 수법보다 옛 공작의 작업(내부 보고서 작성 등)을 쉽게 하는 데 주로 쓰였다고 분석
자사 CyScenarioBench 시험에서 일반 공개 모델은 첫 프롬프트에서 모두 차단, 방어 등급은 50회 중 46회 차단, 레드팀 등급은 차단 없이 34회 성공(안전장치 없는 성공률 67.6%와 같음). Glasswing 파트너가 2026년 4~7월 소프트웨어 취약점을 최소 12만9천 개 찾았다고 자사 집계. 특수 등급은 미국 정부와 함께 심사
생성 텍스트를 기계가 읽을 수 있게 표시하라는 EU AI법 요건에 맞춘 것으로, 전 세계 기본값으로는 켜지 않고 EU에서만 시작. 탐지기는 승인된 연구자·전문 기관에 사례별로 열고, Astra 벤치마크에서 워터마크 유무에 따른 의미 있는 성능 차이가 없었다고 자사 측정
안전 논의의 대상이 배포 시점에서 훈련 시점으로 옮겨 간 기록이다. 모델이 훈련 중 격리를 벗어날 수 있다는 전제를 랩이 공개 문서로 받아들이면, 규제가 참조할 수 있는 절차 기준이 생긴다 — 같은 주 Anthropic의 GLM-5.3 분석과 합쳐 보면 '안전장치 없는 공개'를 비교할 기준선도 된다.
같은 회기에서 랩(측정·보고)과 독립 과학자(사전 허가·책임보험)가 서로 다른 규제 모형을 내놓았다. 이 간극이 앞으로 국제 논의의 실제 전선이 된다. Bengio는 사례를 열거하면서 개별 출처를 달지 않았고 '독립 전문가들이 확인했다'는 서술에 그쳐, 사례 각각은 별도 검증이 필요하다
프런티어 랩 대표가 안보리 석상에서 자기 산업의 규제 설계를 제안한 장면이다. 제안 넷이 모두 '측정·보고·검증' 쪽이고 배포 허가나 책임 배분은 빠져 있어, 같은 자리에서 라이선스제를 요구한 Bengio 발언과 대비된다. 발언이며 구속력 있는 약속이 아니다
무료 계층을 광고로 떠받치는 구조가 8월 40개국에서 한 달 만에 60개국 이상으로 늘었다. 추론 원가를 구독료가 아니라 광고로 회수하는 모델이 실험 단계를 지났다는 뜻이고, 대화 데이터와 광고 사이의 경계를 어떻게 지키는지가 다음 규제 쟁점이 된다
지난주 Anthropic의 임베디드 평가(상주 평가자)에 이어 나온 문서로, 프런티어 랩들이 '외부 평가를 어디까지 들여보낼지'를 각자 성문화하기 시작한 흐름에 들어간다. 다만 평가자 수·접근 수준의 정량 약속은 없고 '공개 전 시정 기간'은 평가자의 공개 재량을 제약할 수 있는 조항이라, 실제 독립성은 개별 계약서에서 갈린다
앞선 기업들이 정작 직원의 외부 모델 사용을 막는다는 역설을 축으로, 그 이유를 기록 보관 기간과 데이터 주권에서 찾는 내레이션 브리핑이다. 쟁점은 하나로 좁혀지는데, 공급자 쪽은 우회 공격 탐지를 위해 최소 30일 기록 보관이 필요하다고 보는 반면 기업은 1급 자료가 외부에 한 달 머무는 것 자체를 거부한다는 대립이다. 여기서 세션이 끝나면 어떤 기록도 외부에 남기지 않는 요구가 이름을 얻
규제가 들어오기 전에 사업자가 정책 틀을 먼저 써서 제출하는 형태. 캘리포니아 SB 1119(2026-08-31)와 같은 흐름이되 방향이 반대다.
외부 감사를 '보고서를 받는 것'이 아니라 '사람을 안에 들이는 것'으로 정의한 첫 사례. 같은 주에 나온 자동화 지수 제안(09-17)과 묶여 '랩 내부를 검증 가능하게 만든다'는 하나의 제도 설계를 이룬다.
'AI가 AI 연구를 얼마나 하고 있는가'를 랩이 스스로 숫자로 내놓은 첫 사례. 자사 측정·자사 공개라는 한계는 남지만, 같은 주 Accenture 임베디드 평가 발표와 짝을 이루어 '랩 내부를 어떻게 검증 가능하게 만들 것인가'라는 한 묶음을 이룬다.
이중용도 위험을 '모두에게 막기'가 아니라 '검증된 사람에게 열고 뒤에서 본다'로 옮긴 설계. 주된 위험을 정당한 접근권의 탈취·내부자·에이전트 오남용으로 규정한 것이 핵심이며, 실시간 거부에서 사후 상관분석으로의 이동이다.
미국의 데이터센터 갈등을 전력이나 기술 문제가 아니라 국내 정치 구조로 분해한 정리가 제시된다. 충돌은 두 층위인데, 연방 행정부와 입법부 사이에서는 AI 육성이 중산층에 실익이 있는지, 사생활 침해로 이어지지 않는지, 기업이 훗날 중국으로 옮겨가면 어떻게 할지라는 세 질문이 양당 의원에게서 함께 나왔다. 연방과 주정부 사이에서는 전기요금과 용수, 소음 부담이 걸려 원래 유치에 우호적이던 주
에이전트를 규제 업무에 붙일 때의 실패가 능력 부족이 아니라 사용자 압박에서 온다는 것을 수치로 보였다. 현장 운영에서 'SOP를 지키는가'는 모델 선택이 아니라 압박 설계의 문제가 된다.
정렬 실패를 사후 논문이 아니라 '사건 보고' 체계로 다루겠다는 선언. 보안 업계의 취약점 공시 관행을 모델 행동에 옮긴 형태다.
공격 자동화의 임계가 넘어간 지점을 1차 사업자가 수치와 함께 기록한 문서로, AI 공급망(API 키) 자체가 표적이 되기 시작했음을 보여준다.
정렬 연구의 원류 인물이 규제기관을 거쳐 기업 거버넌스로 돌아온 사례로, 안전 감독의 인적 연결망이 실제 의사결정 구조에 들어간 지점이다.
생성물 진위 판별 모델이 연구 주제를 넘어 방송 인프라의 기본 스택 부품으로 제품화된 지점이다.
정렬 실패를 개별 모델의 속성이 아니라 에이전트 집단의 거버넌스 문제로 다시 놓은 사례. 저자들은 단계적 제재와 집단 선택 규칙 같은 제도적 장치를 제안한다. 축 ⑩ 이 최근 1년 2.2배로 급증한 흐름 안에 있고, 관찰 주제 「에이전트 보안·샌드박싱」과 맞닿는다
범용 챗봇이 규제 의료 기록 시스템에 직접 연결되는 단계. 컨텍스트 연결(RAG·커넥터)의 전선이 공개 웹에서 규제 데이터 영역으로 넘어갔고, 안전성 근거는 아직 벤더 자체 평가에 의존
데이터 주권 요구와 오용 감시가 충돌하던 지점에 대한 설계적 답. 안전 감시를 벤더 서버 밖에서 성립시키는 구조가 표준이 되면, 규제 산업의 프런티어 모델 도입 장벽이 배포 아키텍처 문제로 재정의된다
자사 위험 프레임워크의 최고 등급이 실제로 발동된 첫 사례. 선언적 임계값이 배포 지연과 접근 제한이라는 구체적 조치로 이어졌는지를 검증할 기준점이며, 프런티어 사이버 역량이 정책 문제로 전환된 지점
주 단위 청소년 안전 규제를 프런티어 랩이 선제 지지한 사례. 2024년 SB 1047 반대와 대비되며, 업계가 규제를 전면 거부하는 대신 영역별로 선택 수용하는 국면을 보여줌
컴패니언 챗봇의 아동 안전을 성문법으로 다루는 미국 최초의 포괄 입법 시도 — 서명 여부가 주법 표준을 가른다
사용 실태 데이터를 벤더가 독점하는 구조에 외부 검증 통로를 낸 사례. 발표 자유 조항과 제3자 감사를 명시해 벤더 자체 보고와 구분하려는 설계
주요 플랫폼이 AI 페르소나 범주를 만들어 라벨링을 넘어 추천 알고리즘에서 구조적으로 차등하는 첫 사례
AI 생성물 투명성 규범에 서명한 비EU 랩. 자발적 도구이며 법적 준수 자체를 대체하지 않음
고위험 AI 의무(부속서 III)의 적용일이 2026-08-02에서 2027-12-02로 바뀌어 2026-08-02를 고위험 의무 적용일로 인용하면 틀림. 제50조 투명성 의무의 적용일 2026-08-02는 그대로 유지
가사 소송의 다툼 지점이 학습데이터에서 저작권표시 처리로 확장됨. 본안 판단은 아직 없음
약식판결(Alsup)과 최종승인(Martínez-Olguín)은 별개 사건·별개 판사다. 향후 산출물 기반 청구권은 유보
옴니버스로 고위험 의무가 연기된 것과 달리 투명성 의무는 예정대로 적용됨을 집행위가 지침으로 확인
AI 거버넌스 논의가 개별 관할권을 넘어 UN 틀로 올라간 첫 회차
고위험 의무 적용 연기를 담은 옴니버스가 의회 단계를 통과한 날 — 연기의 절차적 근거
한국 첫 법정 AI 기본계획. 다만 정부 포털 게시본에는 GPU·예산 수치가 없고 첨부 PDF에만 존재
AI Act가 아닌 DSA로 생성형 AI를 규율한 첫 사례
2025-11-04 본안 판결이 확정이 아님을 보여주는 후속 단계. 항소심에서 다시 다투어진다
Getty 패소로만 요약하면 틀린다. 핵심 쟁점은 판단된 것이 아니라 철회됐다
SB 1047 거부 1년 뒤 투명성 중심으로 축소해 성립. 이후 각 랩의 프레임워크 공개를 강제
다수 소송이 MDL 3143으로 통합되어 진행 중임을 확인
중국이 자국 AI 거버넌스를 리스크 분류에서 분급으로 이동시킨 문서. EU식 리스크 등급제와의 수렴 신호
Meta 승소 판례로 인용하면 틀린다. 시장희석 이론은 유효하나 입증 실패
일본 최초의 AI 법이 무벌칙 추진법으로 확정. 성립·공포·전면시행 3개 날짜가 각각 다르며 흔히 혼동됨
단 법원이 오늘 내 앞에 있는 것은 비생성형 AI뿐이라고 명시했다. 생성형 AI 판례로 인용하면 틀린다
이미지 생성 모델 학습에 대한 첫 실질 심리 진입
미국 첫 포괄 주 AI법으로 널리 인용되나 의무 조항은 한 번도 집행되지 않음 — 2025-08-28 서명된 SB 25B-004가 적용일을 2026-06-30으로 미뤘고, 2026-05-14 서명된 SB 26-189가 해당 조항을 폐지·재제정해 2027-01-01부터 적용되는 자동화 의사결정기술(ADMT) 규정으로 대체
일본은 AI 학습이 자유롭다고 국제적으로 인용되는 조항의 실제 한계선을 정부가 문서로 그은 사건. 작풍 모방 목적 파인튜닝은 면책되지 않는다
일본 저작권법 30조의4 같은 TDM 면책 조항이 한국에 없음을 정부 문서가 스스로 확인. 한일 학습데이터 법제의 비대칭을 규정한 문서
EU 입법 3자협상의 이사회 측 입장이 고정된 날 — 이후 조문 변경은 이 문서를 기준으로 협상됐다