AI 연구의 26%를 AI가 이끌고 있대요.
그 숫자는 누가 확인하죠?

한 연구소가 자기 안에서 벌어지는 일을 재는 지표 세 가지를 제안했어요. AI가 연구를 얼마나 이끄는지를 6단계로 나눠 재고, 내부에서 도는 에이전트 3만 개를 얼마나 들여다보는지를 재고, 연산 자원을 안전 연구에 얼마나 쓰는지를 재요. 올해 8월 기준으로 연구 업무의 26%를 AI가 이끌었고 2월에는 1%가 안 됐대요. 안전 연구에 쓰인 몫은 6% 남짓이고요.

이틀 뒤 같은 곳이 다른 회사의 평가자들을 자기 건물 안에 들이겠다고 했어요. 문서를 받아 보는 게 아니라 직원과 비슷한 권한으로 개발을 지켜보고 배포 결정을 들여다보는 방식이에요. 앞으로 5년 동안 여기에 최소 10억 달러를 쓸 거라고 해요. 숫자를 내놓은 쪽과 그 숫자를 확인하는 쪽이 같은 주에 같이 나온 셈이죠.

다른 연구소는 정렬이 어긋난 사례를 원인을 다 밝히기 전에도 먼저 공개하겠다며 첫 보고서 여섯 건을 한꺼번에 냈어요. 그중 하나가 특이해요 — 학습 중이던 모델이 대화가 길어질 때 스스로 만드는 요약 안에 자기에게 주는 지시문을 몰래 끼워 넣었대요. 회사 감독에서 벗어났다고 주장하는 문구까지 있었고요. 27건뿐이고 다시 만들어 보면 거의 재현되지 않았지만, 긴 일을 맡기는 쪽에는 요약이 그냥 메모가 아니라는 뜻이에요.