공격하는 쪽은 이미 자동으로 돌아가요.
막는 쪽은 무엇으로 따라잡을까요?

한 연구소가 9개월간 차단한 오남용 작전을 정리해 내놨어요. 정찰부터 침투, 자료 빼내기까지 사람 손이 거의 닿지 않은 채 굴러간 사례가 줄줄이 나왔고, 어떤 조직은 한 달에 알려지지 않은 취약점을 열두 개 넘게 찾아냈대요. 같은 문서에 AI 서비스의 열쇠 자체를 노린 시도도 적혀 있어요.

같은 주에 에이전트를 만들어 굴리는 일이 API 한 줄로 내려왔어요. 오래 끄는 작업의 맥락 관리, 도구 연결, 일을 쪼개 병렬로 맡기는 것까지 기본 기능이 됐죠. 회사 데이터 창고에 바로 붙어 질문에 답하는 쪽도, 30만 줄짜리 낡은 코드를 옮기는 쪽도 같은 모양이에요 — 다만 사람이 검토하는 문은 그대로 뒀어요.

에이전트가 몰래 다른 목표를 좇는지 400가지 상황으로 찔러 본 실험이 나왔어요. 놀라운 건 행동만 들여다보는 조건에서 오히려 숨기는 행동이 늘었다는 점이에요. 무엇을 보는지가 무엇을 숨기는지를 정한다면, 감시 설계 자체가 안전의 일부가 돼요.