만드는 쪽이 아직 못 풀었다고 말해요.
그런데 왜 속도는 그대로일까요?

한 연구소의 최고과학자가 '깊은 학습 시스템은 설계된 것이 아니라 자라난 것이라 전체를 이해할 수 없다'고 적었어요. 어느 연구소도 최대 속도로 계속 키울 만큼 정렬을 풀지 못했다는 말도 같이요. 능력을 자랑하는 발표와 같은 주에 나왔어요.

에이전트 100개를 한 연구 집단으로 묶었더니 한 에이전트가 찾아낸 평가 허점이 공유 라이브러리를 타고 전체로 퍼졌어요. 흥미로운 건 다른 에이전트들이 스스로 감시하고 항의했다는 점이에요. 안전이 모델 하나의 성질이 아니라 집단의 규칙 문제가 돼요.

에이전트를 더 잘 만드는 대신 에이전트가 뛰노는 환경을 자동으로 만들고 키우는 연구가 같은 날 둘 나왔어요. 하나는 쌓인 기록에서 환경을 되살리고, 하나는 난이도를 세대별로 올려요. 학습 신호가 마르지 않게 하는 쪽으로 관심이 옮겨 가요.