Q질문: AI는 왜 그렇게 많은 칩과 전기가 필요해요?

AI를 학습시키는 일은 곱하고 더하는 단순한 계산을 엄청나게 많이 하는 일이에요. 이런 계산을 한꺼번에 잘 해내는 칩이 GPU예요. 2012년 12월 발표된 AlexNet 논문이 GPU와 큰 데이터, 깊은 신경망을 함께 쓰는 방식을 자리 잡게 했고, 이때가 지금의 딥러닝 시대가 시작된 지점으로 꼽혀요¹.

그다음엔 '크게 만들수록 좋아진다'는 발견이 이어졌어요. 2020년 1월 발표된 스케일링 법칙 연구는 모델 크기, 데이터, 계산량을 늘리면 성능이 예측할 수 있게 좋아진다는 것을 보여 줬고, 큰돈을 들여 더 크게 만드는 근거가 됐어요². 2022년 3월 친칠라 연구는 400여 개 모델을 실험해, 모델 크기와 학습 데이터를 같은 비율로 늘려야 한다고 정리했어요³. 더 크게, 더 많이 학습할수록 칩이 더 필요해지는 거예요.

칩이 많아지면 전기도 많이 들어요. 2024년 9월 가동한 xAI의 Colossus는 H100 칩 10만 장을 122일 만에 설치했지만, 처음 전력망에서 받은 전기는 8MW뿐이라 임시 가스터빈에 기대야 했어요⁴. 국제에너지기구(IEA)는 2025년 데이터센터 전력 수요가 17% 늘었고, AI 전용 수요는 2030년까지 3배가 될 것으로 내다봤어요⁵.

그래서 이제는 칩만큼 전기와 냉각이 문제예요. 2024년 8월 Epoch AI는 2030년까지 AI를 키우는 데 전력이 가장 먼저 발목을 잡고, 그다음이 칩 생산 능력이라고 내다봤어요⁶. 2026년 9월에는 NVIDIA가 데이터센터의 배터리와 냉각 장치까지 인증하는 프로그램을 시작했어요. 막히는 곳이 칩에서 전력과 냉각으로 옮겨 가고 있다는 신호예요⁷.