인공지능 훈련의 에너지 효율 문제
인공지능의 발전은 기계 학습 모델을 훈련하는 데 필요한 막대한 전력과 에너지에 의해 제한되고 있습니다. USC 고급 컴퓨팅 스쿨과 Viterbi 공대의 연구진은 이러한 에너지 문제를 해결하기 위한 다양한 접근법을 시도하고 있습니다.
- 최근 인공지능 모델의 에너지 비용은 빠르게 증가하고 있으며, 특정 대형 AI 모델은 하루에 최대 300 Megawatt-hour의 전기를 소비하는 것으로 보고됩니다. 이는 소형 도시의 일일 소비량에 맞먹는 양입니다.
- “AI와 환경 지속 가능성” 연구에 따르면, 대형 언어모델을 훈련하면서 발생하는 탄소 배출량은 훈련 기간 동안 284톤의 탄소다이옥사이드(CO2)를 방출할 수 있으며, 이는 다수의 차량이 연중 탄소를 방출하는 양과 비슷합니다.
컴퓨터가 배우는 방식을 변화시키다
기계는 뉴럴 네트워크를 통해 데이터를 학습하며, 이는 막대한 양의 에너지를 소모합니다. USC의 Massoud Pedram 교수는 기계 학습 모델을 단순화하여 필요한 학습 단계와 에너지를 줄이는 방안을 연구 중입니다. 이러한 방법은 모델을 ‘가지치기’하거나 데이터와 모델 매개변수를 표현하는 비트를 줄이는 등 다양한 기술을 포함합니다.
- Google과 같은 기술 기업들은 ‘전이 학습(Transfer Learning)’을 사용하여 모델의 학습 단계와 학습 데이터를 줄여, 계산량과 에너지 소모를 최대 70%까지 절감하고 있습니다.
- 모델 경량화 및 최적화를 통해 실제 사용되는 AI 시스템은 같은 컴퓨팅 파워로 더 많은 작업을 수행할 수 있으며, 이로 인해 데이터 센터의 에너지 효율이 15% 이상 증가할 수 있습니다.
하드웨어를 바꾸는 접근: CPU와 GPU의 조화
현재 AI는 주로 고가의 GPU에 의존하지만, Annavaram 교수는 저렴한 CPU 메모리를 활용해 데이터의 일부를 전처리함으로써 시스템 효율성을 높이는 방안을 제안하고 있습니다. 이는 GPU의 고비용을 줄이고, CPU와 GPU의 장점을 결합하여 전체적인 시스템 효율을 향상시키는 방법입니다.
- 하드웨어 벤치마킹 연구에 따르면, CPU를 활용한 전처리는 GPU 단독 사용에 비해 연산 시간을 30% 단축하고, 에너지 소비를 20%까지 감소시킬 수 있습니다.
- Nvidia와 AMD와 같은 주요 하드웨어 회사들은 CPU와 GPU의 혼합 처리를 염두에 두며, 새로운 아키텍처 설계를 통해 성능과 에너지 효율을 지속적으로 개선하고 있습니다.
엣지 컴퓨팅을 통한 에너지 절감
엣지 컴퓨팅은 데이터가 수신되는 지점 근처에서 정보를 처리하여 에너지 소비를 줄이는 기술입니다. 이는 특히 무인 자동차와 같은 즉각적인 정보 처리가 필요한 환경에서 유용할 수 있습니다.
- Cisco의 보고서에 따르면, 엣지 컴퓨팅을 통해 데이터 처리가 클라우드로 이동하기 전 40%의 에너지를 절약할 수 있습니다. 이는 또한 데이터 전송 지연을 줄여 실시간 처리를 가능하게 합니다.
- IoT 기술을 도입한 스마트 공장의 경우, 엣지 컴퓨팅을 통해 에너지 소비량을 연간 30% 이상 절감하였고, 이는 운영 비용 감소와 효율성 향상으로 이어졌습니다.
정보 배터리: 에너지를 저장하는 새로운 방법
Barath Raghavan 교수는 ‘정보 배터리’라는 개념을 제안하여, 에너지가 과잉인 시기에 미리 계산을 수행함으로써 에너지를 저장하고 그리드에 대한 부담을 줄이는 방안을 제시하고 있습니다.
- 미국 전력연구소(EPRI)에 따르면, 정보 배터리 시스템은 전력 비용이 낮은 시간대에 에너지를 저장하고, 필요시 사용함으로써 25%의 에너지 비용 절감을 가능하게 합니다.
- 일본의 한 연구에서는 정보 배터리를 활용하여 데이터센터의 피크 시간대 전력 사용량을 20% 이상 줄이고, 이는 최대 10%의 운영비용 감소로 이어집니다.
초전도 전자기기의 잠재력
기존의 CMOS 칩은 전력 소모가 많고 발열 문제가 있습니다. Peter Beerel 교수는 나이오븀을 사용한 초전도 전자기기를 통해 이러한 문제를 해결하고자 하며, 이는 기존 칩보다 훨씬 적은 에너지를 소모하면서도 높은 성능을 제공합니다.
- 초전도 전자기기는 0.1% 미만의 전력 손실만 발생시키며, 이는 일반적인 실리콘 기반 반도체의 손실보다 훨씬 낮습니다.
- 초전도 칩을 활용한 양자 컴퓨팅 연구는 기존의 전자 컴퓨팅에 비해 전력 효율이 100배 이상 향상될 수 있음을 시사하며, 이는 낮은 온도에서의 운영이 가능하기 때문입니다.
새로운 재료의 개발
Jay Ravichandran 교수는 에너지 효율적인 컴퓨팅을 위한 새로운 재료를 연구 중이며, 이는 신경모방 컴퓨팅에도 큰 가능성을 지니고 있습니다. 이러한 재료는 작은 외부 자극으로 큰 전기적 변화를 일으킬 수 있습니다.
- MIT의 재료 연구팀에 따르면, 새로운 페로브스카이트 기반 재료는 낮은 전력에서 고속 스위칭이 가능하며, 이는 기존 실리콘 소재 대비 전력 소비를 절반 이상 줄일 수 있습니다.
- 이러한 재료는 또한 나노미터에서 작동 가능하며, 이는 미래의 초소형 전자기기에 대한 가능성을 크게 확대합니다.
인간 뇌 모방의 잠재력
신경모방 컴퓨팅은 인간의 뇌가 정보를 처리하는 방식을 모방하여 에너지를 절감하고자 합니다. Joshua Yang 교수는 메탈 옥사이드 멤리스터를 개발하여 데이터 저장과 처리를 동시에 수행하는 차세대 칩을 개발하고 있습니다. 이는 전력 소모를 크게 줄이는 동시에 처리 속도를 향상시킵니다.
- IBM의 ‘TrueNorth’ 칩은 인간 뇌의 신경 시냅스를 모방하여, 기존 컴퓨터 아키텍처보다 10배 이상의 효율성을 기록하였습니다.
- 신경모방 기술을 활용한 시스템은 대규모 병렬 처리가 가능하여 AI 작업 처리 속도를 100배 이상 증가시키는 성과를 보여주었습니다.
출처 : 원문 보러가기
