AMD, AI 서버랙 효율 2030년까지 20배…엔비디아도 루빈 10배 개선 [뉴스] AMD는 AI 학습·추론에 사용하는 서버랙의 에너지 효율을 2030년까지 2024년 대비 20배 높이겠다는 목표를 제시했다. 2026년 현재 약 4배 개선해 당초 중간 목표였던 3배를 넘어섰다. / 출처=AMD
AMD가 AI 서버랙의 에너지 효율을 2030년까지 20배 높이겠다는 목표를 내놨다.
AMD는 지난 18일(현지시각) AI 학습·추론에 사용하는 서버랙의 에너지 효율을 2030년까지 2024년 대비 20배 높이겠다고 밝혔다.
앞서 엔비디아도 지난 6월 공개한 2026 지속가능성 보고서에서 차세대 루빈 아키텍처의 에너지 효율을 이전 세대보다 최대 10배 높였다고 밝혔다
AMD, 같은 AI 작업에 서버랙 570개→2개 목표
AMD는 서버와 GPU, 네트워크 장비 등을 한데 묶은 서버랙 전체의 전력 효율을 높여 같은 AI 연산에 필요한 장비 수를 줄이겠다는 계획이다.
AMD에 따르면 2024년 서버랙 570개가 필요했던 AI 연산을 2030년에는 약 2개 랙으로 처리할 수 있다. 같은 작업에 필요한 전력은 20분의 1로 줄이고, 탄소집약도는 28분의 1까지 낮춘다는 목표다.
이를 위해 반도체뿐 아니라 메모리와 네트워크, 소프트웨어, 냉각 시스템까지 서버랙 단위에서 함께 최적화하고 있다. 대규모 AI 연산은 여러 장비가 동시에 작동하는 만큼 개별 칩의 효율뿐 아니라 시스템 전체의 전력 효율이 중요하기 때문이다.
AMD는 2024년부터 올해까지 랙 단위 AI 에너지 효율을 약 4배 높였다. 2020년부터 2025년까지 AI 학습과 고성능 연산에 쓰이는 서버 시스템의 에너지 효율도 38배 개선했다.
샘 나프지거 AMD 수석부사장은 차세대 AI의 에너지 효율을 높이려면 연산 반도체와 메모리, 연결 장치, 소프트웨어, 랙 시스템을 함께 최적화해야 한다고 밝혔다.
엔비디아, 루빈 효율 10배…같은 전력서 추론 성능 35배
엔비디아 젠슨 황 최고경영자(CEO). 엔비디아는 차세대 베라 루빈 플랫폼을 통해 AI 연산의 전력 효율을 높이고 데이터센터의 에너지 사용을 줄이겠다는 계획이다. / 출처=엔비디아
엔비디아도 개별 반도체가 아닌 AI 인프라 전체를 함께 설계하는 방식으로 전력 효율을 높이고 있다.
엔비디아는 차세대 베라 루빈 NVL72의 에너지 효율이 이전 세대 블랙웰보다 최대 10배 높다고 밝혔다. GPU와 CPU, 네트워크, 전력 공급, 냉각, 소프트웨어를 하나의 시스템으로 설계한 결과다.
베라 루빈 NVL72와 추론용 가속기 그록3 LPX를 함께 사용할 경우 1조개 매개변수 규모 AI 모델의 전력당 추론 성능은 블랙웰보다 최대 35배 높아진다. 다만 해당 수치는 실제 운영 결과가 아닌 엔비디아 내부 시뮬레이션에 기반한 추정치다.
냉각에도 직접 액체냉각 방식을 적용했다. 베라 루빈은 45℃ 온수를 이용해 장비의 열을 직접 식혀 기존 공랭식보다 냉각에 필요한 에너지와 물 사용을 줄이도록 설계됐다. 같은 전력 공급 한도에서 GPU를 최대 30% 더 운영할 수 있도록 데이터센터 설계도 최적화했다.
제품 효율은 배출 감축 목표와도 연결된다. 엔비디아는 2030년까지 판매한 GPU의 연산 성능당 온실가스 배출량을 2023년 대비 75% 줄이겠다는 목표를 세웠다. 엔비디아는 제품 사용단계의 연산당 에너지와 배출을 줄이는 것을 핵심 감축 수단으로 보고 있다.
AI 서버 전력밀도 5년 새 11배…데이터센터 전력수요도 급증
AMD와 엔비디아가 랙 단위 효율을 높이는 배경에는 AI 데이터센터의 전력수요 급증이 있다.
국제에너지기구(IEA)에 따르면 AI 서버의 전력밀도는 2020년부터 2025년까지 11배 높아졌고, 2027년까지 다시 약 4배 증가할 전망이다. 냉장고 크기의 서버랙 하나가 사용하는 최대 전력이 2027년에는 65가구의 전력수요와 맞먹을 수 있다는 분석도 나왔다.
전 세계 데이터센터 전력소비도 빠르게 늘고 있다. 지난해 전체 데이터센터의 전력소비는 17% 증가했고, AI 중심 데이터센터는 같은 기간 50% 늘었다. IEA는 데이터센터 전력소비가 2025년 485TWh에서 2030년 950TWh로 약 두 배 증가할 것으로 전망했다.
효율 개선만으로 전체 전력수요 증가를 상쇄하기는 어렵다. 영상 생성과 고도화된 추론, AI 에이전트 등 연산량이 많은 서비스가 확산하면서 작업 한 건당 전력소비가 줄어도 전체 연산량은 더 빠르게 늘 수 있기 때문이다.
IEA도 AI 작업 한 건당 에너지 사용량은 빠르게 줄고 있지만, 더 많은 전력을 요구하는 AI 활용이 확산하면서 데이터센터 전체 전력수요는 계속 증가할 것으로 내다봤다.
Top
