고밀도 전력 인프라: AI 배포에 있어 어떤 변화가 있을까요?

AI 서버 랙은 이제 개당 30~100kW 이상의 전력을 소모하는데, 이는 기존 데이터센터 전력 인프라가 감당하도록 설계되지 않은 수준입니다. 이러한 집중적인 부하는 전력 분배 시스템의 근본적인 업그레이드를 필요로 하며, 미미한 조정으로는 해결되지 않습니다. 전력 문제를 간과하고 구축된 AI 시스템은 전력망 연계 병목 현상에 직면하고, 예기치 않은 다운타임을 겪으며, 막대한 비용이 드는 개조 공사에 직면하게 될 것입니다.

이러한 전환을 정의하는 세 가지 핵심 변화는 기하급수적으로 높아지는 랙 밀도, 진화된 랙 수준 전력 공급( PDU 포함 ), 그리고 병목 현상이 발생하기 전에 이를 해결하기 위한 선제적인 전력망 및 에너지 전략입니다. 각각의 변화는 AI 인프라 계획 담당자에게 직접적인 비용, 일정 및 운영상의 영향을 미칩니다.

주요 요점

• AI 랙은 개당 30~100kW 이상의 전력을 필요로 하며, 이는 기존 엔터프라이즈 랙의 5~10kW를 훨씬 초과합니다. 따라서 프로젝트 초기 단계부터 이러한 높은 전력 밀도를 고려하여 계획해야 합니다.
• 똑똑한, 3상 랙 PDU 콘센트별 모니터링 및 제어 기능을 제공하여 AI 학습 워크로드의 과부하 및 예기치 않은 다운타임을 방지합니다.
• 많은 지역에서 전력망 연계에 5년 이상 소요될 수 있습니다. 지연을 최소화하기 위해 전력 회사와 조기에 협력하고, 현장 발전 또는 전력 공급원과의 근접성을 평가하십시오.
• 3상 전체에 걸쳐 부하 분산을 균등하게 하면 유휴 용량과 과열을 방지할 수 있습니다. 효율성을 유지하려면 상별 모니터링 기능을 갖춘 PDU를 사용하십시오.
• 비용이 많이 드는 일정 지연을 방지하려면 AI 인프라를 배포하기 전에 부하 예측, 상호 연결 일정 및 PDU 용량을 검증하십시오.

AI 배포에 고밀도 전력 인프라가 필요한 이유

랙 전력 밀도 증가

AI 하드웨어의 등장으로 랙 전력 밀도는 기존 데이터 센터의 기준치를 훨씬 뛰어넘었습니다. 업타임 인스티튜트(Uptime Institute) 데이터에 따르면 2024년 일반 데이터 센터의 랙당 평균 전력 밀도는 8kW에 불과할 것으로 예상됩니다. 하지만 AI 및 GPU 가속 랙은 일반적인 학습 클러스터의 경우 약 40kW에서 시작하여 AI 전용 시스템의 경우 100kW를 초과합니다. 차세대 GPU 랙은 600kW에 이를 것으로 전망됩니다.

참고로, H200 GPU용 랙은 개당 40~50kW의 전력을 소모하고, B200 GPU 랙은 약 130kW에 달합니다. 즉, AI 캐비닛 하나가 10년 전 소형 서버실 전체만큼의 전력을 소비할 수 있다는 뜻입니다.

핵심 인프라 과제

이러한 집중 부하는 전력 및 설비 스택의 모든 계층에 스트레스를 발생시킵니다.

• 전기적 스트레스낮은 배전 전압(110~240V)에서는 전류가 수천 암페어에 달할 수 있습니다. 업계에서는 전류를 줄이고, 전송 손실을 최소화하며, 케이블 크기를 소형화하기 위해 380~415V AC 또는 48V DC로 전환하고 있습니다. 고밀도 랙에는 대형 피더, 고용량 버스바, 그리고 이중화된 PDU가 필요합니다.
• 냉각 제약 조건랙당 300~400kW의 전력 소비량에서는 기존의 공랭식 냉각 방식은 더 이상 적합하지 않습니다. 이에 따라 운영업체들은 후면 도어 열교환기, 칩 직접 냉각 방식의 액체 냉각, 그리고 공랭식과 액체 냉각이 혼합된 하이브리드 냉각 방식을 도입하고 있습니다.
• 케이블 및 공간 제한전원 케이블, 액체 냉각 라인 및 고밀도 광섬유는 공기 흐름을 차단하지 않고 제한된 랙 공간을 공유해야 합니다. MPO 광섬유와 같은 구조화된 케이블링은 혼잡을 최대 75%까지 줄일 수 있습니다.
• 구조적 한계GPU 랙은 완전히 장착된 경우 2,000파운드(약 907kg)가 넘는 무게가 나갈 수 있으며, 표준형 이중 바닥 시스템에 맞지 않을 수 있습니다.

AI 데이터 센터를 위한 핵심 전력 인프라 구성 요소

엔드 투 엔드 전력 공급망

전력 공급망은 변전소에서 서버 입력단까지 이어지며, 모든 단계는 AI 수준의 부하에 맞춰 설계되어야 합니다. 일반적인 아키텍처는 다섯 단계로 구성됩니다.

1. 변전소 및 중전압 변압기
2. 무정전 전원 공급 시스템(연속 이중 변환 모드, 발전기가 가동될 때까지 5~7분간 배터리 전원 유지)
3. 저전압 스위치보드
4. 랙 레벨 전원 분배 장치(PDU)
5. 버스웨이 또는 원격 전원 패널이 개별 랙에 전원을 공급합니다.

GPU 클러스터는 순간적인 전압 강하에도 매우 민감하므로 UPS 용량 산정 및 이중화가 매우 중요합니다. 랙 레벨 배전의 경우, 버스웨이는 모든 랙 위치에서 분기 가능한 사전 제작된 오버헤드 전원 레일을 제공하여 확장 가능한 고밀도 구축에 이상적입니다. 원격 전원 패널(RPP)은 고정된 전용 케이블을 사용하므로 초기 비용은 낮지만 재구성 유연성이 떨어집니다.

기존 데이터센터와 AI 데이터센터의 전력 요구 사항 비교

기존 인프라와 AI 인프라 간의 격차가 모든 설계 결정에 영향을 미칩니다.

AI 워크로드는 전력망에 특수한 요구 사항을 부과합니다. 학습 작업은 중단 없이 며칠 동안 거의 최고 수준의 GPU 사용률로 실행되며, 추론 워크로드는 실시간 수요에 따라 급격하게 변동합니다. 단계별 분산 전력 변환은 손실과 전압 강하를 최소화하고, 최종 변환 장치를 부하에 최대한 가깝게 배치하여 빠른 부하 변동에 대응합니다.

고밀도 AI 랙에서 PDU의 역할

랙 PDU는 전력 공급망의 최종 연결 고리이자 장애 발생 시 가장 먼저 확인할 수 있는 지점입니다. 개별 GPU가 각각 500~1,200W를 소모하고 서버 섀시당 8~16개의 GPU가 장착되는 최신 GPU 서버는 추론 작업이 폭주할 때 개당 3~5kW의 전력을 소비할 수 있습니다.

회로별 모니터링은 장시간 진행되는 학습 실행을 중단시킬 수 있는 무음 차단기 트립을 방지합니다. 42U 고밀도 AI 랙의 경우, 기본형 비관리형 장치보다 0U 수직 장착형 계측 또는 스마트 3상 PDU가 권장됩니다. 주요 선택 기준으로는 입력 위상 호환성, 장착 폼 팩터, 그리고 출력별 계측 대 입력 전용 계측 여부가 있습니다. 지능형 PDU는 SNMP/Modbus 통합을 지원하며 실시간 전류 및 전압 모니터링을 위한 로컬 디스플레이 또는 웹 인터페이스를 제공합니다.

고밀도 AI 배포 환경에서 전력을 관리하는 방법

3상 배전 및 부하 분산

고밀도 AI 랙에는 3상 전원이 필수이며, 추가 옵션이 아닙니다. 동일한 총 전력량에서 3상 배전 방식은 더 작고 관리하기 쉬운 전선을 사용하여 설치 비용과 복잡성을 줄여줍니다.

불균형한 위상 부하는 용량 낭비와 위험한 과열을 초래합니다. 위상별 모니터링 기능을 갖춘 PDU를 사용하면 운영자는 불균형을 감지하고 부하를 재분배하여 효율성을 향상시키고 열 손상을 방지할 수 있습니다. AI 랙은 기존의 이중 A/B 공급 방식 외에도 2N 또는 2N+1 이중화 아키텍처를 지원하기 위해 3개 이상의 독립적인 전원 경로가 필요한 경우가 많습니다. 적절한 설치, 라벨링 및 케이블 관리는 안전과 유지보수성을 보장합니다.

용량 계획, 전력망 일정 및 확장 전략

AI 구축 계획에서 가장 큰 위험 요소는 데이터 센터 건설 일정과 전력망 연계 소요 기간의 불일치입니다. 하이퍼스케일 데이터 센터는 18~24개월 내에 건설할 수 있지만, 고전압 송전망 업그레이드에는 7~10년이 걸립니다. 또한 많은 지역에서 새로운 전력망 연결 승인 및 구축에는 5년 이상이 소요될 수 있습니다.

이러한 격차를 해소하기 위해서는 사후 대응적인 개선이 아닌, 선제적인 에너지 전략이 필요합니다. 일반적인 완화 전략은 다음과 같습니다.

• 초기 전력망 연결: 부지 선정 후가 아니라 프로젝트 초기 단계부터 공공시설 관련 논의를 시작해야 합니다.
• 근접 입지 선정업그레이드 요구 사항을 줄이기 위해 기존 전력원 또는 잉여 연계 지점 근처에 새로운 발전 설비를 설치하십시오.
• 현장 생성: 현장에 천연가스, 디젤, 태양광, 풍력 또는 배터리 시스템을 설치하여 전력망 공급 지연 시간을 해소합니다.
• 브라운필드 재개발폐쇄된 발전소 부지를 기존 전력망 인프라를 활용하여 다른 용도로 재활용합니다.
• 간소화 허용규제 절차 신속 처리가 가능한 경우 이를 활용하여 상호 연결 속도를 높이십시오.

컴퓨팅 용량을 전력 인프라에 더 가깝게 배치하면 핵심적인 시간적 불일치 문제를 해결할 수 있습니다. 전력망 인프라 구축에는 5~15년이 걸리는 반면, 데이터 센터는 1~3년이면 구축할 수 있기 때문입니다. 하지만 단순히 근접성만으로는 충분하지 않습니다. 풍력 발전소 근처에 위치하더라도 안정적인 전력 공급을 위해서는 대규모 네트워크 업그레이드가 필요할 수 있습니다.

AI 데이터센터 인프라에 적합한 PDU 선택 방법

PDU 선정 프레임워크

체계적인 PDU 선택 과정은 다음 다섯 단계를 따릅니다.

1. 차세대 GPU를 위한 여유 공간을 포함하여 3~5년의 부하 예측을 정의하십시오.
2. 부지 계획 초기 단계에서 전력망 연계 일정과 용량을 확인하십시오.
3. 대체 전력 전략을 평가하십시오: 현장 발전, 인접 부지 선정 또는 이중화 공급.
4. 전력 분배 및 냉각 인프라는 서로 없이는 작동할 수 없으므로 공동 설계해야 합니다.
5. 현재 부하뿐만 아니라 확장성까지 고려하여 계획하십시오.

전압과 전류는 밀도에 비례합니다. 기존의 30A 또는 60A PDU는 최신 GPU 서버를 지원할 수 없습니다. 고밀도 AI PDU는 100A 이상의 전류를 처리해야 하며, 분기 회로 보호 기능도 강화되어야 합니다. 3상 배전 방식은 도체당 전류를 낮추고 배선 스트레스를 줄여줍니다. 또한, 배전 전압이 높을수록 효율성이 향상됩니다. 서버 전원 공급 장치는 120V보다 240V에서 약 3.5% 더 효율적으로 작동하며, 이는 메가와트급 규모에서는 상당한 차이입니다. 신규 구축 현장에서는 최대 효율을 위해 415V 배전 방식을 고려해야 하며, 기존 인프라를 활용하는 기존 시설 업그레이드의 경우 480V가 더 실용적일 수 있습니다.

PDU 등급 비교

AI 인프라에서 세 가지 PDU 계층은 서로 다른 역할을 수행합니다.

스마트 PDU는 AI 랙에 가장 적합한 선택입니다. 콘센트 수준의 가시성을 통해 작업자는 차단기가 작동하기 전에 과부하를 감지하여 비용이 많이 드는 교육 작업 중단을 방지할 수 있습니다.

구매 전 검증 질문

PDU 선택을 최종 확정하기 전에 다음 사항을 확인하십시오.

• 향후 3~5년간의 부하 예측치는 어떻게 되며, 차세대 GPU 하드웨어 도입을 위한 여유 공간은 어떻게 될까요?
• 전력망 연계에 소요되는 기간은 얼마나 되며, 전력 전략에 이러한 지연 시간이 고려되어 있습니까?
• 어떤 이중화 아키텍처(A/B, 2N, 2N+1)가 필요하며, PDU가 이를 지원하는지 여부를 알려주세요.
• 향후 더욱 밀집된 랙을 위해 필요한 PDU 용량 여유 공간은 얼마나 됩니까?
• 해당 장치는 기존 DCIM/BMS 플랫폼과 연동됩니까?
• 적용되는 규정 준수 요건은 무엇입니까(예: EU 에너지 효율 지침)?

FAQ

AI 배포 시 어느 정도의 랙 전력 밀도를 계획해야 할까요?

AI 구축을 위해서는 기존 엔터프라이즈 랙의 5~10kW에 비해 훨씬 높은 30~100kW 이상의 전력을 계획해야 합니다. 고급 학습 클러스터는 이미 랙당 80kW를 초과하며, 전용 시스템은 100kW를 넘어서기도 합니다. 투자를 보호하기 위해 차세대 GPU 하드웨어에 필요한 여유 전력을 항상 확보해 두십시오.

고밀도 AI 랙에 적합한 PDU 유형은 무엇입니까?

스마트 3상 PDU는 AI 랙에 가장 적합합니다. 개별 콘센트 모니터링 및 제어 기능은 물론 환경 감지 기능까지 제공합니다. 계량형 PDU는 다양한 부하 밀도를 가진 코로케이션 캐비닛에 사용할 수 있습니다. 기본형 PDU는 저밀도의 안정적인 부하에만 적합합니다. 기술적 적합성, 규정 준수 및 총 소유 비용을 고려하여 옵션을 평가하십시오.

전력망 연계에는 얼마나 시간이 걸리며, 팀은 이를 고려하여 어떻게 계획을 세워야 할까요?

많은 지역에서 전력망 연계에 5년 이상의 시간이 소요됩니다. 데이터 센터는 18~24개월 안에 건설할 수 있지만, 송전망 개선에는 7~10년이 걸립니다. 계획 단계부터 전력 회사와 협력하여 지연을 최소화하기 위해 인접 부지 선정, 자체 발전 시설 구축 또는 기존 시설 재개발 방안을 검토하십시오.

3상 PDU에서 부하 분산이 중요한 이유는 무엇입니까?

위상 불균형은 좌초 용량을 발생시키고 위험한 과열을 초래합니다. 위상별 모니터링을 통해 기술자는 불균형을 감지하고 부하를 재분배할 수 있습니다. 이중화된 전원 경로와 균형 잡힌 부하는 AI 작업 부하가 높은 환경에서도 가동 시간을 극대화합니다. AI 랙은 완전한 이중화를 위해 일반적으로 3개 이상의 독립적인 전원 경로가 필요합니다.

의사결정권자는 PDU를 체결하기 전에 무엇을 확인해야 할까요?

3~5년 부하 예측, 계통 연계 일정, 이중화 아키텍처 및 PDU 용량 여유분을 확인하십시오. 또한 DCIM/BMS 통합 및 관련 규정 준수 요건을 검증하십시오. 장기적인 목표 달성을 위해 PDU 관련 결정을 광범위한 하이퍼스케일 데이터 센터 에너지 전략과 연계하십시오.