AI 기술이 발전하면서 데이터센터에는 더 강력한 GPU와 고성능 서버가 필요해지고 있습니다. 하지만 서버의 성능이 높아질수록 함께 해결해야 하는 문제가 있습니다. 바로 서버에서 발생하는 열을 효과적으로 제거하는 것입니다.
기존 데이터센터에서는 주로 공기를 이용해 서버를 냉각했습니다. 그러나 고성능 AI 서버처럼 많은 연산 장치가 밀집된 환경에서는 공랭식 냉각만으로 열을 처리하기 어려워질 수 있습니다.
이러한 문제를 해결하기 위한 기술 중 하나가 바로 AI 서버 액체냉각입니다.
이번 글에서는 액체냉각의 기본 원리부터 콜드플레이트와 CDU의 역할, 냉각수가 순환하는 과정, 그리고 이 기술의 장단점까지 쉽게 알아보겠습니다.
1. AI 서버 액체냉각이란?
AI 서버 액체냉각은 냉각용 액체를 이용해 서버 내부의 CPU나 GPU에서 발생하는 열을 흡수하고 외부로 전달하는 기술입니다.
일반적인 공랭식 냉각은 팬으로 공기를 이동시켜 부품의 열을 제거합니다. 반면 액체냉각은 열이 많이 발생하는 부품 가까이에서 냉각수를 순환시켜 열을 전달합니다.
대표적인 방식인 직접 칩 냉각(Direct-to-Chip Cooling) 은 GPU나 CPU에 냉각판을 부착하고, 그 내부로 냉각수를 흐르게 하는 구조입니다.
액체냉각이라고 해서 서버 전체를 물속에 넣는 것은 아닙니다. 칩에 직접 냉각판을 설치하는 방식과 서버를 비전도성 냉각액에 담그는 액침냉각은 서로 다른 기술입니다.
액체냉각의 기본적인 방식과 데이터센터 적용 사례는 ASHRAE의 데이터센터 냉각 기술 자료에서도 확인할 수 있습니다.
2. AI 서버에 액체냉각이 필요한 이유
가장 큰 이유는 고성능 반도체에서 발생하는 열입니다.
AI 모델을 학습하거나 대규모 AI 서비스를 운영할 때는 많은 연산이 수행됩니다. 이 과정에서 GPU와 CPU는 열을 발생시키며, 데이터센터는 이 열을 지속적으로 제거해야 합니다.
열이 제대로 제거되지 않으면 부품의 온도가 높아지고, 시스템이 안정적인 작동을 위해 성능을 제한할 수도 있습니다. 냉각 설계는 서버의 안정성과 운영 효율에 영향을 주는 중요한 요소입니다.
특히 서버를 고밀도로 배치한 데이터센터에서는 좁은 공간에 많은 열이 집중될 수 있습니다. 이때 공기 흐름만으로 열을 처리하려면 강력한 팬과 공조 설비가 필요할 수 있습니다.
액체냉각은 열이 발생하는 부품 가까이에서 열을 흡수하기 때문에 고밀도 서버 환경에서 유용한 선택지가 됩니다.
다만 모든 데이터센터가 같은 냉각 방식을 사용하는 것은 아닙니다. 서버의 전력 밀도, 시설 구조, 냉각 설비와 운영 비용을 함께 고려해 적합한 방식을 선택해야 합니다.
3. 콜드플레이트란 무엇일까?
콜드플레이트(Cold Plate)는 GPU나 CPU처럼 열이 많이 발생하는 부품에 직접 부착하는 금속 냉각판입니다.
냉각판 내부에는 냉각수가 흐르는 통로가 설계되어 있습니다. 칩에서 발생한 열이 금속판으로 전달되고, 냉각수가 이 열을 흡수하면서 외부로 이동시킵니다.
쉽게 말하면 콜드플레이트는 반도체에서 발생한 열을 냉각수로 전달하는 장치입니다.
콜드플레이트의 성능은 금속 소재뿐 아니라 내부 통로의 형태, 냉각수의 유량, 압력, 칩과 냉각판의 접촉 상태 등에 영향을 받습니다.
따라서 단순히 냉각판을 설치하는 것만으로 충분한 것은 아닙니다. 냉각수가 적절하게 흐르고 열이 안정적으로 전달되도록 전체 시스템을 설계해야 합니다.
콜드플레이트의 구조와 설계 요소가 궁금하다면 ASHRAE의 콜드플레이트 기술 설명을 참고할 수 있습니다.
콜드플레이트가 모든 부품을 냉각할까?
반드시 그렇지는 않습니다.
GPU와 CPU는 액체로 냉각하더라도 메모리, 전원부, 네트워크 부품 등은 설계에 따라 공랭식 냉각을 함께 사용할 수 있습니다.
따라서 직접 칩 냉각을 도입했다고 해서 서버 내부의 모든 열이 액체만으로 제거되는 것은 아닙니다. 실제 냉각 방식은 서버의 구조와 부품 구성에 따라 달라집니다.
4. CDU는 어떤 역할을 할까?
CDU는 Coolant Distribution Unit의 약자로, 냉각수 분배 장치를 의미합니다.
콜드플레이트가 칩에서 열을 흡수한다면 CDU는 냉각수가 안정적으로 순환하도록 관리하고, 서버 쪽 냉각 회로에서 전달된 열을 시설의 냉각 시스템으로 넘기는 역할을 합니다.
CDU에는 설계에 따라 다음과 같은 구성품이 포함될 수 있습니다.
- 펌프: 냉각수가 회로를 따라 순환하도록 함
- 열교환기: 서버 쪽 냉각 회로의 열을 시설 냉각 회로로 전달
- 밸브: 냉각수의 흐름을 조절
- 온도·압력·유량 센서: 냉각 상태를 측정
- 제어 장치: 냉각 시스템의 작동 상태를 관리
CDU의 중요한 역할 중 하나는 서버 쪽 냉각 회로와 시설 냉각 회로 사이에서 열을 전달하고, 필요한 온도와 유량 조건을 유지하는 것입니다.
일반적인 설계에서는 두 회로를 열교환기로 분리해 냉각수가 직접 섞이지 않도록 구성할 수 있습니다. 다만 실제 구조는 장비와 시스템 설계에 따라 달라집니다.
CDU의 역할과 냉각 시스템 전체의 구성은 ASHRAE의 AI 데이터센터 에너지 및 열 효율 자료에서 더 자세히 살펴볼 수 있습니다.
5. AI 서버 액체냉각은 어떤 순서로 작동할까?
직접 칩 냉각 방식의 기본적인 작동 과정은 다음과 같습니다.
① GPU와 CPU에서 열이 발생한다
AI 연산이 진행되면서 GPU와 CPU에서 열이 발생합니다. 데이터센터는 이 열이 부품에 축적되지 않도록 지속적으로 제거해야 합니다.
② 콜드플레이트가 열을 흡수한다
칩에 부착된 콜드플레이트가 부품에서 전달된 열을 흡수합니다. 냉각판 내부를 흐르는 냉각수가 열을 받아 이동합니다.
③ 냉각수가 열을 운반한다
열을 흡수한 냉각수는 배관을 따라 CDU 방향으로 이동합니다. 이 과정에서 냉각수의 유량과 압력 등이 적절하게 유지되어야 합니다.
④ CDU가 열을 시설 냉각 시스템으로 전달한다
CDU의 열교환기는 서버 쪽 냉각 회로에서 전달된 열을 시설 냉각 회로로 넘깁니다.
⑤ 시설 냉각 설비가 열을 외부로 방출한다
전달된 열은 시설에 설치된 냉각 설비를 통해 외부로 방출됩니다. 구체적인 방식은 데이터센터의 설계와 외부 환경에 따라 달라집니다.
⑥ 냉각수가 다시 순환한다
열을 제거한 냉각수는 다시 서버 쪽 냉각 회로로 돌아갑니다. 이 과정이 반복되면서 서버에서 발생하는 열을 지속적으로 제거합니다.
액체냉각은 단순히 냉각수를 공급하는 기술이 아닙니다. 콜드플레이트, 배관, CDU, 시설 냉각 설비가 하나의 시스템으로 작동해야 합니다.
6. 액체냉각의 장점은 무엇일까?
① 고밀도 서버의 열 제거에 유리하다
액체를 이용하면 열이 발생하는 칩 가까이에서 열을 흡수할 수 있습니다. 특히 고성능 GPU가 밀집된 서버 환경에서 액체냉각은 중요한 선택지가 될 수 있습니다.
② 공랭식 냉각의 부담을 줄일 수 있다
서버에서 발생하는 열의 상당 부분을 액체 회로로 전달하면 시설 공조 시스템이 처리해야 하는 열 부담을 줄일 수 있습니다.
다만 메모리와 전원부 등 일부 부품은 여전히 공랭식 냉각이 필요할 수 있으며, 전체 시스템의 효율은 설계에 따라 달라집니다.
③ 고성능 AI 서버를 위한 설계 선택지가 넓어진다
서버의 전력 밀도가 높아질수록 냉각 장치의 배치와 배관 설계가 중요해집니다. 액체냉각을 활용하면 고밀도 서버를 위한 다양한 냉각 구조를 구성할 수 있습니다.
7. 액체냉각에도 단점과 과제가 있다
액체냉각이 모든 데이터센터에 무조건 유리한 것은 아닙니다.
① 초기 구축 비용
배관, 냉각 장치, 열교환기, 제어 장치 등을 추가로 설계해야 할 수 있습니다. 기존 공랭식 데이터센터를 액체냉각에 맞게 변경하려면 별도의 설비 투자도 필요할 수 있습니다.
② 누수와 냉각수 관리
냉각수가 순환하는 구조이기 때문에 배관 연결부와 장비의 상태를 점검해야 합니다. 냉각수의 품질, 부식, 오염 가능성도 관리 대상입니다.
③ 유지보수 방식의 변화
서버를 교체하거나 부품을 점검할 때 냉각수 연결부를 안전하게 분리하고 다시 연결하는 절차가 필요할 수 있습니다. 이에 따라 작업 방식과 유지보수 계획도 달라질 수 있습니다.
④ 전체 전력과 물 사용량은 설계에 따라 달라진다
액체냉각을 도입했다고 해서 데이터센터의 전력 소비나 물 사용량이 항상 감소하는 것은 아닙니다. 펌프와 냉각 설비가 사용하는 에너지, 열을 외부로 방출하는 방식, 지역의 기후 조건 등에 따라 결과가 달라집니다.
따라서 액체냉각의 경제성을 평가할 때는 냉각 장비 가격뿐 아니라 운영 전력, 시설 구축 비용, 유지보수 비용까지 함께 고려해야 합니다.
8. AI 서버 액체냉각 관련 산업에서 주목할 부품
AI 데이터센터의 액체냉각을 이해하려면 GPU뿐 아니라 주변 설비도 살펴볼 필요가 있습니다.
- 콜드플레이트: GPU와 CPU에서 발생한 열을 냉각수로 전달하는 장치
- CDU: 냉각수의 순환과 열교환을 관리하는 장치
- 펌프와 밸브: 냉각수의 흐름과 압력을 조절하는 구성품
- 배관과 매니폴드: 냉각수를 각 서버와 장비로 분배하는 설비
- 열교환기: 서버 쪽 냉각 회로의 열을 시설 냉각 회로로 전달하는 장치
- 센서와 제어 시스템: 온도, 압력, 유량과 누수 여부 등을 관리하는 기술
이러한 부품은 서로 다른 역할을 담당합니다. 실제 수요와 중요도는 데이터센터의 설계, 적용하는 냉각 방식, 서버의 전력 밀도 등에 따라 달라질 수 있습니다.
특정 부품이나 기업의 성장 가능성을 판단할 때도 단순히 AI 시장이 성장한다는 이유만으로 결론을 내리기보다 실제 적용 사례와 기술 경쟁력, 공급 능력 등을 함께 살펴보는 것이 좋습니다.
마무리: AI 서버의 성능만큼 중요한 냉각 기술
AI 서버 액체냉각은 단순히 서버에 물을 공급하는 기술이 아닙니다. 콜드플레이트가 칩에서 열을 흡수하고, 냉각수가 열을 운반하며, CDU와 시설 냉각 설비가 열을 외부로 전달하는 하나의 시스템입니다.
AI 서버의 성능과 전력 밀도가 높아질수록 냉각 설계의 중요성도 커질 수 있습니다. 다만 실제 효과는 장비 구성과 운영 조건에 따라 달라지므로 구축 비용과 유지보수까지 함께 고려해야 합니다.
앞으로 AI 인프라를 이해하고 싶다면 GPU뿐 아니라 콜드플레이트, CDU, 데이터센터 전력 설비와 같은 주변 기술도 함께 살펴보는 것이 좋겠습니다.
이 글은 AI 데이터센터 냉각 기술에 대한 일반적인 정보 제공을 목적으로 작성했습니다. 특정 기업의 투자 가치나 장비의 성능을 보장하는 내용은 아닙니다.