데이터센터

AI 데이터센터에서 이더넷과 인피니밴드는 어떻게 다를까? GPU 네트워크 비교

작성자:

AI 데이터센터를 이야기할 때 GPU, HBM, 냉각 시스템만큼 중요하지만 상대적으로 덜 알려진 기술이 있습니다. 바로 GPU 서버를 연결하는 네트워크입니다. GPU 성능이 아무리 뛰어나더라도 여러 GPU가 데이터를 주고받는 과정에서 지연이 발생하면 AI 모델의 학습과 추론 속도가 제한될 수 있습니다. 특히 수백 대에서 수천 대 이상의 GPU를 연결하는 대규모 AI 데이터센터에서는 네트워크 설계가 중요한 성능 요소가 됩니다. … 더 읽기

AI 서버 액체냉각이란? 콜드플레이트와 CDU 원리 쉽게 정리

작성자:

AI 기술이 발전하면서 데이터센터에는 더 강력한 GPU와 고성능 서버가 필요해지고 있습니다. 하지만 서버의 성능이 높아질수록 함께 해결해야 하는 문제가 있습니다. 바로 서버에서 발생하는 열을 효과적으로 제거하는 것입니다. 기존 데이터센터에서는 주로 공기를 이용해 서버를 냉각했습니다. 그러나 고성능 AI 서버처럼 많은 연산 장치가 밀집된 환경에서는 공랭식 냉각만으로 열을 처리하기 어려워질 수 있습니다. 이러한 문제를 해결하기 위한 기술 … 더 읽기