GPU 발열 DLC로 잡아 최대 성능 유지
서버 전력 사용량도 12.3㎾까지 절감
B200 7656장·광주보다 5.7배 규모
“공공 운영 경험 앞세워 민간시장 공략”

NHN클라우드 ‘NHN 팩토리X 서울’ 내부 전경 [NHN제공]

[헤럴드경제=차민주·이준영 수습기자] “그래픽처리장치(GPU)와 중앙처리장치(CPU)에서 발생하는 열 대부분을 물로 식히고 있습니다.” (이일준 NHN클라우드 기술사업부장)

NHN클라우드가 수랭식 냉각 기술을 갖춘 인공지능(AI) 데이터센터 ‘NHN 팩토리X 서울’을 앞세워 대규모 AI 인프라 사업을 확대한다. AI 확산으로 고성능 GPU의 발열 문제가 핵심으로 떠오른 가운데, 데이터센터를 안정적으로 가동할 수 있는 운영 역량을 바탕으로 시장 공략에 나선다.

지난 6일, 기자가 직접 서울 영등포구에 있는 NHN 팩토리X 서울을 찾았다. 출입 절차를 거쳐 6층 데이터홀에 들어서자, 성인 남성의 키를 훌쩍 넘긴 크기의 검은색 서버랙이 A열부터 L열까지 길게 늘어서 있었다.

수백 대의 서버에서 냉각용 팬이 돌아가는 신호인 ‘윙’ 소리가 들려왔다. 다만 옆 사람과 대화하기 어려울 정도로 소음이 크지는 않았다. GPU와 CPU의 열을 팬이 아닌 물로 직접 식히는 수랭식 냉각 설비가 적용됐기 때문이다. 최신 GPU B200의 대규모 클러스터를 전부 수랭식으로 구축한 것은 NHN 팩토리X 서울이 처음이다.

이날 현장에서 만난 이일준 NHN클라우드 기술사업부장은 “일반적인 공랭식 GPU 서버는 소음이 110 데시벨(㏈)을 넘을 정도로 팬이 강하게 돌아 대화가 어려울 때도 있다”며 “이곳은 CPU와 GPU의 열 대부분을 물로 제거하기 때문에 서버가 밀집해 있어도 대화가 가능한 수준”이라고 설명했다.

‘NHN 팩토리X 서울’ 서버 냉매 시설 [NHN제공]

이어 그는 “CPU와 GPU 칩 위에 금속판인 ‘콜드 플레이트’를 밀착시키고, 내부로 냉매를 흘려 열을 직접 흡수하는 직접 수랭식 냉각(DLC) 방식을 적용했다”며 “CPU와 GPU의 열은 물로 직접 제거하고, 메모리와 네트워크카드 등에서 발생하는 나머지 열만 공기로 식히는 구조”라고 설명했다.

수랭식 냉각 덕에 GPU 온도도 안정적으로 유지된다. 일반적인 공랭식 환경에서 GPU 온도는 약 50~70도까지 올라가지만, 이곳에서는 약 48~50도로 관리돼 성능을 온전히 유지해 낸단 설명이다. 그는 “GPU는 온도가 약 70도를 넘으면 장비 손상을 막기 위해 스스로 연산량을 줄여 GPU 성능이 떨어진다”며 “낮은 온도를 안정적으로 유지하는 것이 GPU 성능을 끌어내는 핵심”이라고 했다.

전력 사용량도 줄어든다. 이 부장은 “엔비디아 B200 GPU 서버 한 대는 공랭식 환경에서 약 14.3㎾를 사용하지만, 수랭식 냉각을 적용할 경우 약 12.3㎾로 감소한다”고 덧붙였다.

‘NHN 팩토리X 서울’ 바닥 누수 탐지 센서 [NHN 제공]

‘NHN 팩토리X 서울’ 상부 수랭 배관 [NHN 제공]

NHN클라우드는 센터에 설치된 B200 GPU는 모두 국가 소유 자산이라 강조했다. 현재 이 기업은 대규모 GPU와 클라우드 인프라 구축·운영 경험을 바탕으로 주요 공공 기관에서 서비스를 운영하고 있다. 특히 정부24의 클라우드 전환을 진행하고 있다. 현재 정부24 전체 서비스의 약 70%가 NHN클라우드에서 운영되고 있으며, 나머지도 단계적으로 전환 중이다.

이 부장은 “정부는 데이터센터 구축 비용은 물론 향후 5년 동안 발생하는 전기료와 운영 인력의 인건비를 별도로 지급하지 않는다”며 “대신 NHN클라우드가 전체 국가 투자 자산의 20%를 자체 연구개발에 활용하거나 민간 고객에게 판매할 수 있도록 했고, 해당 수익으로 데이터센터 운영비를 충당하고 있다”고 했다.

이일준 NHN클라우드 기술사업부장이 ‘NHN 팩토리X 서울’을 소개하는 모습 [NHN 제공]

NHN클라우드는 운영 역량을 지속해서 고도화해 AI 인프라 사업을 민간 기업 시장까지 확대한다는 구상이다. 현재 신한금융그룹이 데이터센터 내부에 프라이빗 클라우드 리전을 마련했다. 최근에는 판교 데이터센터에 크래프톤 전용 엔비디아 B300 GPU 1000장을 구축하기도 했다.

이 부장은 “향후 데이터센터에서는 면적보다 전력 공급과 냉각 능력이 더 중요한 기준이 될 가능성이 크다”며 “앞으로 공공기관뿐 아니라 기업 고객에게도 신뢰할 수 있는 클라우드 사업자로 다가갈 것”이라고 했다.

한편, NHN 팩토리X 서울은 과학기술정보통신부와 정보통신산업진흥원(NIPA)의 ‘AI 활용 기반 강화 사업’을 통해 조성된 대규모 AI 데이터센터다. 지난 4월부터 정식 서비스를 시작했다. 현재 엔비디아 B200 GPU 7656장이 설치돼 있으며, 연산 성능은 약 574페타플롭스(PF)다. 광주 국가AI데이터센터보다 약 5.7배 큰 규모다.