科大引進浸沒式水冷系統 提升AI設備運算效能 每年減碳900噸
訓練人工智能(AI)需要高效能運算設備,但運算時所產生的熱力往往成為障礙。香港科技大學近日引進全港最大規模的「浸沒式液冷卻系統」,是全港首家大學引入該系統。該系統有效降低超過80%的冷卻耗電量,預計每年可減排900噸的二氧化碳,亦為電腦提供更理想的低溫操作環境,提升運算性能,原本耗時數日的數據分析工作,現可縮短至數小時內完成。
科研工作,特別是分析大數據及執行複雜算法等,需要高效能的運算設備(HPC)。然而,這類伺服器的耗電量高,並會產生大量熱力,阻礙發揮運算效能。
科大近日在教資會的「改建、加建、維修及改善工程計劃」撥款支持下,引入浸沒式液冷卻技術,首階段安裝的八個浸沒式冷卻水箱,可容納約280台中央處理器(CPU)和圖形處理器(GPU)。
運算能力提高 數據分析時間縮短 數小時內完成
相較於利用風扇和冷氣來散熱的機櫃式系統,液冷技術透過把精密電腦硬件直接浸入特製的類水冷卻液進行散熱,可顯著減少超過80%的能源消耗,並有效把機房的能源使用效率(PUE)降至低於1.1(數值越接近1代表越省電),長遠有助延長硬件的壽命。
科大指,隨著運算能力的提升,原本耗時數日的數據分析工作,現可縮短至數小時內完成,將有利更多包括疫苗開發、個人化醫學、癌症基因組學、天體物理學模型構建及材料科學等,需要高效大數據分析的研究工作。
科大預計,新系統可幫助每年減碳900噸,較傳統機櫃式系統減少碳排放達量45%,每年節省近300萬元電費,同時令效能功耗比(performance per watt)提升10%。
此外,新技術所採用的冷卻液壽命長達十年或以上,並且屬非腐蝕性兼可生物降解的材料,大大減少對環境的影響。
科大副校長(研究及發展)鄭光廷表示,科大一直致力培育AI相關人才,開拓AI於不同領域的潛能。科大將持續提升AI基建設備,以孕育滋養創新的環境,力求創新。
科大資訊科技總監關樹建表示,預計2026年落成、樓高八層的高性能數據中心,亦將採用此項液冷技術。