清空記錄
歷史記錄
取消
清空記錄
歷史記錄
以 ChatGPT 為主的人工智能生成內(nèi)容催動算力規(guī)模增長,AI崛起直接帶動服務(wù)器的出貨上揚,連帶要求散熱模組的規(guī)格升級,推動散熱模組走向液冷方案升級,以滿足服務(wù)器對散熱性和穩(wěn)定性的嚴(yán)格要求。
目前散熱模組分為氣冷散熱和液冷散熱兩種,其中氣冷散熱就是用空氣作為媒介,透過熱接口材料、均熱片(VC)或熱導(dǎo)管等中間材料,由散熱片或風(fēng)扇與空氣對流進行散熱。而液冷散熱則是透過,或浸沒式散熱,主要就是透過與液體熱對流散熱,進而使晶片降溫,但是隨著晶片發(fā)熱量的增加與體積的縮小,芯片熱設(shè)計功耗(TDP)的提高,氣冷散熱逐漸不再使用。
受到AI應(yīng)用帶動相關(guān)半導(dǎo)體技術(shù)發(fā)展,ChatGPT的GPT-3導(dǎo)入就已讓AI算法參數(shù)量成長到1750億,使得GPU運算力要成長百倍,目前業(yè)界多以液冷中的單相浸沒式冷卻技術(shù),解決高密度發(fā)熱的服務(wù)器或零件散熱問題,但仍有600W的上限值,因為ChatGPT或更高階的服務(wù)器散熱能力須高于700W才足以因應(yīng)。
隨著物聯(lián)網(wǎng)、邊緣運算、5G應(yīng)用的發(fā)展,數(shù)據(jù)AI帶動全球算力進入高速成長期,下一代的散熱模組設(shè)計,主要有兩大方向,ㄧ是使用3D均熱板(3DVC)升級現(xiàn)有散熱模塊,二是導(dǎo)入液冷散熱系統(tǒng),改用液體當(dāng)作熱對流介質(zhì),提升散熱效率,因此2023年液冷測試案量明顯增加,但是3DVC終究只是過渡方案,預(yù)估2024年到2025年將進入氣冷、 液冷并行的時代。
由于新一代服務(wù)器TDP提升到接近氣冷散熱的極限,因此電子科技大廠紛紛開始測試液冷散熱,或增加散熱空間,像某些企業(yè)的TDP 350-400W已達氣冷極限,使得液冷散熱成為AI芯片主流,像是NVIDA H100的TDP就達700W,氣冷采3DVC,普遍需4U以上空間, 并不符合高密度部署架構(gòu)。
以散熱系統(tǒng)占數(shù)據(jù)中心總耗能約33%來看,減少總用電量降低電力使用效率的方式,包含改善散熱系統(tǒng)、信息設(shè)備,并使用再生能源,而水的熱容量是空氣的4倍,因此導(dǎo)入液冷散熱系統(tǒng),液冷板只需要1U的空間,根據(jù)測試,若要達到相同算力,液冷所需的機柜量可減少66%、能耗可減少28%、 PUE可由1.6降到1.15,并可提升運算效能。
高速運算導(dǎo)致TDP不斷提升,AI服務(wù)器對散熱的要求大幅提升,傳統(tǒng)熱導(dǎo)管散熱已接近極限,勢必需導(dǎo)入液冷散熱模組,以目前的產(chǎn)業(yè)市況來看,液冷散熱導(dǎo)入得比預(yù)期快,預(yù)估到2024年、2025年將迎來大爆發(fā)。