国产一级一区二区_segui88久久综合9999_97久久夜色精品国产_欧美色网一区二区

掃一掃
關注微信公眾號

大模型備案月均增長近16款 數據中心如何做好算力準備?
2024-06-28   中國IDC圈

  2023年8月,8款生成式人工智能服務器通過首批備案;2024年3月底,這一數字已增至117款,短短7個月增長了109款。這反映了我國大模型的快速發展,背后則是快速增長的算力需求。

  面對這一情況,傳統數據中心已經力有不逮,正從芯片、服務器、散熱、建設、設計等多方面進行優化,多項新技術、新解決方案不斷涌現。以中科可控日前發布的新一代高融合一體化算力平臺D9000 G5為例,其支持高密算力、高效調度,可提供9216個核心的澎湃動力,一柜相當于2000臺傳統服務器的算力總和,為數據中心滿足高算力發展提供了新思路。


圖:D9000 G5整機柜集群

  新一代整機柜助力數據中心實現高密算力

  當前,芯片功率不斷提高,為滿足持續提升的算力需求,作為算力基礎設施的數據中心必然向高密化方向發展,以降低算力成本,提升算力建設效率。

  整機柜是將原有機架+機器分離的架構進行融合,打包成為一個獨立的產品。以一個整機柜為最小顆粒度進行交付的服務器,是算力的優質載體。通過技術與設計上的深入研發,新一代整機柜能夠持續優化架構,實現高密算力,有效降低算力成本,提升算力建設效率,讓數據中心具備更強的市場競爭力,獲得更好的商業利益。如D9000 G5.其單節點最高支持256顆物理核心,512線程的算力,可實現6組xHCL高速互聯,峰值帶寬達230.4GB/s,算力密度提升4-8倍以上。


圖:D9000 G5支持高密算力

  同時,智能化、數字化均會產生海量數據,數據中心想要滿足人工智能算力需求,也要有先進的存儲力。D9000 G5在存儲力層面同樣有著較大優勢,可提供3.2P全閃存儲空間,實現高達61萬+IOPS數據吞吐量,能夠滿足語料讀取和大模型 Checkpoint需求。

  以此來看,數據中心搭載D9000 G5后,其計算能力與存儲能力均能夠得到有效提高,能夠更好地實現市場價值與商業目的。

  值得注意的是,實現高密算力的必要前提是高效制冷。芯片功率的提升,密度的提高,都要求整機柜需要具備良好的散熱能力,以保證芯片的安全運行。D9000 G5同樣在此方面進行了全面優化,在覆蓋風冷、風液混合、全液冷等全類節能形式的基礎上,著重應用了液冷這一高效制冷方式,液冷覆蓋率超過95%,以提供穩定的溫度及環境,進一步激活芯片算力潛能,確保算力的全面輸出。

  新一代整機柜助推數據中心節能降碳

  伴隨智能化、數字化發展,全社會對算力的需求快速提升,算力產業規模迅速擴大,尤其是智能算力需求隨著大模型數量的快速增長而迅速上升。據中國信通院統計,截至2023年底,我國智算規模約69 EFLOPS,相較于2023年6月的50EFLOPS,半年時間規模增加38%。

  算力的產生主要依賴于電力的支撐,算力產業擴大的同時,用電耗能也在快速增長。以GPT-3為例,GPT-3前期訓練的耗電量為128.7萬度,相當于國內348個家庭一年的生活用電;GPT每日訪問量約為2.7億次,平均每次訪問5個問題,每月用在回答問題上的推理計算耗電量則是1872萬度,這就導致了大量的碳排放。這種情況下,伴隨“雙碳”目標的臨近,綠色化已成為數據中心發展的必然趨勢。

  目前數據中心已經在設備、建設等方面采取多種節能減碳措施。而新一代整機柜通過持續創新,在綠色化方面的作用日益顯著。


圖:D9000 G5采用液冷、智能流量調節等降低能耗

  作為其中的代表,D9000 G5有效降低了數據中心用能,減少了碳排放。它采用智能供電技術,集中供電效率提升,整柜節能20%以上;通過智能流量調節技術,二次側液冷系統最高節能56%。同時,液冷高效率制冷的能力可大幅度減少散熱的電能消耗,讓數據中心實現低PUE。全液冷模式下,搭載D9000 G5的數據中心PUE可低至1.09.有效減少了碳排放。

  新一代整機柜可適配數據中心差異化配置需要

  整機柜需要應用于數據中心才能體現出其價值,但不同的數據中心在供電、建設規模等方面存在著差異。整機柜能否實現靈活配置,其自身在運維過程中是否便捷,可否實現快速交付等都成為擺在整機柜面前的挑戰。也正因如此,新一代整機柜在設計、布局、配置等方面進行了多項創新,將這些問題一一化解,已經具備高可用性。

  以D9000 G5為例,其自主研發的“積木式”模塊化部署可滿足服務器節點、交換節點、管理模塊、電源模塊的一體化集成、一體化運輸,實現機柜級交付。同時,D9000 G5支持水、電、網三線全盲插,在安裝過程中無需精準對位,極大地提升了部署效率。經測試,D9000 G5的安裝時間比傳統方式縮短了80%。

圖:D9000 G5支持水、電、網三線全盲插

  D9000 G5還實現了智能運維,通過集成的U位識別技術,可全面掌握RMC整柜和節點信息,簡化遠程智能運維場景。一旦有機器發生故障,系統能迅速鎖定位置,配合自動化機械臂的介入,可顯著降低人力運維成本,確保數據中心高效運行狀態;面向機房無人化運維場景,D9000 G5節點級與機柜級智能雙重漏液防控設計,可實現遠程智能操控供電、供液;通過智能化操作,D9000 G5節點級MTTR可節省30%以上。

  D9000 G5能夠進行靈活配置,電源箱、交換機,節點位置可根據場景靈活配置。如電源箱通過靈活布局能夠支持高中低不同位置的安裝,完美適應不同機房的走電規劃,而且與液冷系統的緊密結合,可徹底消除水電交叉可能引發的安全隱患。

  此外,D9000 G5具備靈活形態,支持整柜、半柜等不同交付形式。其中,整機柜設計適用通信、金融、科教等用戶;半柜則適用中小型數據中心,有效滿足了不同規模不同場景下的使用需求,實現全屋定制。

  算力的產出依賴于芯片,整機柜與數據中心的協同發展是為了最大可能釋放芯片潛能,目前D9000 G5通過算、存、管、用的設計創新正加快推動數據中心突破算力瓶頸,而這可能僅僅是第一步,伴隨算力需求的提升,整機柜乃至數據中心的形態均有可能發生新的變化,包括在軟件層面上的進一步契合等。智能化的未來,整機柜與數據中心還將從多個層面上進行突破,最終實現契合智能化、數字化發展的高算力供給。

熱詞搜索:大模型 數據中心 算力

上一篇:冷板式液冷占比超八成,浸沒式還有明天嗎?
下一篇:最后一頁

分享到: 收藏
主站蜘蛛池模板: 英山县| 黎城县| 石景山区| 开远市| 旬邑县| 鲜城| 晋州市| 烟台市| 阜新市| 读书| 固安县| 黑河市| 潜山县| 绥滨县| 顺平县| 龙里县| 武冈市| 陆河县| 平定县| 南开区| 若尔盖县| 教育| 广州市| 循化| 卢龙县| 元阳县| 泰来县| 兴城市| 新巴尔虎左旗| 沈丘县| 台中县| 黄龙县| 临邑县| 安图县| 临桂县| 灵山县| 彝良县| 长宁县| 黎川县| 广灵县| 东乡族自治县|