2022年我國政府工作報告中,可以看到較爲突出的關鍵詞有:“減碳”“治理”“改造”“推進”及“節能”等等,重點推進碳達峰、碳中和工作,并落實行動方案。
在關于數據中心發展方面,則多次使用了“約束、加強”之詞,如:進一步約束數據中心的水資源利用率和循環措施;提升PUE+WUE效率,加強中水使用;加強數據中心廢水、廢油、煙氣排放管理。
并且,随着能源、金屬等價格的上漲,數據中心的投資與運維成本将繼續上升,企業應進一步通過新技術來降低數據中心的成本。
我們再來看看數據中心,在一排排星羅密布的機架中,能耗最高的當屬CPU和GPU,它們一直都被譽爲多核心、超高頻率的“組合體”,動辄幾百瓦的功耗需要大量制冷設備爲其輔助散熱,因此老舊數據中心的PUE值一直難以降下。随着技術的不斷演進,CPU的效率也越來越高,憑借核心數量及性能的優勢AMD提出了“單路打雙路”及“一台打多台”的新思路。值得關注的是,在很多企業級應用場景中,AMD确實做到了!時至今日,AMD EPYC經曆了三代的更新,性能方面已經“修煉”得爐火純青,那麽在2022年它将給企業級用戶帶來什麽呢?正如之前互聯網上的各種預測那樣,AMD這次真的将3D V-Cache引入了EPYC處理器上,并讓單顆處理器L3緩存容量破天荒地提升至768MB,或雙路平台L3緩存則首度破“GB”大關,達到了1.5GB。2022年3月21日,AMD正式推出搭載AMD 3D V-Cache技術的第三代AMD EPYC(霄龍)處理器,其内部代号爲米蘭-X。它可以看作是第三代EPYC的增強版,在保持功耗不變的同時,在諸多企業級應用場景下能夠提供更高的性能。
3D V-Cache的首度亮相是在Computex 2021上,是通過3D形式堆疊更多芯片模組,進而構建出更大容量的3D垂直緩存(3D Vertical Cache)。近日AMD公布了第一款采用 AMD 3D V-Cache技術的銳龍處理器——銳龍7 5800X3D 處理器,就是通過3D V-Cache技術在頂部3D封裝額外的新緩存,将三級緩存擴容到96MB,憑借這項行業領先的技術,5800X3D 的遊戲性能可提升15%。正如前文所述,在面向企業級的EPYC(霄龍)處理器中,AMD推出了擁有3D V-Cache技術的米蘭-X處理器,并提供 16核7373X、24核7473X、32核7573X及64核7773X,共計4款可供選擇。64核128線程的旗艦型号7773X處理器,基礎頻率爲2.2GHz,加速頻率可達3.5GHz,TDP功耗280W。與米蘭相比,米蘭-X總L3緩存容量提升至768MB,相當于前者的3倍。我們來看看3D V-Cache緩存的分布情況。談到AMD的Zen架構處理器,相信大家對CCD一定不會陌生,其爲Core Chiplet Die的縮寫,可以看作是多顆核心組成的處理器單元。
一般情況下CCD核心單元包含CCX(CPU Complex,可看作是純計算單元)及Infinity Fabric,每個CCX整合了8個Zen内核,每個核心都有獨立的L1與L2緩存,L3緩存則爲共享形式。因此,以Zen3架構EPYC 7003處理器爲例,一組CCD核心單元就具備8核16線程,以及可共享的32MB的L3緩存。8套CCD核心單元組成具備64顆核心、128線程合計256MB的L3緩存。CCD核心與I/O之間采用Infinity Fabric總線連接,它在擴展性、延遲和能效方面都表現出色,具備512-bit總線位寬。相比上一代羅馬,EPYC 7003的每顆核心均可訪問CCD單元中32MB的L3緩存,這在很多企業級應用中能夠明顯提升計算性能。對處理器而言,L3緩存容量的大小極爲重要。如果簡單地将存儲分層的話,可以看到站在性能制高點的是L1和L2緩存,但由于頻率極高,受限于晶體管數量及良品率控制,所以容量不能做的很大。而再下一級就是L3緩存和内存,相比之下内存依然是“CPU之外”的存儲,其位寬、頻率及延遲等性能要遠遠遜于CPU緩存,所以這裏就會出現一個超高速率的處理器+小容量緩存與大容量内存之間形成的性能“斷層”。如何很好地彌補這一“斷層”?需要L3緩存來實現。L3緩存依然位于CPU内部,因此性能強勁,且容量能夠做得相對大一些,就像是高速度的“存儲池”,L3緩存向上承接超高速的L1及L2,向下則與更大容量但速度較慢的内存進行數據交換。因此L3緩存是拓寬系統數據交換瓶頸的重要“交通樞紐”。多年來,AMD也是潛心緻力于擴大L3緩存容量,用以提升整體性能。随着制造工藝的不斷進步,3D V-Cache得以實現,AMD 米蘭-X此次提升的就是CCD單元中L3緩存容量,從之前的32MB飙升至96MB,組成了共計768MB的超大容量。
另外值得關注的是,AMD推出的這四款米蘭-X處理器無論核心數量多少,均配備了768MB的L3緩存,因此可以用脫胎換骨來形容。如此規模龐大的L3緩存可以說是史無前例,那麽它到底能帶來多大的性能提升呢?此次AMD也對米蘭-X進行了全面測試,其中包括計算流體動力學(CFD)、有限元分析(FEA)、電子設計自動化(EDA)以及結構分析,這四大領域。
EDA是Electronic design automation的縮寫,指的是利用計算機輔助設計(CAD)軟件,來完成超大規模集成電路芯片的功能設計、綜合、驗證、物理設計,包括布局、布線、版圖、設計規則檢查等流程的設計方式。在當今這個數字化時代,EDA被譽爲半導體設計、制造方面的基石,也是工業領域重要的組成部分。包括AMD、高通、三星等廠商在芯片設計方面也都離不開EDA。在各種複雜設計的模拟方面,性能強勁的服務器可以讓工作效率實現大幅提升,并可直接縮短設計周期。在EDA測試中,擁有3D V-Cache的第三代AMD EPYC 7373X對比EPYC 73F3,結果顯示能夠爲Synopsys VCS這樣的EDA RTL模拟提供高達66%的性能提升。
此外,在FEA、CFD等分析及仿真程序測試中,米蘭-X也表現出了更強大的性能,并且能夠幫助企業級用戶在同樣的時間内解決更多問題。近年來,EPYC的成功讓AMD朋友圈逐漸豐富了起來,幾乎所有的硬件廠商都已經成爲了AMD的合作夥伴,也幫助其在企業級市場屢屢攻城略地。此次米蘭-X的發布,AMD又将生态進一步擴充,軟件方面支持了包括Altair、Ansys、Cadence、Dassault Systèmes、Siemens以及Synopsys等生态夥伴,讓EPYC能夠享受更多軟件優化,進一步提升工作效率。
擁有3D V-Cache的AMD 米蘭-X處理器也給雲計算注入了全新的活力。據了解,基于米蘭-X的Microsoft Azure HBv3虛拟機将于近期正式上線,相比前代HBv3系列虛拟機,能夠在關鍵HPC 工作負載中的性能提升高達 80%。
服務器方面,此次包括Atos、Cisco、Dell、HPE、Lenovo、QCT以及Supermicro在内的衆多OEM合作夥伴都已經爲Milan-X做好了準備,近期用戶就可以享用3D V-Cache了。
一直以來,AMD EPYC都憑借更多的核心及更高地性能在企業級市場中大放異彩,很多用戶都用更少數量EPYC服務器替代了原有平台,在降低功耗與采購成本的同時又減少了能耗,兼顧了節能與高性能。全面迎合了我國數據中心未來發展方向。在“Zen 4”推出之前,AMD發布米蘭-X,不斷的強化自己的産品陣營,以更高的性能迎接來自競争對手的挑戰。而在絕對性能方面,米蘭-X又再次刷新了多項紀錄,給企業級用戶交上了一份合格的答卷。