亚洲精品国产情侣av在线_91亚洲国产成人久久精品网站_亚洲AV无码专区电影在线观看_亚洲AV无码专区亚洲AV桃

首頁 > 資訊 > > 正文

最強服務器CPU來了!AI性能直接翻倍

2024-09-27 20:42:47    來源:財訊網

服務器CPU領域持續多年的核心數量大戰,被一舉終結了!

英特爾最新發布的至強®6性能核處理器(P-core系列),超越了過去單一維度的競爭,通過“升維”定義了新的游戲規則:

>算力、存力,要全方位提升。不能做到這一點的CPU,不是智算時代的好U。

在過去,CPU升級換代往往要在單個芯片上集成更多的核心,但這難免會受到工藝和芯片尺寸的限制,更別提與IO和內存的匹配難題。

這一次,至強®6性能核處理器采用了計算芯片單元與I/O芯片單元解耦的分離式模塊化設計,可以靈活組合不同數量的計算單元,實現核心數量的擴展及內存和IO的同步強化,保證更優的整體性能和能效。

用最直觀的方式感受一下:

2023年12月15日,英特爾數據中心與人工智能集團副總裁陳葆立從褲兜里掏出第五代至強®可擴展處理器,還只有64個核心。

2024年9月26日,還是陳葆立,同樣從褲兜里掏出至強®6性能核處理器,卻直接翻倍到128核心

兩款處理器外形大小相似,都能輕松放入口袋,但性能卻發生了質的飛躍。

具體來說,剛剛登場的是至強®6性能核處理器大家族中的先鋒+頂級戰力——英特爾®至強®6900P系列

擁有多達128個性能核504MB的超大L3緩存,更大、更寬的內存支持,更多、更快的IO能力。非常適用于各種數據和計算密集型應用任務,比如科學計算、海量數據處理,還有AI。

看到這里,可能很多人會有疑問:你們又要說用CPU跑AI?是GPU它不香了么?

NoNoNo,我們是想說:有了這款CPU,你的GPU或其他的AI加速器,會更香!

談到這個話題,就要先說說AI服務器。

在生成式AI應用百花齊放的當下,AI服務器的重要性可謂是不言而喻,無論是對于大規模的訓練、推理,亦或是RAG等任務,都對其提出了更高的要求。

也正如綜合市場預測數據從側面反應出來的那般:

>AI服務器市場規模已經達到了211億美元,預計2025年達到317.9億美元,2023-2025年的CAGR為22.7%。

我們都知道AI服務器里GPU或AI加速器很重要,卻很容易忽視其中CPU的作用。一個真正為AI服務器或AI數據中心基礎設施設計的出色的CPU,應該是什么樣的?

英特爾®至強®6性能核處理器,可以說是給出了一個正解。

外媒甚至評測過后,對英特爾這次的新CPU給予了極高的評價:

>不僅僅是Xeon,更是XEON

嗯,用中文來說的話,就是英特爾至強,這次是真的至強(達到最強)了。

那么英特爾®至強®6性能核處理器是如何解鎖這種認同的呢?

至強,何以至強

首先要說的是算力。

英特爾®至強®6900P系列產品此次最亮眼的128核(三個計算芯片單元),這就是它看似符合此前游戲規則的一大技術亮點。

通過核心數量的不同排列組合方式,至強®6性能核處理器可以應對不同的場景來提供不同核心的型號,除了最高128核的產品系列(6900P)外,還有最高86核(2個計算芯片單元),最高48核(1個計算芯片單元)和16核(1個計算芯片單元)的產品系列。

用來做這種排列組合的模塊中,計算芯片單元采用的是Intel 3制程,包含一體式網格、核心、緩存、內存控制器等,可以保證數據傳輸的一致性。

I/O芯片單元則是采用Intel 7制程,包含UPI、PCIe、CXL和加速器引擎等。

不同于第五代英特爾®至強®產品,至強®6是將I/O和計算兩個單元進行了解耦,不僅易于做核數的擴展,還有利于驗證、重復和靈活使用。

除此之外,英特爾®至強®6性能核處理器的亮點還包括:

6400 MT/s DDR5

8800 MT/s MRDIMM內存

6條UPI 2.0鏈路;速率高達24 GT/s

96條PCIe 5.0/ 64條 CXL 2.0通道

L3緩存高達504MB

支持FP16數據格式的英特爾® AMX

接下來要說的是存力。

至強®6性能核處理器超脫此前游戲規則的亮點就藏在其中。

它同時支持了更快的DDR5內存(6400MT/s)和更“寬”的MRDIMM內存(8800MT/s)。

僅把前者替換成后者,就已經能讓科學計算和AI場景的多項任務提升7%-33%不等了。而且相比此前至強® CPU Max采用的HBM,MRDIMM內存的引入,不僅帶寬和速度優勢更明顯,它與CPU解耦的型態,也更利于用戶的靈活采購、配置與升級。

存力除了內存本身的性能,還包含CPU與內存之間的互連技術,至強®6導入了最新的Compute Express Link 2.0 (CXL 2.0) 。

CXL 2.0支持多種設備類型,且可向后兼容,實現對內存和存儲設備的靈活擴展。

支持鏈路分叉、更強的CXL內存分層支持,以及以受控熱插拔的方式添加/移除設備,為未來的數據中心架構帶來了更多可能性。

更值得一提的是至強®6獨占的“Flat”內存模式,CXL內存和DRAM內存被視為單一的內存層,讓操作系統可以直接訪問這一統一的內存地址空間。

這樣的分層管理可以確保最大限度地提升內存使用效率,并且實現利用好CXL內存擴展而無需修改軟件。

如此這般能對內存速度、帶寬、容量和可擴展性全面兼顧,已經形成了至強®6性能核處理器獨樹一幟的競爭力。

具體到服務器設計上,CLX2.0可以支持每機提供8TB內存容量擴展,同時提供384GB/s的內存帶寬擴展。

當然,作為CPU的至強®6性能核處理器并沒有忘記自己的本份,把存力與算力的硬指標優勢結合起來,轉化成真正的優勢,才是它被看好的底氣。

在算力方面,除了更多內核,它還有內置加速器與指令集更新帶來的加成。

主攻AI加速的英特爾®高級矩陣擴展(Intel® AMX)新增對FP16數據類型的支持,現已全面覆蓋 int8、BF16和FP16數據類型。

其在每個內核中的矩陣乘加(MAC)運算速度可達 2048 FLOPS(int8)和1024 FLOPS(BF16/FP16),能大幅提升 AI 推理和訓練性能。

英特爾® 高級矢量擴展 512(AVX-512)雖然是員老將了,但在得到如此豐沛的內核資源支持后,也依然是科學計算、數據庫和 AI 任務中的矢量計算擔當。

這些加速器的升級與煥新帶來的成果就是下圖這種多負載性能表現普遍倍增的現象,在AI領域,尤其是在Llama2-7B上的提升直接達到了前一代產品的3.08倍

最后在硬件增強的安全特性方面,英特爾早期的方案為SGX,但從第五代至強® 開始新增了TDX方案。這些看似難以通過Benchmark數值來證明自身價值的技術,實則不可或缺,是確保關鍵數據和應用更為安全可靠的壓艙石。

而安全,恰恰是目前AI數據中心或智算中心這種涉及海量數據、關系萬千機密和隱私的環境中較少提及,卻最應補足和鞏固的一環。

說了這么多,如果要用一句話總結至強®6性能核處理器,尤其是6900P系列產品的定位,那就是“更強通用計算,兼顧AI加速”了。

那么新處理器具體都有哪些用法,表現又如何呢?

還請繼續往下看。

全能型CPU:加速AI推理,統領異構計算

首先,至強®6性能核處理器可以做“獨行俠”,直接加速AI推理,助力AI應用普及。

用CPU做AI推理加速,其意義并非在于與GPU或其他專用加速器競爭極致的速度或效率,而是要在一些成本、采購、環境等條件受限的情況下,借助CPU部署更廣泛、人才儲備更扎實和應用更便捷的優勢,讓AI能夠更快、更有效地落地。

帶著這樣的整體目標,英特爾在軟件生態和工作負載優化方面投入了大量精力,以確保用戶能夠充分發揮至強®6性能核處理器的潛力。

例如,英特爾與TensorFlow和PyTorch等主流深度學習框架進行深度合作,將針對英特爾CPU的優化集成到官方發行版中,從而使得在英特爾CPU上運行深度學習模型時,性能得到顯著提升。上文提到的Llama2-7B成績便是這些努力的成果之一。

另外,至強®6性能核處理器還可以做“指揮官”,強化AI系統整體實力。

這其實是很多用戶更為熟悉,也是至強®6性能核處理器更主打的應用方式,所謂“指揮官”,另一個名稱就是機頭(head-node)CPU或主控CPU。

如果將至強®6性能核處理器用作AI服務器的機頭CPU,那么其在算力(更強的單線程性能)、存力(對MRDIMM內存和CXL內存擴展能力的支持)以及 I/O(更多的PCIe 5.0通道)等方面的優勢和潛能就能更加充分地發揮和釋放出來。

使其能夠與GPU或專用的AI加速器高效協作,出色地處理數據預處理、數據傳輸分享和混合工作負載。

我們最初的設問,至此終于拼湊出了一個更為完整的答案,即為何至強®6性能核處理器能夠被稱作AI服務器或AI數據中心的“嚴選”,甚至是優選CPU ?

這正是由于它既能夠單槍匹馬地加速AI推理,又可以居中協調以提升異構系統的整體性能輸出。

更不必說,它還能夠兼顧眾多傳統但同樣不可或缺的應用負載,例如前文提及的科學計算和數據庫,以及高性能云基礎設施構建等任務。

以Flatiron Institute的案例來說,作為一家科研機構,他們對科學計算有著強烈的需求。通過測試得知,至強®6性能核處理器在常見科學計算負載上表現優異。

他們還覺得對MRDIMM內存的支持將進一步突破傳統DDR內存的性能瓶頸,推動數據密集型科學發現。

在本次至強®6性能核處理器的發布會上,英特爾也展示了本地數據庫軟件合作伙伴——科藍軟件的成果。

英特爾市場營銷集團副總裁、中國區&行業解決方案和數據中心銷售部總經理梁雅莉在介紹生態系統支持狀況時表示:

>基于我們的新品,科藍軟件構建了高性能國產分布式數據庫,其吞吐較第五代至強®可擴展處理器提升達到 198%。

值得一提的是,在她分享中出現的中國合作伙伴數量眾多且都是各領域的核心力量,英特爾雖然在產品研發上有了更多創新,但在商業模式上仍然非常依賴開放架構平臺之上的產業合力。

十數家OEM、ODM、OSV和ISV在至強®6性能核處理器發布時同步推出新產品,以及多家云服務提供商的支持,在英特爾看來,才是新品真正走近用戶和價值放大的基礎。

建好AI服務器,CPU不能是短板

從前面列舉的眾多數據和用例可以看出,在當前AI應用加速落地、新推理計算范式和合成數據等趨勢的推動下,AI算力需求越來越注重推理和復合工作負載。

在這之中GPU或專用加速器固然重要,但CPU作為整個系統的“指揮官”,絕不能成為短板。

大家需要真正兼顧通用計算,以及AI服務器及AI數據中心場景的CPU產品。它不僅能支持廣泛的第三方GPU及AI加速器,與它們組合形成強大的異構計算平臺,還能在其中補足GPU或專用加速器覆蓋不到或不足的地方,為更多樣和復雜的場景提供靈活的算力選擇,并增強整個AI平臺的穩定性、安全性和擴展性。

英特爾®至強®6性能核處理器的出現,就為AI計算帶來了這樣一個全新的支點。(來源:量子位 作者:夢晨 金磊)

免責聲明:市場有風險,選擇需謹慎!此文僅供參考,不作買賣依據。

關鍵詞:

上一篇:揭秘職場開掛的秘密武器——愛企查功能全解析
下一篇:最后一頁

? 亚洲精品国产情侣av在线_91亚洲国产成人久久精品网站_亚洲AV无码专区电影在线观看_亚洲AV无码专区亚洲AV桃

              亚洲天堂免费在线观看视频| 国产精品美女久久福利网站| 国产一区二区三区免费看| 老司机免费视频一区二区三区| 麻豆视频观看网址久久| 久久99久久99精品免视看婷婷| 精品在线观看免费| 国产成人福利片| 91视频.com| 国产精品女人毛片| 一区二区久久久久久| 亚洲成人免费在线观看| 欧美视频中文一区二区三区在线观看| 欧美日韩午夜影院| 欧美成人video| 国产精品欧美极品| 亚洲综合久久久| 免费欧美在线视频| 国产成人精品亚洲日本在线桃色| bt欧美亚洲午夜电影天堂| 国产亚洲一区二区三区在线观看| 亚洲欧洲三级电影| 色激情天天射综合网| 制服.丝袜.亚洲.中文.综合| 精品国产乱码久久久久久影片| 中文字幕免费不卡在线| 亚洲一区中文在线| 久久成人久久鬼色| 99re视频这里只有精品| 国产精品久久久久三级| 亚洲成av人在线观看| 欧美肥大bbwbbw高潮| 国产欧美视频在线观看| 亚洲福利电影网| 国产精品一区二区三区99 | 91网站在线播放| 亚洲欧美影音先锋| 日本丰满少妇一区二区三区| 日韩欧美美女一区二区三区| 国产精品福利电影一区二区三区四区| 亚洲成av人片www| 成人在线综合网站| 亚洲欧洲日韩一区二区三区| 91高清在线观看| 久久品道一品道久久精品| 洋洋成人永久网站入口| 国产在线播放一区| 国产欧美精品日韩区二区麻豆天美| 亚洲最新视频在线播放| 欧美一区二区三区四区五区| ...xxx性欧美| 日本aⅴ亚洲精品中文乱码| 成人福利在线看| 亚洲欧美日韩电影| 91精品国产一区二区| 亚洲欧美aⅴ...| 国产乱色国产精品免费视频| 国产精品三级久久久久三级| 欧美怡红院视频| 国产精品天美传媒| 久久精品av麻豆的观看方式| 国产婷婷色一区二区三区在线| 午夜精品久久久久影视| 精品国产91久久久久久久妲己 | 在线观看日韩高清av| 亚洲精品一线二线三线| 亚洲成人av福利| 99国产精品国产精品久久| 亚洲综合999| 久久这里只有精品首页| 日韩精品亚洲专区| 久久先锋影音av| 色婷婷香蕉在线一区二区| 国产色综合久久| 精品在线亚洲视频| **欧美大码日韩| 日韩一区二区影院| 亚洲电影你懂得| 久久久久久亚洲综合影院红桃| 91高清视频免费看| 国产精品第13页| 国产69精品久久777的优势| 一区av在线播放| 国产日韩欧美精品在线| 国产资源精品在线观看| 亚洲女厕所小便bbb| 日韩欧美中文字幕制服| 亚洲成人自拍网| 久久久精品免费免费| 欧美日本精品一区二区三区| 一区二区在线免费| 2020国产精品| 欧美美女黄视频| 亚洲国产精品一区二区www在线| 99麻豆久久久国产精品免费| 日本韩国欧美一区二区三区| 亚洲少妇30p| av亚洲精华国产精华精华| 色妞www精品视频| 亚洲美女免费在线| 久久久久国产精品麻豆| 91精品国产手机| 日本aⅴ亚洲精品中文乱码| 中文字幕欧美一区| 久久久亚洲综合| 国产福利91精品| 一本大道av一区二区在线播放| 亚洲欧美日韩久久| 久久久美女毛片| 欧美变态tickle挠乳网站| 久久国产视频网| 亚洲成人7777| 亚洲精品乱码久久久久久黑人| www国产成人免费观看视频 深夜成人网| 欧美日韩一级二级三级| 日本中文字幕一区二区有限公司| 亚洲色欲色欲www在线观看| 亚洲国产精品二十页| av影院午夜一区| 日韩一区二区在线免费观看| 精品综合免费视频观看| 五月天欧美精品| 夜夜嗨av一区二区三区网页| 国产精品久久久久久福利一牛影视 | 国产肉丝袜一区二区| 日韩视频免费直播| 国产乱人伦偷精品视频免下载| 在线免费视频一区二区| 午夜视频在线观看一区二区| 亚洲欧美另类在线| 日韩伦理免费电影| 国产精品污www在线观看| 国产亚洲欧美在线| 北条麻妃国产九九精品视频| 欧美一级理论性理论a| 国产综合一区二区| 欧美日韩免费视频| 极品少妇xxxx偷拍精品少妇| 日本高清免费不卡视频| 七七婷婷婷婷精品国产| 午夜精品久久久久| 婷婷一区二区三区| 亚洲国产成人porn| 午夜精品久久久久| 亚洲成a人v欧美综合天堂下载| 午夜私人影院久久久久| 亚洲福利电影网| 五月婷婷久久综合| 午夜视频在线观看一区二区三区 | 国产99一区视频免费| 91精品国产综合久久小美女| 国产麻豆精品在线观看| 91精品国模一区二区三区| 国产高清不卡一区二区| 67194成人在线观看| 国产99精品视频| 日韩欧美国产综合一区| 成人午夜在线免费| 精品福利一二区| 2014亚洲片线观看视频免费| 久久精品亚洲一区二区三区浴池 | 夜夜嗨av一区二区三区中文字幕 | 亚洲黄色性网站| 亚洲成a人片在线观看中文| 亚洲妇女屁股眼交7| 日本视频一区二区三区| 欧美艳星brazzers| 国产乱理伦片在线观看夜一区| 在线播放91灌醉迷j高跟美女| 粉嫩绯色av一区二区在线观看| 欧美电影精品一区二区| 91色.com| 国产精品久久一级| 亚洲男人的天堂av| 日日摸夜夜添夜夜添国产精品| 欧美在线免费播放| 高清国产午夜精品久久久久久| 2023国产精华国产精品| 久久久99精品久久| 亚洲欧美日韩精品久久久久| 亚洲午夜电影网| 久久99久久99精品免视看婷婷| 8v天堂国产在线一区二区| av中文字幕亚洲| 国产精品久久久爽爽爽麻豆色哟哟 | 18成人在线视频| 午夜免费欧美电影| 欧美三级视频在线观看| 国产盗摄一区二区三区| 久久影视一区二区| 中文字幕亚洲区| 日韩黄色一级片| 911精品国产一区二区在线| 99国产欧美久久久精品| 亚洲视频免费看| 婷婷综合另类小说色区| 国产乱妇无码大片在线观看| 国产日韩欧美在线一区| 亚洲男人电影天堂| 毛片av一区二区|