5月10日，后摩智能正式發(fā)布首款存算一體智駕芯片——鴻途?H30，最高物理算力256TOPS，典型功耗35W，成為國(guó)內(nèi)率先落地存算一體大算力AI芯片的公司。
(資料圖)
后摩智能創(chuàng)始人兼CEO吳強(qiáng)
過(guò)去二十年中，算力發(fā)展速度遠(yuǎn)超存儲(chǔ)，“存儲(chǔ)墻”成為加速學(xué)習(xí)時(shí)代下的一代挑戰(zhàn)，原因是在后摩爾時(shí)代，存儲(chǔ)帶寬制約了計(jì)算系統(tǒng)的有效帶寬，芯片算力增長(zhǎng)步履維艱。
因此存算一體有望打破馮諾依曼架構(gòu)，是后摩時(shí)代下的必然選擇，鴻途?H30的發(fā)布是存算一體的重要實(shí)踐。
存算一體優(yōu)勢(shì)顯著，被譽(yù)為AI芯片的“全能戰(zhàn)士”，具有高能耗、低成本、高算力等優(yōu)勢(shì)；存算一體按照計(jì)算方式分為數(shù)字計(jì)算和模擬計(jì)算，應(yīng)用場(chǎng)景較為廣泛，SRAM、RRAM有望成為云端存算一體主流介質(zhì)。
AI引爆存算一體發(fā)展
2月中旬ChatGPT出現(xiàn)崩潰，只是算力緊張的一個(gè)縮影。隨著百度、京東、騰訊等國(guó)內(nèi)廠商宣布參與大模型領(lǐng)域的AI競(jìng)爭(zhēng)，未來(lái)類似ChatGPT這樣的大模型將越來(lái)越多。可以預(yù)見(jiàn)，人工智能大模型的發(fā)展是大勢(shì)所趨，全球市場(chǎng)對(duì)于算力的需求也將出現(xiàn)快速的增長(zhǎng)。
存算一體的優(yōu)勢(shì)是打破存儲(chǔ)墻，消除不必要的數(shù)據(jù)搬移延遲和功耗，使用存儲(chǔ)單元提升算力。存算一體主要AI的算力需求、并行計(jì)算、神經(jīng)網(wǎng)絡(luò)計(jì)算等，因此存算一體需求旺盛；以數(shù)據(jù)中心為例，百億億次（E級(jí)）的超級(jí)計(jì)算機(jī)成為各國(guó)比拼算力的關(guān)鍵點(diǎn)。
2017年，英偉達(dá)、微軟、三星等提出存算一體原型；同年起，國(guó)產(chǎn)存算一體芯片企業(yè)開(kāi)始“扎堆”入場(chǎng)，例如后摩智能、億鑄科技等。
高性能計(jì)算引擎
后摩智能聯(lián)合創(chuàng)始人兼研發(fā)副總裁陳亮告訴芯榜記者，鴻途?H30以存算一體創(chuàng)新架構(gòu)實(shí)現(xiàn)了六大技術(shù)突破，即大算力、全精度、低功耗、車(chē)規(guī)級(jí)、可量產(chǎn)、通用性。鴻途?H30基于SRAM存儲(chǔ)介質(zhì)，采用數(shù)字存算一體架構(gòu)，擁有極低的訪存功耗和超高的計(jì)算密度，在Int8數(shù)據(jù)精度條件下，其AI核心IPU能效比高達(dá)15Tops/W，是傳統(tǒng)架構(gòu)芯片的7倍以上。
后摩智能聯(lián)合創(chuàng)始人兼研發(fā)副總裁陳亮
陳亮稱，為了更好地實(shí)現(xiàn)車(chē)規(guī)級(jí)，后摩智能基于鴻途?H30自主研發(fā)了硬件增強(qiáng)機(jī)制和檢測(cè)機(jī)制，在提升芯片可靠性的同時(shí)，進(jìn)一步保障了功能安全性。
為了充分發(fā)揮存算一體帶來(lái)的高計(jì)算效率，后摩智能面向智能駕駛場(chǎng)景打造了專用IPU（處理器架構(gòu)）——天樞架構(gòu)，采用多核、多硬件線程的方式擴(kuò)展算力，實(shí)現(xiàn)了計(jì)算效率與算力靈活擴(kuò)展的完美均衡，AI計(jì)算可以在核內(nèi)完成端到端處理，保證通用性。
天樞架構(gòu)的設(shè)計(jì)理念源自于庭院式的中國(guó)傳統(tǒng)住宅，以大布局設(shè)計(jì)保障計(jì)算資源利用效率的同時(shí)，再進(jìn)一步結(jié)合現(xiàn)代住宅多層/高層的設(shè)計(jì)優(yōu)勢(shì)，以多核/多硬件線程的方式靈活擴(kuò)展算力。得益于靈活、高效的硬件架構(gòu)設(shè)計(jì)，鴻途?H30實(shí)現(xiàn)了性能2倍提升的同時(shí)，還降低了50%功耗。
后摩智能聯(lián)合創(chuàng)始人兼產(chǎn)品副總裁信曉旭對(duì)鴻途?H30的產(chǎn)品性能與優(yōu)勢(shì)向芯榜記者做了詳細(xì)介紹。得益于存算一體的架構(gòu)優(yōu)勢(shì)，鴻途?H30基于12nm工藝制程，在Int8數(shù)據(jù)精度下實(shí)現(xiàn)高達(dá)256TOPS的物理算力，所需功耗不超過(guò)35W，整個(gè)SoC能效比達(dá)到7.3Tops/W，具有高計(jì)算效率、低計(jì)算延時(shí)、低工藝依賴等特點(diǎn)。
后摩智能聯(lián)合創(chuàng)始人兼產(chǎn)品副總裁信曉旭
信曉旭分析，在實(shí)際性能測(cè)試中，鴻途?H30基于Resnet50模型的Benchmark，在BatchSize等于1和8的條件下分別達(dá)到了8700幀/秒和10300幀/秒的性能。
賦能智能駕駛
當(dāng)下消費(fèi)電子對(duì)半導(dǎo)體拉動(dòng)區(qū)域頹勢(shì)，汽車(chē)芯片成為拉動(dòng)半導(dǎo)體領(lǐng)域的中流砥柱，據(jù)了解每臺(tái)新能源汽車(chē)所用到的芯片高達(dá)1400塊。
為了坐上新能源的“快車(chē)”，后摩智能同步推出了基于鴻途?H30芯片打造的智能駕駛硬件平臺(tái)——力馭?。有賴于鴻途?H30極高的計(jì)算效率和計(jì)算密度，力馭?平臺(tái)CPU算力高達(dá)200Kdmips，AI算力高256Tops，支持多傳感器輸入，能夠?yàn)橹悄荞{駛提供更充沛的算力支持，進(jìn)一步提升了系統(tǒng)的可靠性。力馭?平臺(tái)功耗僅為85W，可采用更加靈活的散熱方式，實(shí)現(xiàn)更低成本的便捷部署，有利于推動(dòng)大算力智能駕駛場(chǎng)景的普及應(yīng)用。
為了讓客戶擁有更好的產(chǎn)品使用體驗(yàn)，后摩智能還基于鴻途?H30芯片自主研發(fā)了一款軟件開(kāi)發(fā)工具鏈——后摩大道?，支持PyTorch、TensorFlow、ONNX等主流開(kāi)源框架，編程兼容CUDA前端語(yǔ)法，同時(shí)支持SIMD和SIMT兩種編程模型，兼顧運(yùn)行效率和開(kāi)發(fā)效率，以無(wú)侵入式的底層架構(gòu)創(chuàng)新保障了通用性的同時(shí)，進(jìn)一步實(shí)現(xiàn)了鴻途?H30得高效、易用。
信曉旭透露，鴻途?H30將于6月份開(kāi)始給Alpha客戶送測(cè)。同時(shí)，后摩智能的第二代產(chǎn)品鴻途?H50已經(jīng)在全力研發(fā)中，將于2024年推出，支持客戶2025年的量產(chǎn)車(chē)型。
后摩智能創(chuàng)始人兼CEO吳強(qiáng)表示：“2年前，后摩智能成立，我們堅(jiān)定地選擇以存算一體的底層架構(gòu)創(chuàng)新，來(lái)實(shí)現(xiàn)AI計(jì)算效率的極致突破。存算一體架構(gòu)將存儲(chǔ)和計(jì)算功能融合，比傳統(tǒng)架構(gòu)更接近人腦的計(jì)算方式，具備遠(yuǎn)高于傳統(tǒng)方式的計(jì)算效率。隨著GPT等大模型的出現(xiàn)，存算一體芯片越來(lái)越受到行業(yè)關(guān)注。”
關(guān)鍵詞：
