首頁 > 互聯網 > > 正文

              超過谷歌 阿里達摩院AI預訓練模型M6參數破10萬億

              2021-11-08 18:07:29    來源:新京報

              新京報貝殼財經訊(記者 羅亦丹)11月8日,貝殼財經記者從阿里巴巴達摩院獲悉,其多模態大模型M6最新參數已從萬億躍遷至10萬億,規模超過了谷歌、微軟此前發布的萬億級模型,成為全球最大的AI預訓練模型。

              貝殼財經記者觀察到,2021年以來,AI訓練模型的規模不斷擴大。據不完全統計,這些大模型包括年初華為發布的1000億參數盤古大模型、1.6萬億參數的Google switch transformer模型、1.75萬億參數的智源悟道2.0智能模型、1.9萬億參數的快手精排模型等。其中,阿里達摩院M6模型上一次公布的參數規模為1萬億。

              據了解,與傳統AI相比,大模型擁有成百上千倍“神經元”數量,且預先學習過海量知識,表現出像人類一樣“舉一反三”的學習能力。因此,大模型被普遍認為是未來的“基礎模型”,將成下一代AI基礎設施。

              “近年來人工智能的發展應該從家家戶戶‘大煉模型’的狀態逐漸變為把資源匯聚起來,訓練超大規模模型的階段,通過設計先進的算法,整合盡可能多的數據,匯聚大量算力,集約化地訓練大模型,供大量企業使用,這是必然趨勢。”北京大學信息科學技術學院教授黃鐵軍此前告訴貝殼財經記者。

              需要注意的是,訓練大模型的算力成本相當高昂,如訓練1750億參數語言大模型GPT-3所需能耗,相當于汽車行駛地月往返距離。對此,達摩院表示,M6使用512 GPU在10天內即訓練出具有可用水平的10萬億模型,相比去年發布的大模型GPT-3,M6實現同等參數規模,能耗減至其1%,達摩院透露,實現能耗減少的技術原理包括通過更細粒度的CPU offload、共享-解除算法等。

              據了解,M6是達摩院研發的通用性人工智能大模型。目前,達摩院聯合阿里云推出了M6服務化平臺,為大模型訓練及應用提供完備工具,算法人員及普通用戶均可使用平臺。

              達摩院智能計算實驗室負責人周靖人表示,“接下來,我們將深入研究大腦認知機理,致力于將M6的認知力提升至接近人類的水平,比如,通過模擬人類跨模態的知識抽取和理解方式,構建通用的人工智能算法底層框架;另一方面,不斷增強M6在不同場景中的創造力,產生出色的應用價值。”

              校對 柳寶慶

              相關熱詞搜索:

              上一篇:
              下一篇:

              熱點話題

              熱點推薦

              頭條

              ? 亚洲av无码专区在线电影| 亚洲免费在线观看| 亚洲精品色播一区二区| 亚洲熟妇无码久久精品| 国产亚洲综合网曝门系列| 在线观看亚洲专区| 亚洲日韩国产二区无码| 丁香婷婷亚洲六月综合色| 亚洲成人午夜电影| 亚洲精品一区二区三区四区乱码| 亚洲VA中文字幕不卡无码| 国产亚洲综合一区柠檬导航| 亚洲国产一成人久久精品| 成人午夜亚洲精品无码网站| 中文字幕亚洲无线码a| 久久亚洲中文字幕精品一区| 国产亚洲一区二区三区在线不卡| 亚洲午夜福利精品无码| gogo全球高清大胆亚洲| 国产亚洲综合久久| 亚洲国产小视频精品久久久三级| 亚洲AV无码乱码精品国产| 亚洲av无码成人精品区在线播放 | 国产成人精品亚洲2020| 亚洲伊人久久大香线蕉啊| 亚洲人成网站日本片| 亚洲AV无码国产精品色| 亚洲av专区无码观看精品天堂| 亚洲三级高清免费| 亚洲国产精品自在自线观看| 在线亚洲v日韩v| 亚洲国产小视频精品久久久三级| 久久久久亚洲精品中文字幕| 亚洲中文字幕在线观看| 日韩亚洲欧洲在线com91tv| 久久精品7亚洲午夜a| 久久久无码精品亚洲日韩京东传媒 | 亚洲精品在线不卡| 亚洲一卡2卡4卡5卡6卡残暴在线| 亚洲不卡中文字幕| 亚洲色大成网站www|