亚洲av成人无码精品电影在线,无码专区人妻系列日韩精品,婷婷精品免费久久久久久久,69式视频www免费视频,无码人妻丰满熟妇区毛片18

登錄/注冊(cè)
掃描二維碼
手機(jī)瀏覽

螞蟻集團(tuán)推出新款MoE大語言模型 使用國(guó)產(chǎn)AI芯片訓(xùn)練其性能與完全使用英偉達(dá)芯片、同規(guī)模稠密模型及MoE模型相當(dāng)

新榜商橋
情報(bào)行業(yè)動(dòng)態(tài)

新榜訊 3 月 24 日電,近期,螞蟻集團(tuán) Ling 團(tuán)隊(duì)發(fā)布了一篇技術(shù)成果論文。該論文指出,螞蟻集團(tuán)已推出兩款規(guī)模各異的 MoE 大語言模型,分別為百靈輕量版(Ling-Lite)與百靈增強(qiáng)版(Ling-Plus)。其中,百靈輕量版參數(shù)規(guī)模達(dá) 168 億(激活參數(shù) 27.5 億),而百靈增強(qiáng)版的基座模型參數(shù)規(guī)模更是高達(dá) 2900 億(激活參數(shù) 288 億),二者性能皆處于行業(yè)領(lǐng)先地位。不僅自研出性能卓越的大模型,此技術(shù)論文的最大亮點(diǎn)在于提出眾多創(chuàng)新方式,有效提升了資源受限環(huán)境中 AI 開發(fā)的效率與可及性。實(shí)驗(yàn)結(jié)果顯示,其 3000 億參數(shù)的 MoE(混合專家)大模型能夠在配備國(guó)產(chǎn) GPU 的低性能設(shè)備上實(shí)現(xiàn)高效訓(xùn)練,性能與完全采用英偉達(dá)芯片、同等規(guī)模的稠密模型及 MoE 模型不相上下。 (財(cái)聯(lián)社)


分享文章鏈接