新榜訊 清華大學(xué)高性能計算研究所翟季冬教授團(tuán)隊與清華系科創(chuàng)企業(yè)清程極智聯(lián)合宣稱,開源大模型推理引擎“赤兔 Chitu”。據(jù)悉,該引擎首次達(dá)成在非英偉達(dá) Hopper 架構(gòu) GPU 及各類國產(chǎn)芯片上原生運行 FP8 精度模型。此次開源的版本重點著眼于當(dāng)下市場最為迫切的需求,即把 DeepSeek-R1 FP8 精度模型毫無損失且高效地部署于存量英偉達(dá) GPU 上。團(tuán)隊宣稱,針對多款國產(chǎn)芯片特別優(yōu)化的版本也將相繼開源。
掃描二維碼
手機(jī)瀏覽
清華系創(chuàng)企清程極智開源大模型推理引擎“赤兔Chitu”
分享文章鏈接
相似推薦

智譜將開源推理模型GLM-Z1-Air和基座模型GLM-4-Air0414
新榜訊 智譜將于4 月 14 日開源推理模型 GLM-Z1-Air 及基座模型 GLM-4-Air0414,且上述模型將于近期陸續(xù)上線 bigmodel.cn。

豆包大模型團(tuán)隊開源基準(zhǔn)測試集SuperGPQA
新榜訊 3 月 4 日,豆包大模型團(tuán)隊于近日開源SuperGPQA。

清華聯(lián)合百度,共建生態(tài)環(huán)境垂直領(lǐng)域預(yù)訓(xùn)練大模型
新榜訊 2025 年 1 月 13 日,在“中國環(huán)境科學(xué)學(xué)會生態(tài)環(huán)境人工智能專委會成立大會暨學(xué)術(shù)論壇”上,清華大學(xué)環(huán)境學(xué)院徐明教授宣稱,清華大學(xué)將與百度展開戰(zhàn)略合作。