6月10日上午,北京智源大會現(xiàn)場AI系統(tǒng)分論壇上,天數(shù)智芯產(chǎn)品總監(jiān)宋煜發(fā)表了《國產(chǎn)GPU助力大模型的實踐》的演講,講述這家率先完成通用GPU量產(chǎn)的企業(yè)此次的新動作。
天數(shù)智芯的天垓、智鎧系列通用GPU產(chǎn)品具有高性能、廣通用、開發(fā)成本低的特點,廣泛支持DeepSpeed、Colossal、BM Train等各種大模型框架,基于天垓、智鎧加速卡的算力集群方案不僅能夠有效支持LLaMa、GPT-2、CPM、GLM等主流AIGC大模型的Pretrain和Finetune,為行業(yè)伙伴提供一站式的大模型算力及賦能服務。同時面向大模型推理側(cè)的一體機,性價比超過國內(nèi)現(xiàn)有市場主流產(chǎn)品。據(jù)悉,僅用時19天時間,天數(shù)智芯就成功完成了北京智源人工智能研究院70億參數(shù)大模型全量訓練,收斂效果與英偉達A100集群相當。
免責聲明:市場有風險,選擇需謹慎!此文僅供參考,不作買賣依據(jù)。
關(guān)鍵詞: