來源:中國經濟網 發布時間:2024-3-28 11:57
中國經濟網北京3月25日訊(記者 王惠綿)人工智能框架作為軟件根技術,已成為加速人工智能大模型開發、推動產業智能化發展的核心力量。日前,以“為智而昇,思創之源”為主題的昇思人工智能框架峰會2024在北京舉辦,會上發布了昇思MindSpore 2.3版本,該版本讓大模型開發訓推更簡、更穩、更高效。
昇思MindSpore作為國內主流的開源AI框架,積極探索前沿技術,支撐大模型原生高效訓練。通過原創的多副本、多流水交織等8種并行技術,使集群線性度達到90%(業界不足60%),通過整圖優化及下沉執行等,使得算力利用率達到55%(業界不足40%);針對集群故障率高,恢復時間長的普遍問題,通過編譯快照,確定性CKPT技術實現20分鐘完成故障恢復。
在大模型部署上,昇思通過訓推一體的架構升級實現腳本、分布式策略,運行時的統一,Baichuan2-13B的推理部署只需1天。在大模型推理上,通過LLM Serving 實現推理吞吐提升2倍多;升級模型壓縮工具金箍棒2.0實現千億大模型壓縮至十倍。
會上,中國工程院院士、中國人工智能學會副理事長何友表示,中國人工智能學會與昇思MindSpore緊密合作,攜手鵬城實驗室、昇思MindSpore開展學術基金2.0項目,加速推動基于昇思的原生學術創新及論文成果發表,發揮學術人才的原生力,結合昇思的技術原創力,以學術創新支撐人工智能產業繁榮。
“AI框架的并行計算能力、簡潔編程能力、便捷部署能力等,逐漸成為大模型訓練的關鍵成功要素。”華為ICT Marketing總裁周軍表示,昇思將持續創新探索,聚焦根技術,以更開放的技術體系,讓伙伴和開發者更靈活的實現大模型創新,加速大模型應用規模落地。
2021年圖靈獎獲得者、田納西大學計算機科學杰出教授Jack Dongarra分享了計算和框架的發展趨勢。他指出,開源本質上有很多優點,能切實地為未來提供更好的軟件基礎,開發MindSpore開源框架推動了軟件性能提升。
“基于昇思MindSpore,生成式氣動設計大模型平臺打破傳統設計范式,設計時長由月級縮短到分鐘級,滿足概念設計要求。”中國科學院院士、中國空氣動力學會理事長唐志共表示,未來,該平臺將擴展到航空、航天、船舶、高鐵、能源、汽車等多個行業領域,引領工業裝備的設計和制造能力跨越式發展。
據悉,華為于2020年3月開源昇思MindSpore AI框架,開源后獲得國內外開發者的積極響應,訪問量數千萬,超過687萬下載安裝使用,在碼云千萬開源項目中綜合排名第一。2023年以來,基于昇思框架發表的頂級會議論文數量超過1200篇,已成為國內最具創新活力的AI開源社區。