百度開源文心大模型4.5系列模型 中國算力平臺率先上線

時間:2025-07-01

來源:21ic電子網(wǎng)

導語:6月30日消息,百度今天正式開源文心大模型4.5系列模型。與此同時,中國算力平臺模創(chuàng)空間率先上線文心大模型。

  中國算力平臺是在工信部指導下,中國信息通信研究院建設的平臺,匯聚“多源+多元”模型服務。

  通過服務網(wǎng)關能力,實現(xiàn)模型及AI應用的在線調用服務。模型方可以將自有模型通過API方式發(fā)布到模型市場,開發(fā)者可以在線調用模型進行開發(fā)創(chuàng)作。

  作為前沿人工智能成果,文心4.5創(chuàng)新運用多模態(tài)混合專家模型預訓練技術,以異構混合專家結構結合了多維旋轉位置編碼,并且在損失函數(shù)計算時,增強了不同專家間的正交性,提升文本生成、圖像理解以及多模態(tài)推理等任務效能。

  為支持高效訓練提出異構混合并行和多層級負載均衡策略,在推理方面提出多專家并行協(xié)同量化方法和卷積編碼量化算法,從而實現(xiàn)高效訓練推理框架。

  對預訓練模型進行了針對模態(tài)的精調,大語言模型針對通用語言理解和生成進行了優(yōu)化,多模態(tài)大模型側重于視覺語言理解,支持思考和非思考模式,滿足實際場景不同需求。

AI
傳動網(wǎng)版權與免責聲明:

凡本網(wǎng)注明[來源:傳動網(wǎng)]的所有文字、圖片、音視和視頻文件,版權均為傳動網(wǎng)(m.wangxinlc.cn)獨家所有。如需轉載請與0755-82949061聯(lián)系。任何媒體、網(wǎng)站或個人轉載使用時須注明來源“傳動網(wǎng)”,違反者本網(wǎng)將追究其法律責任。

本網(wǎng)轉載并注明其他來源的稿件,均來自互聯(lián)網(wǎng)或業(yè)內(nèi)投稿人士,版權屬于原版權人。轉載請保留稿件來源及作者,禁止擅自篡改,違者自負版權法律責任。

如涉及作品內(nèi)容、版權等問題,請在作品發(fā)表之日起一周內(nèi)與本網(wǎng)聯(lián)系,否則視為放棄相關權利。

關注伺服與運動控制公眾號獲取更多資訊

關注直驅與傳動公眾號獲取更多資訊

關注中國傳動網(wǎng)公眾號獲取更多資訊

最新新聞
查看更多資訊

熱搜詞
  • 運動控制
  • 伺服系統(tǒng)
  • 機器視覺
  • 機械傳動
  • 編碼器
  • 直驅系統(tǒng)
  • 工業(yè)電源
  • 電力電子
  • 工業(yè)互聯(lián)
  • 高壓變頻器
  • 中低壓變頻器
  • 傳感器
  • 人機界面
  • PLC
  • 電氣聯(lián)接
  • 工業(yè)機器人
  • 低壓電器
  • 機柜
回頂部
點贊 0
取消 0