訂閱
糾錯(cuò)
加入自媒體

北電數(shù)智助推國(guó)產(chǎn)算力與國(guó)產(chǎn)大模型融合 迸發(fā)信創(chuàng)之光

近日,北京電子數(shù)智科技有限責(zé)任公司(以下簡(jiǎn)稱(chēng)“北電數(shù)智”)基于其“寶塔·模型適配平臺(tái)”成功完成了DeepSeek-V3/R1全尺寸模型與海光DCU、華為、壁仞科技、沐曦等國(guó)產(chǎn)芯片的混元算力適配,這將為開(kāi)發(fā)者在使用DeepSeek模型過(guò)程中帶來(lái)更多算力選擇,且用戶(hù)在使用國(guó)產(chǎn)算力時(shí)可忽略底層硬件差異,實(shí)現(xiàn)快速開(kāi)發(fā)部署和模型調(diào)用。

image.png

DeepSeek-V3/R1是深度求索公司(DeepSeek)開(kāi)發(fā)的一款先進(jìn)的人工智能模型,擁有強(qiáng)大的數(shù)據(jù)處理和分析能力,可廣泛應(yīng)用于自然語(yǔ)言處理、圖像識(shí)別、語(yǔ)音識(shí)別等領(lǐng)域。DeepSeek采用創(chuàng)新的混合專(zhuān)家系統(tǒng)(DeepSeekMoE)、多頭潛在注意力機(jī)制(MLA)、自研訓(xùn)練框架等多項(xiàng)工程化創(chuàng)新,基于較少GPU訓(xùn)練資源和時(shí)間消耗實(shí)現(xiàn)R1與OpenAI o1?相當(dāng)、V3與OpenAI 4o相當(dāng)?shù)哪P托阅,模型具有高推理效率和低?xùn)練成本的優(yōu)勢(shì)。

image.png

北電數(shù)智“寶塔·模型適配平臺(tái)”與各大主流開(kāi)發(fā)框架保持高度兼容性,當(dāng)前已完成24款基座大模型適配,可進(jìn)一步幫助降低企業(yè)和開(kāi)發(fā)者的使用門(mén)檻。其能夠抹平芯片架構(gòu)層的差異,快速實(shí)現(xiàn)對(duì)模型的優(yōu)化支持和硬件適配。比如在處理推理任務(wù)時(shí),北電數(shù)智的混元推理技術(shù)路線與DeepSeek技術(shù)路線高度匹配,可進(jìn)一步優(yōu)化推理效果、加速推理速度、降低推理成本,解決算力不夠用等問(wèn)題。在北電數(shù)智“寶塔·模型適配平臺(tái)”的加持下,DeepSeek-V3/R1可在混元芯片上高效、穩(wěn)定運(yùn)行支撐各類(lèi)應(yīng)用場(chǎng)景。此外,為全面挖掘國(guó)產(chǎn)芯片性能潛力與模型適配能力,北電數(shù)智還推出“星火·國(guó)產(chǎn)算力AI原生適配認(rèn)證”,加強(qiáng)國(guó)產(chǎn)模型與國(guó)產(chǎn)算力間適配協(xié)同能力,推動(dòng)國(guó)產(chǎn)芯片更好支撐AI原生應(yīng)用場(chǎng)景。

國(guó)產(chǎn)芯片和如DeepSeek等優(yōu)秀的國(guó)產(chǎn)大模型產(chǎn)生的緊密聯(lián)動(dòng)與化學(xué)反應(yīng)中,我們已經(jīng)看到了全棧AI國(guó)產(chǎn)化路上的光芒...

聲明: 本網(wǎng)站所刊載信息,不代表OFweek觀點(diǎn)?帽菊靖寮,務(wù)經(jīng)書(shū)面授權(quán)。未經(jīng)授權(quán)禁止轉(zhuǎn)載、摘編、復(fù)制、翻譯及建立鏡像,違者將依法追究法律責(zé)任。

發(fā)表評(píng)論

0條評(píng)論,0人參與

請(qǐng)輸入評(píng)論內(nèi)容...

請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字

您提交的評(píng)論過(guò)于頻繁,請(qǐng)輸入驗(yàn)證碼繼續(xù)

  • 看不清,點(diǎn)擊換一張  刷新

暫無(wú)評(píng)論

暫無(wú)評(píng)論

    掃碼關(guān)注公眾號(hào)
    OFweek人工智能網(wǎng)
    獲取更多精彩內(nèi)容
    文章糾錯(cuò)
    x
    *文字標(biāo)題:
    *糾錯(cuò)內(nèi)容:
    聯(lián)系郵箱:
    *驗(yàn) 證 碼:

    粵公網(wǎng)安備 44030502002758號(hào)