分享
國(guó)家互聯(lián)網(wǎng)信息辦公室準(zhǔn)許從事互聯(lián)網(wǎng)新聞信息服務(wù)業(yè)務(wù)的網(wǎng)站
互聯(lián)網(wǎng)新聞信息服務(wù)許可證編號(hào):10120220005
中新經(jīng)緯>>科技>>正文

舒迪:DeepSeek本地部署加速端側(cè)AI推廣落地

2025-02-05 16:08:25 中新經(jīng)緯

  中新經(jīng)緯2月5日電 題:DeepSeek本地部署加速端側(cè)AI推廣落地

  作者 舒迪 國(guó)泰君安證券研究所電子行業(yè)首席分析師

  春節(jié)期間,DeepSeek以其獨(dú)特的創(chuàng)新力,正逐步打開(kāi)AI應(yīng)用產(chǎn)業(yè)的上升通道。模型正式發(fā)布以來(lái),DeepSeek連續(xù)多日登頂蘋(píng)果App Store和谷歌Play Store全球下載榜首。DeepSeek通過(guò)多項(xiàng)工程創(chuàng)新,成功降低了訓(xùn)練成本和推理成本,同時(shí)提升了模型效果。

  盡管DeepSeek觸發(fā)了模型降本,但算力需求卻并未減少,在多個(gè)層面呈現(xiàn)出增長(zhǎng)趨勢(shì)。隨著AI應(yīng)用模型向更高智能維度躍遷,訓(xùn)練需要更多算力;AI應(yīng)用的推理也廣泛需要算力支持,更多人開(kāi)始訓(xùn)練和推理自己的模型;同時(shí),轉(zhuǎn)向?qū)Φ犬悩?gòu)計(jì)算的新主流計(jì)算形態(tài)也需要更多GPU(圖形處理器)。未來(lái),從對(duì)話到任務(wù)、到多模態(tài),AI的發(fā)展將需要更多算力加持。

  同時(shí),以DeepSeek為代表的開(kāi)源模型興起加速了人工智能生態(tài)的構(gòu)建,而DeepSeek的本地部署更是讓個(gè)人知識(shí)庫(kù)的構(gòu)建成為可能。許多企業(yè)已經(jīng)意識(shí)到,開(kāi)源且具有廣泛共識(shí)的模型更容易構(gòu)建生態(tài)系統(tǒng)。DeepSeek蒸餾(指的是通過(guò)一系列算法和策略,將原始的、復(fù)雜的數(shù)據(jù)進(jìn)行去噪、降維、提煉等操作)后的小模型表現(xiàn)出色,使得本地部署知識(shí)庫(kù)從企業(yè)端擴(kuò)展到個(gè)人用戶。通過(guò)高效且靈活地構(gòu)建私有化的AI知識(shí)管理系統(tǒng),不僅保護(hù)了數(shù)據(jù)隱私,還可以根據(jù)特定需求進(jìn)行定制優(yōu)化。

  在端側(cè)產(chǎn)品設(shè)計(jì)中,算力和傳輸是關(guān)鍵因素。隨著蒸餾模型能力的提升,未來(lái)端側(cè)SoC(系統(tǒng)級(jí)芯片)將更加注重模型的本地部署和推理能力。端云協(xié)同升級(jí)將成為未來(lái)技術(shù)發(fā)展的必然趨勢(shì),端側(cè)產(chǎn)品需要在有限的硬件資源下實(shí)現(xiàn)高效的計(jì)算和傳輸,而云端則需要提供更強(qiáng)大的計(jì)算能力和存儲(chǔ)支持。

  此外,DeepSeek的開(kāi)源發(fā)展也降低了成本,推動(dòng)了應(yīng)用的繁榮。對(duì)于B端應(yīng)用來(lái)說(shuō),優(yōu)質(zhì)開(kāi)源模型可以更好地用于垂類場(chǎng)景。成本的壓低將帶來(lái)使用場(chǎng)景的普及,從而帶動(dòng)新的供給和需求。如今的AIGC(人工智能生成內(nèi)容)創(chuàng)作已經(jīng)呈現(xiàn)出類似的趨勢(shì),若推理成本進(jìn)一步降低,對(duì)于AI(人工智能)內(nèi)容的發(fā)展將有顯著推動(dòng)。

  展望未來(lái),DeepSeek將繼續(xù)以其創(chuàng)新力和開(kāi)源精神,推動(dòng)AI技術(shù)的普及和應(yīng)用。從教育、娛樂(lè)應(yīng)用到電商場(chǎng)景,從AI視頻生成技術(shù)到AI硬件落地發(fā)展,DeepSeek都有望推動(dòng)相關(guān)行業(yè)的變革與發(fā)展。(中新經(jīng)緯APP)

  中新經(jīng)緯版權(quán)所有,未經(jīng)授權(quán),不得轉(zhuǎn)載或以其他方式使用。

責(zé)任編輯:孫慶陽(yáng)

來(lái)源:中新經(jīng)緯

編輯:張澍楠

廣告等商務(wù)合作,請(qǐng)點(diǎn)擊這里

未經(jīng)過(guò)正式授權(quán)嚴(yán)禁轉(zhuǎn)載本文,侵權(quán)必究

中新經(jīng)緯版權(quán)所有,未經(jīng)書(shū)面授權(quán),任何單位及個(gè)人不得轉(zhuǎn)載、摘編或以其它方式使用。
關(guān)注中新經(jīng)緯微信公眾號(hào)(微信搜索“中新經(jīng)緯”或“jwview”),看更多精彩財(cái)經(jīng)資訊。
關(guān)于我們  |   About us  |   聯(lián)系我們  |   廣告服務(wù)  |   法律聲明  |   招聘信息  |   網(wǎng)站地圖

本網(wǎng)站所刊載信息,不代表中新經(jīng)緯觀點(diǎn)。 刊用本網(wǎng)站稿件,務(wù)經(jīng)書(shū)面授權(quán)。

未經(jīng)授權(quán)禁止轉(zhuǎn)載、摘編、復(fù)制及建立鏡像,違者將依法追究法律責(zé)任。

[京B2-20230170]  [京ICP備17012796號(hào)-1]

違法和不良信息舉報(bào)電話:18513525309 報(bào)料郵箱(可文字、音視頻):zhongxinjingwei@chinanews.com.cn

Copyright ©2017-2025 jwview.com. All Rights Reserved


北京中新經(jīng)聞信息科技有限公司