DeepSeek引爆本地部署熱個人企業爭相入局
AI引發本地部署熱潮。隨著DeepSeek持續火爆出圈,人們開始不滿足於網頁端和APP端上使用DeepSeek,而嘗試將DeepSeek進行在地化部署。本地化部署是指將DeepSeek的AI大模型安裝到本機電腦內,不依賴網路或雲端服務。記者搜尋影片網站發現,不少用戶上傳如何將DeepSeek部署到本地電腦的教程,不少影片瀏覽量超過100萬。
DeepSeek引發本地部署熱潮

教人部署DeepSeek也成為了一項生意。記者透過在電商平台搜尋「DeepSeek本地部署」發現,不少店鋪開闢了DeepSeek本地部署的生意,這些服務單價從幾元到幾十元不等,其中一些服務近期已有1000人購買。

一位嘗試過部署的AI愛好者告訴記者,網路端運行響應速度較慢,並且訪問量過大時候,時常出現「伺服器繁忙,請稍後再試。」為了獲得更好的使用體驗,他就嘗試採用DeepSeek進行本地部署。據了解,本地部署不需要掌握深厚的程式設計知識,透過教程按部就班,即可部署成功。
艾媒諮詢首席分析師張毅告訴記者:「本地部署支援個人根據需求,對DeepSeek進行一些客製化修改,也是驅動力之一。」張毅補充道,本地部署中個人資料不上雲,可滿足隱私需求。
DeepSeek發布了不同參數量的模型,小至10億參數,大至6710億參數,參數越大所需的運算資源就越大。由於個人電腦手機等設備的運算資源受限,6,710億參數的DeepSeek模型往往無法本地部署。 「普通筆記型電腦只能部署10億參數的版本,如果個人電腦配備好的GPU顯示卡或較高記憶體(例如32GB),那麼可以跑70億參數版本的DeepSeek。」上述AI技術愛好者告訴記者。
從本地部署的效果而言,參數越小的版本,大模型的回答品質越差。 「我嘗試本地部署過70億參數版本的DeepSeek,運行較流暢,但是回答質量還比雲端版本差很多,更小參數版本的效果會更差。」上述AI愛好者表示。
在DeepSeek本地部署的熱度下,專門在PC中添加了NPU的AI PC有望迎來銷售成長。據了解,華為、聯想、戴爾等電腦品牌紛紛推出AI PC,這款新型PC搭載有專門處理本地部署AI大模型運算的處理器晶片,這些處理器晶片均由英特爾、AMD、高通等晶片廠提供。
這些AI PC可在本地部署並流暢運行上百億參數的AI大模型,例如本次CES 2025年上,AMD就推出了Ryzen AI max系列處理器,稱可在電腦本地運行700億參數AI大模型。不過,配置有該處理器晶片的AI PC售價不菲,據了解,華碩某遊戲本價格近1.5萬元。另外,也有人質疑,花大價錢買AI PC,進行AI大模型的本地部署,實現功能卻和雲端AI大模型高度重合,AI PC僅僅是廠商的噱頭而已。
企業嘗試本地部署DeepSeek
除了個人開啟DeepSeek本地部署之外,企業也開始躍躍欲試。蛇年工作日的第一天,蒂姆維澳創始人王加輝發布一條微信朋友圈:“DeepSeek大模型本地電腦部署體驗成功,導入煤礦知識安全庫進行問答,下一步讓它結合工業現場作業。”
蒂姆維澳是一家提供工業管理解決方案的企業,它面向採礦業、石油業等行業,運用AR眼鏡和AI軟體,為工業現場人員的維修、質檢、故障排查,提供即時觀察和指導。王加輝告訴記者,此前僅採用通義千問AI大模型打造了本地知識庫問答,鑑於DeepSeek更好的推理能力,他正考慮將DeepSeek和業務深度融合。
「我們會在DeepSeek基礎上,根據特定工業場景的需求和數據,對特定參數進行微調,或者進行二次開發,以適配IT系統和實現新功能。」王加輝向記者表示:「我們目標是將DeepSeek部署在本地,並和現場的相機進行聯動,從而更好地識別現場的危險作業,並實現隱患排查和產品質檢等功能。
他認為,工業客戶是否採用本地部署主要取決於數據的涉密性。 “一些國企、軍工、醫療設備企業往往要求我們實施本地部署的方案,因為它們對於數據安全的要求較高。”他進一步補充道:“非涉密場景可採用雲端接入的方案,雖然會出現操作延時,但是影響不大,並且方案價格更低。”
如果採用本地部署,這些客戶要求配置裝有4卡或8卡GPU的伺服器,實現DeepSeek本地推理服務。 “我的客戶普遍選擇英偉達的消費級顯示卡來配置伺服器,例如4090,性價比較高。”王加輝表示:“如果客戶有國產化配置要求,我們會採購價格更高的國產GPU顯卡。”
除工業外,越來越多企業開始在本地部署DeepSeek。國金證券稱DeepSeek可應用於資訊檢索、文件處理、產業研究、市場研判等情境。此外,醫療產業、網路安全等產業內的企業近期也在局部部署DeepSeek,包括萬達資訊、奇虎360等。
張毅告訴記者,隨著企業對在地化部署要求擴大,國產推理算力的需求量將增加,加上美國對高階晶片封禁,國產晶片算力企業將迎來較大機會。
AI應用將爆發
高通CEO克里斯蒂亞諾·安蒙(Cristiano Amon)稱,DeepSeek-R1是AI產業的轉折點,AI推理將向端側遷移,AI將變得更小、更高效、更定制化,並且基於特定場景的AI大模型和AI應用將出現。中航證券研報認為,DeepSeek-R1說明了端側AI部署將變得更加普惠,萬物智慧時代將加速到來。
开源将吸引更多开发者在DeepSeek基础上构筑应用。华为昇腾、摩尔线程、壁仞科技、天数智芯等国产GPU卡已经适配DeepSeek;腾讯云、阿里云、移动云、华为云等云厂商也和DeepSeek完成适配。对国产算力的适配优化,有望进一步降低推理侧的成本。
由於國內應用付費的習慣尚未完全成熟,AI應用的商業化可能受阻。國金計算機首席孟燦認為,美國對應用付費有著10年,甚至20年基礎,這對AI應用的商業化有益,而國內由於尚無此基礎,AI應用落地及商業化的時間進度會較慢。不過,國內正不斷追趕,時間進度可望縮短至半年以內。