Deepseek R1 模型面向自然語(yǔ)言處理（NLP）、代碼生成、內(nèi)容理解、數(shù)據(jù)分析等多個(gè)應(yīng)用場(chǎng)景，對(duì)服務(wù)器的計(jì)算能力、存儲(chǔ)性能、數(shù)據(jù)吞吐量及穩(wěn)定性均提出了極高要求。目前，該模型主要分為兩大類(lèi)別，共計(jì)八個(gè)版本：

· 滿血原版：

o Deepseek-R1-Zero（671B）

o Deepseek-R1（671B）

· 蒸餾版：

o DeepSeek-R1-Distill-Qwen-1.5B

o DeepSeek-R1-Distill-Qwen-7B

o DeepSeek-R1-Distill-Llama-8B

o DeepSeek-R1-Distill-Qwen-14B

o DeepSeek-R1-Distill-Qwen-32B

o DeepSeek-R1-Distill-Llama-70B

需要特別說(shuō)明的是，只有 Deepseek-R1（671B） 具備與 ChatGPT 正面抗衡、在大部分指標(biāo)上實(shí)現(xiàn)超越的能力，而蒸餾版雖然經(jīng)過(guò) Deepseek 調(diào)優(yōu)和參數(shù)蒸餾后性能有所提升，但仍無(wú)法與滿血版媲美。因此，對(duì)于追求頂尖 AI 能力的用戶來(lái)說(shuō)，如何在本地部署真滿血版 Deepseek R1顯得尤為關(guān)鍵。

1.2 本地部署的必要性

當(dāng)前市場(chǎng)上不少第三方服務(wù)商宣稱(chēng)提供 Deepseek 相關(guān)服務(wù)，或發(fā)布本地化運(yùn)行教程，但實(shí)際上多數(shù)基于蒸餾版模型，容易混淆視聽(tīng)。而在 Deepseek 官方服務(wù)因超載而頻繁失去響應(yīng)的背景下，借助安擎多年的服務(wù)器研發(fā)經(jīng)驗(yàn)和靈活定制化服務(wù)，打造一套專(zhuān)為真滿血 Deepseek R1 設(shè)計(jì)的高性能計(jì)算平臺(tái)，成為了確保業(yè)務(wù)連續(xù)性與數(shù)據(jù)安全的理想選擇。

二、安擎 AI 服務(wù)器：Deepseek R1 理想運(yùn)行環(huán)境

為了滿足 Deepseek R1 671B 模型在實(shí)際業(yè)務(wù)中的高并發(fā)、高效率和穩(wěn)定運(yùn)行需求，安擎為您量身定制了從硬件選型到互聯(lián)網(wǎng)絡(luò)方案的整體解決方案，下面詳細(xì)介紹各項(xiàng)關(guān)鍵技術(shù)指標(biāo)及設(shè)備選型。

2.1 需求理解與顯存計(jì)算

Deepseek R1 為 671B 模型，單次激活專(zhuān)家參數(shù)量為 37B。該模型主要采用 FP8 訓(xùn)練，同時(shí)輔以 BF16 模式。根據(jù)以下公式計(jì)算模型運(yùn)行所需顯存：

其中：

· 模型參數(shù)量：671

· 激活參數(shù)量：37

· FP8 精度系數(shù)：1

· BF16 精度系數(shù)：2

代入數(shù)據(jù)可得：

· 最小需求：671×1 + 37×1 + (671+37)×10% = 778.8G

· 最大需求：671×2 + 37×2 + (671×2+37×2)×20% = 1699.2G

考慮到在 128K 上下文情況下可能超過(guò)最大值，為確保運(yùn)行可靠，我們以最大需求 1699.2G 為參考，提供充足的顯存余量。

2.2 算力卡選擇方案

根據(jù)顯存需求，系統(tǒng)需提供超過(guò) 1700G 緩存才能保證 Deepseek R1 的穩(wěn)定運(yùn)行。針對(duì)不同硬件平臺(tái)，安擎提供以下幾種合理的算力卡組合方案：

昇騰 910B3/910B4： 每卡 64G，4 臺(tái)共 32 卡，總顯存 2048G

可適配機(jī)型：EG940A-G30

海光 K100AI： 每卡 64G，4 臺(tái)共 32 卡，總顯存 2048G

可適配機(jī)型：EG8828H4

2.3 互聯(lián)網(wǎng)絡(luò)方案

在多機(jī)多卡并行計(jì)算的環(huán)境下，高速網(wǎng)絡(luò)互聯(lián)是關(guān)鍵。針對(duì)不同算力卡平臺(tái)，安擎提出了兩種網(wǎng)絡(luò)配置方案：

√ Hopper 系列算力卡（基于 HGX 技術(shù)）：
每臺(tái)服務(wù)器配備 8 個(gè) 400G 端口，整體端口需求低于 64 個(gè)。推薦使用 MQM9790 交換機(jī)，該設(shè)備擁有 64 個(gè) 400G 端口，并具備未來(lái)擴(kuò)展能力，從而確保所有算力卡間實(shí)現(xiàn) 400G 的高速互聯(lián)。

√ 基于 PCIe 架構(gòu)的中端算力卡：
由于平臺(tái)無(wú)法為每個(gè)算力卡單獨(dú)配置高速網(wǎng)卡，同時(shí)卡的算力能力無(wú)法充分飽和 400G 帶寬，每臺(tái)服務(wù)器建議配置 2 個(gè) 200G IB 端口。此時(shí)，可選用 MQM8790 交換機(jī)，其配備 40 個(gè) 200G 端口，同樣支持未來(lái)擴(kuò)展，并確保所有卡間達(dá)到 400G 的多機(jī)互聯(lián)帶寬。

對(duì)于昇騰 910 系列和 K100AI 服務(wù)器，安擎會(huì)根據(jù)具體需求靈活配置最優(yōu)網(wǎng)絡(luò)方案。

2.4 安擎的增值服務(wù)

基于上述硬件方案，安擎可為企業(yè)和機(jī)構(gòu)提供一整套定制化服務(wù)，包括：

√ 設(shè)備供貨與定制化： 根據(jù)客戶需求精準(zhǔn)匹配硬件配置；

√ 本地私有化部署： 在客戶自有數(shù)據(jù)中心搭建專(zhuān)屬 Deepseek R1 運(yùn)行環(huán)境，確保數(shù)據(jù)安全；

√ 混合云/本地算力融合方案： 結(jié)合云計(jì)算與本地計(jì)算資源，實(shí)現(xiàn)成本與算力的最佳平衡；

√ 專(zhuān)用優(yōu)化服務(wù)： 針對(duì) Deepseek R1 的特定應(yīng)用場(chǎng)景，提供軟硬件深度優(yōu)化，全面提升系統(tǒng)性能。

三、行業(yè)認(rèn)可與未來(lái)展望

自成立以來(lái)，安擎始終堅(jiān)持自主研發(fā)，在人工智能、互聯(lián)網(wǎng)、云計(jì)算、安防、交通、金融、醫(yī)療等多個(gè)行業(yè)中取得了廣泛應(yīng)用。憑借 60 余項(xiàng)自主專(zhuān)利和強(qiáng)大的本土研發(fā)實(shí)力，安擎在中國(guó) AI 服務(wù)器市場(chǎng)中占據(jù)了重要地位，特別是在交通、服務(wù)與公共事業(yè)等領(lǐng)域處于市場(chǎng)領(lǐng)先地位（IDC 數(shù)據(jù)）。

面向未來(lái)，安擎將繼續(xù)深耕人工智能領(lǐng)域，為客戶提供更加高效、靈活和安全的 AI 算力解決方案。通過(guò)推動(dòng) Deepseek R1 等大模型的廣泛落地應(yīng)用，安擎致力于為中國(guó)乃至全球的智能化轉(zhuǎn)型提供堅(jiān)實(shí)的計(jì)算力支撐。