浪潮信息元腦R1推理服務(wù)器已完成對開源框架SGLang新版本的深度適配,成功實現(xiàn)在單機高性能運行DeepSeek R1 671B模型時可支持超過1000路的用戶并發(fā)訪問。

浪潮元腦R1推理服務(wù)器NF5688G7原生搭載FP8計算引擎,針對DeepSeek R1 671B模型部署速度快且無精度損失,1128GB HBM3e高速顯存滿足671B模型 FP8精度下不低于800GB顯存容量的需求,單機支持全量模型推理情況下,仍保留充足的KV緩存空間。顯存帶寬高達(dá)4.8TB/s,契合DeepSeek R1模型"短輸入長輸出、顯存帶寬敏感"的技術(shù)特征,在推理解碼階段可實現(xiàn)加速。在通信方面,GPU P2P帶寬達(dá)900GB/s,保障單機部署張量并行通訊性能。

SGLang是新興的開源推理框架項目,其得到活躍的社區(qū)支持,并在工業(yè)界獲得了廣泛應(yīng)用。SGlang的核心特性包括:快速的后端運行時、靈活的前端語言、廣泛的模型支持等。尤其值得關(guān)注的是,SGLang針對MLA注意力機制開展了針對性的工程優(yōu)化,并在框架上對MoE架構(gòu)的推理做了優(yōu)化設(shè)計。SGLang也是適配DeepSeek v3和R1的推理框架之一。

目前,浪潮元腦R1推理服務(wù)器 NF5688G7已完成SGLang新版本 0.4.3的適配優(yōu)化工作。通過硬件調(diào)優(yōu)、算子優(yōu)化、混合并行、多token預(yù)測等多方面的工程實踐,在元腦R1推理服務(wù)器 NF5688G7上運行DeepSeek 671B R1模型,成功實現(xiàn)了單用戶解碼33 tokens/s及用戶并發(fā)超1000的性能表現(xiàn)。