什么是DeepSeek-V3.2-Exp-头条-PHP中文网

什么是DeepSeek-V3.2-Exp

舞夢輝影

发布： 2025-10-09 09:41:08

原创

1161人浏览过

deepseek-v3.2-exp是deepseek ai于2025年9月29日发布的实验性大语言模型，标志着该公司在ai架构创新方面的重要里程碑。作为v3.1-terminus的升级版本，v3.2-exp的核心创新在于引入了deepseek稀疏注意力（dsa）机制。

核心技术特性

基础架构：基于V3.1-Terminus构建，保持671B参数规模
创新机制：首次实现细粒度稀疏注意力，突破传统Transformer架构限制
效率提升：在长文本处理场景中显著降低计算成本和内存使用
质量保证：输出质量与V3.1-Terminus几乎完全一致

稀疏注意力技术深度解析

DeepSeek稀疏注意力（DSA）工作原理

传统注意力机制需要计算序列中每个token与所有其他token的关系，计算复杂度为O(n²)。DSA通过以下方式进行优化：

效率提升数据

根据官方性能数据：

指标	DeepSeek-V3.1-Terminus	DeepSeek-V3.2-Exp	改进幅度
长文本推理速度	基准	显著提升	~2-3倍
内存使用量	基准	降低	~30-40%
训练效率	基准	提升	~50%
API成本	基准	降低	50%+

性能基准对比

推理模式性能（无工具使用）

基准测试	DeepSeek-V3.1-Terminus	DeepSeek-V3.2-Exp	变化
MMLU-Pro	85.0	85.0	持平
GPQA-Diamond	80.7	79.9	-0.8
Humanity's Last Exam	21.7	19.8	-1.9
LiveCodeBench	74.9	74.1	-0.8
AIME 2025	88.4	89.3	+0.9
HMMT 2025	86.1	83.6	-2.5
Codeforces	2046	2121	+75
Aider-Polyglot	76.1	74.5	-1.6

Agent工具使用性能

基准测试	DeepSeek-V3.1-Terminus	DeepSeek-V3.2-Exp	变化
BrowseComp	38.5	40.1	+1.6
BrowseComp-zh	45.0	47.9	+2.9
SimpleQA	96.8	97.1	+0.3
SWE Verified	68.4	67.8	-0.6
SWE-bench Multilingual	57.8	57.9	+0.1
Terminal-bench	36.7	37.7	+1.0

V3.2-Exp在保持整体性能水平的同时，在特定任务（如数学推理、编程竞赛、浏览器操作）上表现出提升，表明稀疏注意力机制不仅提高了效率，还可能在某些场景下增强了模型能力。

API定价与成本分析

服务类型	缓存命中	缓存未命中
输入成本	$0.07/百万token	$0.56/百万token
输出成本	$0.16/百万token	$0.42/百万token

部署方案与技术实现

本地部署选项

1. HuggingFace原生部署

# 模型权重转换cd inferenceexport EXPERTS=256
python convert.py --hf-ckpt-path ${HF_CKPT_PATH} \
                  --save-path ${SAVE_PATH} \
                  --n-experts ${EXPERTS} \
                  --model-parallel ${MP}# 启动交互式界面export CONFIG=config_671B_v3.2.json
torchrun --nproc-per-node ${MP} generate.py \
         --ckpt-path ${SAVE_PATH} \
         --config ${CONFIG} \
         --interactive

登录后复制

2. SGLang高性能部署

硬件平台	Docker镜像	特性
H200	lmsysorg/sglang:dsv32	最佳性能
MI350	lmsysorg/sglang:dsv32-rocm	AMD GPU支持
NPU A2/A3	lmsysorg/sglang:dsv32-a2/a3	国产芯片适配

启动命令：

python -m sglang.launch_server \
       --model deepseek-ai/DeepSeek-V3.2-Exp \
       --tp 8 --dp 8 --page-size 64