DeepSeek-V3
开源的大语言模型,671B 总参数、每 token 激活 37B,支持 128K 上下文,开发者可下载权重自行部署或通过官方平台调用。
3 次可以打开平均 3.8 秒11 月 19 日 起国内不可直接访问11 月 10 日 起国内不可直接访问
本站从国内机房定期实测。竖条由远及近:绿 = 可以打开,橙 = 国内不可直接访问,灰 = 打不开。DeepSeek-V3 是一个混合专家(MoE)架构的大语言模型,总参数 671B,每个 token 激活 37B。它解决的问题很直接:让开源模型在效果上接近闭源头部模型,同时把训练和推理的成本压下来。模型权重、推理代码和论文都放在 GitHub 仓库里,可以下载后自己跑。
模型本身
架构上延续了 DeepSeek-V2 的多头潜在注意力(MLA)和 DeepSeekMoE,并引入无辅助损失的负载均衡策略和多 token 预测训练目标。预训练用了 14.8 万亿 token,采用 FP8 混合精度训练框架,官方称整个预训练只花了 2.664M H800 GPU 小时,全程没有出现不可恢复的 loss 尖峰。后训练阶段从 DeepSeek-R1 系列模型蒸馏推理能力,把验证和反思的模式带进 V3,同时控制输出的风格和长度。
怎么用
仓库提供 DeepSeek-V3-Base 和 DeepSeek-V3 两个版本的权重下载,上下文长度 128K。不想自己部署的,README 里也指向了官方的聊天网站和 API 平台。本地运行需要足够的显存,仓库给了推理相关目录,第三方推理框架如 SGLang、TensorRT-LLM、vLLM 也有对应的适配说明。
适合谁
主要是开发者、研究者和需要私有化部署的团队:想拿开源权重做微调、做推理服务、或者对比不同模型效果的人。普通用户如果只是想聊天问答,直接用官方网页或 App 更省事,不必碰这个仓库。
许可与注意
代码和模型分别有 LICENSE-CODE 和 LICENSE-MODEL 两份许可,仓库页面标注为 MIT。模型体积很大,本地部署对硬件要求不低;仓库本身是英文文档,中文资料需要另找。
