模型

DeepSeek: R1 Distill Llama 70B

仅 API 开源 可商用
DeepSeek · MIT · 70B · 上下文 128K
能做什么
逻辑推理数学推理编程开发知识问答
部署门槛
高端 24G+
≥ 约35GB(4-bit量化)
上下文
128K
token 窗口
参数
70B

01基础参数

参数规模
70B
上下文窗口
128K
输入模态
text
可生成
text
模型系列
开源许可
MIT
主要语言
zh

02部署门槛详情

硬件等级 高端 24G+ · 最低显存 约35GB(4-bit量化)

03Benchmark 评测

待补充

04适用场景

✓ 适用
需要强推理能力的数学、代码与逻辑任务、对数据隐私有严格要求的企业本地部署、希望以开源低成本方案替代闭源推理API的场景
✗ 不适用
中文为主的自然语言处理任务(模型原生不支持中文)、资源受限的边缘设备或低算力环境部署、需要原生函数调用(Function Calling)支持的场景、对因果推理准确率要求极高的任务

05部署与限制

⚙ 本地部署建议
FP16精度下推理需约140GB显存,建议使用双A100 80GB或H100等高端显卡。推荐采用4-bit量化(如GPTQ/AWQ),可将显存需求压缩至约35GB,显著降低硬件门槛。可使用llama.cpp、Ollama等工具配合GGUF量化格式进行高效部署。
⚠ 已知限制
模型原生不支持中文,中文场景需额外适配。当前版本不支持原生函数调用(Function Calling)。部分评测显示其在因果检测等特定任务上准确率有限(约49.57%)。个别部署反馈存在重复输出等推理精度问题。

06详细介绍

来源:OpenRouter API(scraper 采集,2026-06-30)

DeepSeek-R1-Distill-Llama-70B 是 DeepSeek 于 2025 年 1 月发布的开源推理大模型。它并非从零训练,而是通过知识蒸馏技术,从强大的 DeepSeek-R1 教师模型中提炼推理能力,并迁移至 Llama 3.3 70B Instruct 基础模型上。这种“蒸馏”策略使其在保持 700 亿参数规模的同时,专注于强化数学、代码和逻辑推理等核心能力。模型采用宽松的 MIT 许可证,支持免费商业使用。

凭借强大的推理性能和 128K 的长上下文窗口,该模型特别适合需要深度思考的复杂任务场景,如高等数学解题、代码生成、金融量化分析及学术研究等。同时,作为开源模型,它支持企业进行私有化本地部署,能有效满足金融、政务等领域对数据隐私和合规性的严格要求。不过,用户也需注意其原生不支持中文、不支持函数调用等局限性,并根据硬件条件(推荐高端显卡配合量化技术)合理规划部署方案。

OpenRouter Provider 比价

共 1 家 provider(2026-06-30 采集),按输入价升序:

Provider输入(USD/1M)输出(USD/1M)量化上下文
Novita0.80.8bf168192

代表价(满血最低):Novita 输入 0.8 / 输出 0.8 USD/1M。按 provider 选择可进一步降本。

07官方资源

08同类模型