模型

Mistral: Mistral Small 3.2 24B

仅本地 开源 可商用
— · Apache-2.0 · 24B · 上下文 128K
能做什么
聊天问答编程开发多模态理解智能客服逻辑推理
部署门槛
中端 16-24G
≥ 24GB
上下文
128K
token 窗口
参数
24B

01基础参数

参数规模
24B
上下文窗口
128K
输入模态
text / image
可生成
text
模型系列
开源许可
Apache-2.0
主要语言
multi

02部署门槛详情

硬件等级 中端 16-24G · 最低显存 24GB

03Benchmark 评测

待补充

04适用场景

✓ 适用
多语言对话与知识问答、编程辅助与代码生成、调用外部工具构建 Agent 应用、结合图像输入的文档理解与视觉问答
✗ 不适用
超长文档分析(128K 上下文内表现稳定,但更长文本可能性能下降)、需要极高精度数学推理的复杂任务、对中文等非欧洲语言有极高要求的原生应用

05部署与限制

⚙ 本地部署建议
BF16/FP16 精度部署需要约 55GB 显存,可选用 A100/H100 80GB 或相应实例。社区已有 Q4_K_M 等量化版本,经量化后可在单张消费级显卡(如 RTX 4090)或 32GB 内存的 MacBook 上运行。支持 vLLM、llama.cpp、Transformers 等主流推理框架。
⚠ 已知限制
模型主要针对英语和欧洲语言优化,对中文等非欧洲语言的支持可能不如欧洲语言(但开放模型也支持中文等多种语言)。虽然支持 128K 上下文,但性能可能在超过 40K token 后有所下降。

06详细介绍

Mistral AI 于 2025 年 6 月开源的 Mistral Small 3.2 (24B) Instruct 模型,是其 Small 系列的重要迭代。它在保持 24B 参数规模的同时,引入了多模态能力,支持处理文本和图像输入,适用于需要视觉与语言理解结合的场景。相比前代,该版本在指令遵循准确率、输出稳定性(减少重复)和函数调用可靠性方面均有显著提升。

该模型定位为一个性能与效率平衡的通用模型,在编程、推理和多语言任务上表现出色。它拥有 128K 的上下文窗口,并原生支持工具调用,为构建复杂的 Agent 应用提供了坚实基础。模型采用 Apache 2.0 许可证,为开发者提供了灵活的部署和二次开发自由。无论是用于企业智能客服、编程助手,还是需要图像理解能力的文档分析应用,它都是一个具备成本效益的实用选择。

07官方资源

08同类模型