Groq 用 LPU 托管 Llama 3.1 70B,推理速度极快。
Llama 3.1 70B (Groq极速)
仅 API 开源 可商用
Groq · Llama 协议 · 70B · 上下文 128K
能做什么
聊天问答
01基础参数
- 参数规模
- 70B
- 上下文窗口
- 128K
- 输入模态
- text
- 可生成
- text
- 模型系列
- —
- 开源许可
- Llama 协议
- 主要语言
- en
02部署门槛详情
硬件等级 待补充
实时对话低延迟
03Benchmark 评测
待补充