中文 ｜ English
[](#license)
[](https://huggingface.co/tencent/Hy3)
[](https://modelscope.cn/models/Tencent-Hunyuan/Hy3)
[](https://cnb.cool/ai-models/tencent/Hy3)
[](https://ai.gitcode.com/tencent_hunyuan/Hy3)
🖥️ 官方网站 |
💬 GitHub
## 目录
- [模型介绍](#model-introduction)
- [更强大的 Agent 能力](#stronger-agent-capabilities)
- [更可靠的产品体验](#more-reliable-product-experiences)
- [Benchmark 附录](#benchmark-appendix)
- [新闻](#news)
- [模型链接](#model-links)
- [快速开始](#quickstart)
- [部署](#deployment)
- [vLLM](#vllm)
- [SGLang](#sglang)
- [微调](#finetuning)
- [量化](#quantization)
- [许可证](#license)
- [联系我们](#contact-us)
## 模型介绍
**Hy3** 是一个拥有 2950 亿（295B）参数的混合专家模型，其中激活参数为 210 亿（21B），MTP 层参数为 38 亿（3.8B），由腾讯 Hy 团队开发。继 4 月下旬发布 Hy3 Preview 之后，我们收集了来自 50 多款产品的反馈，并使用更高质量的数据扩大了后训练规模。今天，我们正式推出 Hy3。它超越了同等规模的模型，并可媲美参数量大其 2 至 5 倍的旗舰开源模型。此外，它在各类产品和生产力任务中的实用性也得到了显著提升。
| 属性 | 值 |
|:---|:---|
| 架构 | 混合专家模型 |
| 总参数量 | 295B |
| 激活参数量 | 21B |
| MTP 层参数量 | 3.8B |
| 层数（不含 MTP 层） | 80 |
| MTP 层数 | 1 |
| 注意力头数 | 64 (GQA, 8 个 KV 头, 头维度 128) |
| 隐藏层维度 | 4096 |
| 中间层维度 | 13312 |
| 上下文长度 | 256K |
| 词表大小 | 120832 |
| 专家数量 | 192 个专家，top-8 激活 |
| 支持精度 | BF16 |
## 更强大的 Agent 能力
在 Hy3 Preview 的基础上，我们进一步提升了后训练数据的质量和多样性，同时扩大了 RL 训练规模。Hy3 在推理、智能体（agentic）和长上下文任务中均表现出稳步提升，足以与更大规模的旗舰模型相抗衡。
在代码编写、办公、财务建模、前端设计和游戏开发等生产力场景中，Hy3 取得了显著进步，现在可以作为可靠且高性价比的模型选择。
我们不认为公开的 Benchmark 分数能代表全部实力。因此，我们邀请了 270 位专家，利用他们工作中的实际任务进行了盲测评估。Hy3 的得分为 2.67/4，优于 GLM-5.1 的 2.51/4。这种优势在前端开发、数据与存储以及 CI/CD 任务中最为明显。
## 更可靠的产品体验
Benchmark 无法完全体现模型的实用性。基于广泛的产品反馈，我们识别并修复了以下问题，并持续收到产品团队的正面反馈。
**工具调用和输出格式的稳定性**：我们修复了多个基线可靠性问题，使模型在工具配置和输出约束方面达到了生产级标准。工具调用错误恢复能力和整体效率得到了提升。Hy3 还能很好地泛化到不同的 agent 脚手架中。在 SWE-Bench Verified 上，使用 CodeBuddy、Cline 和 KiloCode 等不同脚手架的准确率波动保持在 4% 以内。
**知识与抗幻觉**：秉持“有据则答、无据则明示、不混淆来源、不捏造数据”的理念，我们实施了精细化的数据清洗和训练约束。在基于真实场景的内部评估中，Hy3 的幻觉率从 12.5% 降至 5.4%，常识错误率从 25.4% 降至 12.7%。这些改进切实减少了事实混淆、数据捏造和逻辑矛盾。
**复杂上下文保留与多轮意图追踪**：通过 SFT 和 RL 的联合优化，Hy3 改善了诸如共指消解、省略恢复以及多轮约束继承等实际操作痛点。在内部综合多轮测试中，问题发生率从 17.4% 下降至 7.9%。Hy3 在 MRCR 等长对话评估中也取得了显著进步。它的输出更加简洁，同时确保了复杂意图在长周期交互中不会衰减或偏移。
## Benchmark 附录
## 新闻
* 🔥 我们在 [Hugging Face](https://huggingface.co/tencent/Hy3)、[ModelScope](https://modelscope.cn/models/Tencent-Hunyuan/Hy3)、[GitCode](https://ai.gitcode.com/tencent_hunyuan/Hy3) 和 [CNB](https://cnb.cool/ai-models/tencent/Hy3) 上开源了 **Hy3** 和 **Hy3-FP8** 模型权重。
## 模型链接
| 模型名称 | 描述 | Hugging Face | ModelScope | GitCode | CNB |
|:---|:---|:---:|:---:|:---:|:---:|
| Hy3 | Instruct 模型 | 🤗 [模型](https://huggingface.co/tencent/Hy3) | [模型](https://modelscope.cn/models/Tencent-Hunyuan/Hy3) | [模型](https://ai.gitcode.com/tencent_hunyuan/Hy3) | [模型](https://cnb.cool/ai-models/tencent/Hy3) |
| Hy3-FP8 | FP8 量化 Instruct 模型 | 🤗 [模型](https://huggingface.co/tencent/Hy3-FP8) | [模型](https://modelscope.cn/models/Tencent-Hunyuan/Hy3-FP8) | [模型](https://ai.gitcode.com/tencent_hunyuan/Hy3-FP8) | [模型](https://cnb.cool/ai-models/tencent/Hy3-FP8) |
## 快速开始
请先使用 [vLLM](#vllm) 或 [SGLang](#sglang) 部署 Hy3，然后调用兼容 OpenAI 的 API：
```
from openai import OpenAI
client = OpenAI(base_url="http://127.0.0.1:8000/v1", api_key="EMPTY")
response = client.chat.completions.create(
model="hy3",
messages=[
{"role": "user", "content": "Hello! Can you briefly introduce yourself?"},
],
temperature=0.9,
top_p=1.0,
# reasoning_effort: "no_think" (default, direct response), "low", "high" (deep chain-of-thought)
extra_body={"chat_template_kwargs": {"reasoning_effort": "no_think"}},
)
print(response.choices[0].message.content)
```
有关如何启动 API 服务器的说明，请参阅下方的[部署](#deployment)章节。
## 部署
Hy3 总共有 295B 个参数。要在 8 个 GPU 上提供服务，我们建议使用 H20-3e 或其他具有更大显存的 GPU。
在生产环境部署中，我们推荐使用 vLLM 或 SGLang，它们都为 Hy3 提供了专门的配置方案：
- [vLLM](https://github.com/vllm-project/vllm) - 参见 [vLLM 配方](https://recipes.vllm.ai/tencent/Hy3)
- [SGLang](https://docs.sglang.io/) - 参见 [SGLang 指南](https://lmsysorg.mintlify.app/cookbook/autoregressive/Tencent/Hy3)
### vLLM
从源码构建 vLLM：
```
uv venv --python 3.12 --seed --managed-python
source .venv/bin/activate
git clone https://github.com/vllm-project/vllm.git
cd vllm
uv pip install --editable . --torch-backend=auto
```
在启用 MTP 的情况下启动 vLLM 服务器：
```
# 切换到 trtllm backend 以绕过 mnnvl workspace size 问题。
export VLLM_FLASHINFER_ALLREDUCE_BACKEND=trtllm
vllm serve tencent/Hy3 \
--tensor-parallel-size 8 \
--speculative-config.method mtp \
--speculative-config.num_speculative_tokens 2 \
--tool-call-parser hy_v3 \
--reasoning-parser hy_v3 \
--enable-auto-tool-choice \
--port 8000 \
--served-model-name hy3
```
### SGLang
从源码构建 SGLang：
```
git clone https://github.com/sgl-project/sglang
cd sglang
pip3 install pip --upgrade
pip3 install "transformers>=5.6.0"
pip3 install -e "python"
```
在启用 MTP 的情况下启动 SGLang 服务器：
```
python3 -m sglang.launch_server \
--model tencent/Hy3 \
--tp-size 8 \
--tool-call-parser hunyuan \
--reasoning-parser hunyuan \
--speculative-num-steps 2 \
--speculative-eagle-topk 1 \
--speculative-num-draft-tokens 3 \
--speculative-algorithm EAGLE \
--port 8000 \
--served-model-name hy3
```
## 微调
Hy3 提供了完整的模型微调 pipeline。详细文档请参考：[微调指南](./finetune/README.md)
## 量化
我们提供了 [AngelSlim](https://github.com/tencent/AngelSlim)，这是一个更易于使用、全面且高效的大模型压缩工具包。AngelSlim 支持一套全面的大规模多模态模型压缩工具，包括常见的量化算法、低比特量化（low-bit quantization）和投机采样（speculative sampling）。
## 许可证
Hy3 基于 **Apache License 2.0** 协议发布。详情请参见 [LICENSE](./LICENSE)。
## 联系我们
如果您想给我们的研发和产品团队留言，欢迎联系我们。您也可以通过电子邮件与我们取得联系：
📧 **hunyuan_opensource@tencent.com**
Hy3 由腾讯 Hy 团队开发。