AMD 今天正式发布了 ZenDNN 6.0，这是 AMD 为 Ryzen 和 EPYC 处理器以及 Instinct GPU 打造的深度学习推理优化库的最新大版本。两个核心更新值得关注：原生 FP16 推理支持和 MoE（Mixture of Experts）优化。
先说说 FP16 支持的意义。过去的 ZenDNN 主要针对 INT8 和 BF16 做优化，FP16 支持度不够。6.0 版本补齐了这一环 — 在 EPYC 平台上直接跑 FP16 推理，不需要额外的量化步骤，对部署团队来说省了一个麻烦环节。
MoE 优化是针对当前大模型的主流架构。现在很多开源模型（Qwen 3.6、DeepSeek V4、GLM-5.2 等）都用 MoE 架构，ZenDNN 6.0 专门优化了 MoE 层的稀疏计算模式，把 expert routing 和 top-k 选择的开销降了下来。
对部署选型来说，这释放了一个信号：AMD 的推理软件栈正在成熟。过去用 AMD 跑推理意味着要自己调 ROCm、手动编译算子、忍受文档不完整。ZenDNN 6.0 与 ROCm 7 这套组合正在逐步缩小与 NVIDIA 的差距。
如果你们的推理负载以 CPU 端推理（EPYC）为主，或者想用 Instinct GPU 做推理而非训练，ZenDNN 6.0 值得关注。AMD 的硬件价格比同等 NVIDIA 产品低 30-50%，软件栈补齐之后，部署成本可以拉开一个明显的差距。
（配图：AMD 官方展示的 ZenDNN 6.0 推理性能对比图，FP16 和 MoE 推理吞吐比上一代提升明显）
内容来源：
AMD 官方公告：ZenDNN 6.0 FP16 Inference and MoE Acceleration
digital terminal 报道：AMD Launches ZenDNN 6.0 with FP16 Inference and MoE Acceleration
Phoronix 测试：AMD ZenDNN 6.0 在 Ryzen 和 EPYC 上的推理性能提升