SGLang v0.5.22 更新：新模型支持与推理性能改进

SGLang 发布 v0.5.22，本版本汇集 245 位贡献者的约 950 个 PR。

新增模型支持

语言/多模态方向包括 Clef / Clef Flash、PPLX-Decider v1 / v1.1、EmbeddingGemma 2、LLaDA2.2；扩散模型方向包括 HunyuanImage-3.0-Instruct、Kandinsky 6 / Kandinsky 6 SR、Wan-Animate-2、SANA-Video 2.0、LLaDA-Image / LLaDA-Image-Turbo。

性能与功能变化

• DeepSeek-V4.1 在 H200 上每 GPU 吞吐最高提升 2.3 倍；现可在 AMD MI350X / MI355X 上运行，借助 DSpark 吞吐最高提升 1.9 倍。
• Qwen3.8-Flash-Next 在 B200 上解码快 12%；GLM-5.3-Flash 配合 DFlash 在 B300 上快 10%；MiMo-V2.6-Pro 配合 DFlash 在 B300 上解码吞吐提升 1.85 倍。
• 新的 InstantTensor 加载器使模型加载快 10 倍。
• PD 分离在长提示场景下吞吐最高提升 27%，p95 TTFT 减半。
• HiSparse 支持 EAGLE 与 MTP，用于 KV 缓存放于 CPU 内存的长上下文服务。
• GLM-5.2 / GLM-5.3 可将 decode context parallelism 与 MTP 结合，GLM-5.3 上解码最高快 2.1 倍。
• 支持在 Apple Silicon Mac 上以标准 PyTorch 后端运行，并保留 MLX。
• MiniMax-H3 与 Qwen-Image 2.1 可在 ComfyUI 中通过 SGLang Diffusion 运行，并支持加载社区 GGUF 检查点与 LoRA。
• 修复重要问题：混合线性模型在推测解码与结构化输出同时使用时，可能从错误的 mamba 状态恢复。

升级方式

本版本要求 Python 3.11 或更新版本。安装命令为 uv pip install --prerelease=allow sglang==0.5.22。Docker 镜像覆盖 NVIDIA（CUDA 13）、AMD MI35x / MI30x、Intel GPU 与 Intel CPU 平台。

来源发布于 2026-10-19，更新日志内容有截断，以上仅为可见部分。