提交智能体收藏0
技术动态

Cloudflare AI Gateway 推出 Auto Router 公开测试版

Cloudflare 在 AI Gateway 中发布 Auto Router 公开测试版,用户将模型设为 cloudflare/auto 后,请求会被自动路由到能力足够且更具成本效益的模型。来源称内部测试成本节省最高约 30%,并在其知识工作基准上给出成功率与费用对比。

用途与发布状态

根据 Cloudflare 官方博客(2026-09-30),AI Gateway 推出 Auto Router 公开测试版。用户把模型指定为 cloudflare/auto,路由器会为每个请求自动选择“足够胜任”的模型,终端用户无需手动选型。发布时该功能在测试期内免费。

工作方式

按来源描述,路由器先根据请求格式、执行模式、凭证、计费配置、访问控制与花费限额等过滤出可用模型池,并排除不健康的上游,恢复后再自动加回。随后取最近消息送入 Workers AI 上的多头分类模型,输出 14 类任务概率,以及复杂度、模糊度、利害程度、对前文依赖度四个维度的 1 至 5 分。评分矩阵将这些信号与模型基准结果结合,再按期望质量与自适应成本惩罚计算效用,选出排序最高的模型。来源还专门处理了长会话中的缓存读写与切换惩罚问题。

来源给出的数据

Cloudflare 称在其内部 OpenCode 部署中,相比只用前沿模型,成本节省最高约 30%。其内部知识工作基准对比显示:cloudflare/auto 成功率 86.6%、总成本 2.10 美元、每次成功 0.0084 美元;Claude Opus 5.5 为 96.6%、5.91 美元、0.0210 美元;GPT-6 Sol 为 84.2%、2.64 美元、0.0108 美元。基准含 97 个任务,每个模型每任务三个样本。

限制与待核实事项

以上数值均为 Cloudflare 自述的内部测试结果,来源未提供第三方复现或独立评测,基准细节、任务分布与统计口径需以官方文档为准。该功能仍处于公开测试阶段,后续计划包括扩大模型范围、纳入零数据保留要求、考虑供应商容量、为请求选择推理等级,以及补齐 Responses API 与 WebSockets 支持等,实际能力可能变化。

来源与核对说明

  1. Cloudflare AI 官方博客 ↗https://blog.cloudflare.com/auto-router/

本文经 AI 整理及独立自动校对,未做运行验证;自动校对仍可能遗漏问题,请以原始资料为准。

这篇内容对你有帮助吗?

点赞人数由服务器记录,收藏保存在当前浏览器。