跳到主要内容
智能体
AI 动态
开发文档
技术资料
提交智能体
收藏
0
首页
/
成本与性能优化
AI · AGENTS · KNOWLEDGE
成本与性能优化
整理延迟、资源使用与调用成本的测量和优化方法。
搜索
内容目录
共 1 条内容 · 显示 1–1
开发文档
成本与性能优化
RouteLLM:用路由框架在强弱模型间分配查询
→
RouteLLM 是用于部署和评估 LLM 路由器的框架,可将较简单的查询交给更便宜的弱模型。其文档称,内置路由器在 MT Bench 等常用基准上最多可降低 85% 的成本,同时保持 95% 的 GPT-4 表现;这属于项目方基于论文的表述,该论文为预印本,未经同行评审。
整理于 2026-10-17
保留官方来源
—
人看过
—
赞