Baseten 加入 Hugging Face 推理提供方生态
Hugging Face 于 2026 年 8 月 6 日宣布 Baseten 成为 Hub 上受支持的推理提供方,初期支持对话与文本生成任务,可访问 Kimi K3、DeepSeek V4 Flash、GLM-5.2 等开放权重模型,其他任务类型后续推出。
变化内容
Hugging Face 于 2026 年 8 月 6 日发布公告,Baseten 成为 Hugging Face Hub 上受支持的推理提供方(Inference Provider)。Baseten 本身是覆盖无服务器推理、训练等能力的 AI 基础设施平台,拥有较多前沿模型的目录。
本次初始集成中,Baseten 在 Hugging Face 上开放的是对话与文本生成类任务,可调用 Kimi K3、DeepSeek V4 Flash、GLM-5.2 等开放权重模型。来源明确表示其他任务类型的支持「即将推出」,但未给出时间表。
使用方式
来源描述了两种调用模式:
- 自带密钥:在账户设置中填入自己的提供方 API 密钥,请求直接发往 Baseten,由 Baseten 账户计费。
- 经 HF 路由:不设置自定义密钥时,请求由 Hugging Face 转发,费用计入 HF 账户。
用户还可在设置中调整提供方优先级,该顺序影响模型页面的组件与代码片段。模型页会列出与该模型兼容的第三方提供方,并按用户偏好排序。
接入渠道
- Python SDK
huggingface_hub(>= 1.26.1)与 JavaScript 包@huggingface/inference均已支持。 - 也可通过
https://router.huggingface.co/v1的 OpenAI 兼容接口调用,模型名形如deepseek-ai/DeepSeek-V4-Flash-0731:baseten,使用 HF token 认证后自动路由到 Baseten。 - 来源称多数 Agent 工具框架已集成 HF 推理提供方,列举了 Pi、OpenCode、Hermes Agents、OpenClaw 等。
计费说明
经 HF 路由的请求按提供方标准 API 价格计费,Hugging Face 表示不加价、原样透传提供方成本,并提到未来可能与提供方建立收入分成协议。PRO 用户每月可获得 2 美元的推理额度,可跨提供方使用;已登录免费用户有少量免费推理配额。
需注意:来源未给出各模型的具体价格、速率限制或延迟数据,这些信息需查阅 Baseten 的模型列表自行确认。
来源与核对说明
- Hugging Face 官方博客 ↗https://huggingface.co/blog/baseten
本文经 AI 整理及独立自动校对,未做运行验证;自动校对仍可能遗漏问题,请以原始资料为准。
这篇内容对你有帮助吗?
点赞人数由服务器记录,收藏保存在当前浏览器。