提交智能体收藏0
技术动态

Baseten 加入 Hugging Face 推理提供方生态

Hugging Face 于 2026 年 8 月 6 日宣布 Baseten 成为 Hub 上受支持的推理提供方,初期支持对话与文本生成任务,可访问 Kimi K3、DeepSeek V4 Flash、GLM-5.2 等开放权重模型,其他任务类型后续推出。

变化内容

Hugging Face 于 2026 年 8 月 6 日发布公告,Baseten 成为 Hugging Face Hub 上受支持的推理提供方(Inference Provider)。Baseten 本身是覆盖无服务器推理、训练等能力的 AI 基础设施平台,拥有较多前沿模型的目录。

本次初始集成中,Baseten 在 Hugging Face 上开放的是对话与文本生成类任务,可调用 Kimi K3、DeepSeek V4 Flash、GLM-5.2 等开放权重模型。来源明确表示其他任务类型的支持「即将推出」,但未给出时间表。

使用方式

来源描述了两种调用模式:

  • 自带密钥:在账户设置中填入自己的提供方 API 密钥,请求直接发往 Baseten,由 Baseten 账户计费。
  • 经 HF 路由:不设置自定义密钥时,请求由 Hugging Face 转发,费用计入 HF 账户。

用户还可在设置中调整提供方优先级,该顺序影响模型页面的组件与代码片段。模型页会列出与该模型兼容的第三方提供方,并按用户偏好排序。

接入渠道

  • Python SDK huggingface_hub(>= 1.26.1)与 JavaScript 包 @huggingface/inference 均已支持。
  • 也可通过 https://router.huggingface.co/v1 的 OpenAI 兼容接口调用,模型名形如 deepseek-ai/DeepSeek-V4-Flash-0731:baseten,使用 HF token 认证后自动路由到 Baseten。
  • 来源称多数 Agent 工具框架已集成 HF 推理提供方,列举了 Pi、OpenCode、Hermes Agents、OpenClaw 等。

计费说明

经 HF 路由的请求按提供方标准 API 价格计费,Hugging Face 表示不加价、原样透传提供方成本,并提到未来可能与提供方建立收入分成协议。PRO 用户每月可获得 2 美元的推理额度,可跨提供方使用;已登录免费用户有少量免费推理配额。

需注意:来源未给出各模型的具体价格、速率限制或延迟数据,这些信息需查阅 Baseten 的模型列表自行确认。

来源与核对说明

  1. Hugging Face 官方博客 ↗https://huggingface.co/blog/baseten

本文经 AI 整理及独立自动校对,未做运行验证;自动校对仍可能遗漏问题,请以原始资料为准。

这篇内容对你有帮助吗?

点赞人数由服务器记录,收藏保存在当前浏览器。

继续阅读

ICML 2026 论文复现实验:2,226 篇论文的逐条主张审查结果 →

闲置 GPU 正成为 AI 基础设施的新瓶颈 →

同一集群利用率提升33个百分点:改变的是分配顺序 →

oMLX 创建者加入 Hugging Face,推动 MLX 本地 AI 生态 →