返回首页

Baseten Grid

sitemap+web+x 0.76
访问原文

介绍

Baseten Grid 是美国 AI 推理平台 Baseten(CEO Tuhin Srivastava)于 2026 年 11 月 4 日 推出的新产品,官方一句话介绍是:“网关、智能路由和护栏合为一层,让企业用同样的 AI 预算做更多事。”

它面向的是企业内部大量使用编码 Agent(如 Claude Code、Codex、Cursor 等)的场景:Grid 处在推理之上,统一接管各团队、各工具、各凭证的模型请求,负责路由、用量监控与访问治理,并可把适合的流量导向更便宜的模型(包括 Baseten 自家托管的模型)。目前通过候补名单开放早期访问,Opendoor 是公开点名的客户。

解释

解决什么问题

编码 Agent 让“选哪个模型”变成了持续性的企业开支:调用分散在不同团队、工具和 API Key 上,平台团队很难设预算、做审计,也无法自动把简单任务交给便宜模型。

主要能力

  • 网关:统一入口,集中管理凭证与访问权限。
  • 智能路由:按任务难度与成本,把请求分配到合适模型;报道称在基准中可节省约 70% 成本。
  • 护栏与治理:预算、用量监控、审计记录。

与同类比较

类似 OpenRouter、LiteLLM、各类 AI Gateway,但 Grid 明确聚焦企业编码 Agent 场景,并与 Baseten 自家的推理能力结合。

限制

  • 早期访问阶段,需排队申请。
  • 70% 节省为厂商/媒体口径,实际取决于任务结构与模型组合。
  • 路由到更便宜模型可能影响部分复杂任务质量,需要配合评测。

用法

适合谁

  • 内部有大量工程师使用编码 Agent、需要控制 AI 支出与合规的企业平台团队;
  • 已在用 Baseten 推理、希望统一管理多模型调用的团队。

如何上手

  1. 访问 Baseten Grid 介绍页 加入候补名单。
  2. 梳理现有编码 Agent 的模型调用与凭证,规划统一接入 Grid 网关。
  3. 设置团队预算与路由规则,先在小范围试点,对比成本与代码质量后再推广。

广告