
通过一个 API 使用开放权重模型,无需租用 GPU
, 阅读时间 3 分钟, By Jaber Jaber
工程RightNow AI 通过一个 API 提供开放权重模型,按 token 计费,没有订阅。用一个工作区 API key 在共享容量上调用开放模型,用量从额度中支付。
能调用什么?
GET /v1/models 是托管聊天模型的权威列表。它还报告某个模型何时被暂时停用。
每个模型的事实都在它 Open models 下的页面上。在请求推理、工具、结构化输出或图像之前,先读实时模型的能力。
在找别的模型?Request a model。
怎么调用?
两个协议,/v1/chat/completions 上的 chat completions 和 /v1/messages 上的 Messages,用同一个工作区 key。两者在同一主机上到达开放模型。POST /v1/messages 由与 POST /v1/chat/completions 相同的模型服务,计费、额度、幂等性、速率限制、请求大小限制和缓存输入定价也相同。

为你的路由设置基础 URL,用工作区 API key 并传入模型 id。
如果你的代码已经在用 chat API,只改三个值,其他都不变。在你已有的客户端里改三个值:基础 URL 改为 https://,API key 改为你的工作区 key,模型改为 GET /v1/models 里的一个 id。

见 Open-model compatible clients。各路由的字段在 Chat completions and Responses 和 Messages 里。
费用多少?
按模型定价。Pricing 页列出每百万 token 的输入、缓存输入和输出费率;没有单独缓存费率的模型,缓存输入按输入费率计费。
| Model | Input | Cached input | Output |
|---|---|---|---|
| DeepSeek V4.1 Flash 1017DeepSeek | USD 0.15 | USD 0.01 | USD 0.60 |
| GLM 5.3Z.ai | USD 1.30 | USD 0.13 | USD 4.20 |
| GLM 5.3 FlashZ.ai | USD 0.11 | USD 0.03 | USD 0.45 |
| Nemotron 3.5 Lightning 30BNVIDIA | USD 0.05 | USD 0.01 | USD 0.15 |
每个工作区有一个余额。一个额度等于一美元。需要时添加额度,按用量付费。
没有最低消费:每个账户都可以调用开放模型 API。你的价格不随团队规模变化。
通过 Batch 运行的一个请求文件,或以批量价格发送的单个请求,输入、缓存输入和输出都按价目的一半计费,绝不与另一折扣叠加。
响应中的用量计数是计费计数;本地分词器的计数可能不同。
余额为零时,对开放模型 API 的调用返回 402 Payment Required,不会计费。见 Open-model pricing and credits。
怎么开始?
获取一个工作区 key,找一个在线模型,发送一个服务端 chat completions 请求。
到 Open models 页,选一个没有标记 Paused 的模型,选择 Get an API key。key 只显示一次:那时就复制它。
把 key 保存在你服务器的机密存储里,以 RIGHTNOW_API_KEY 注入发起调用的进程。不要把 key 放进浏览器代码或提示词里。
选一个 availability 为 available 且 supported_endpoints 列出 chat_completions 的 id。见 Call an open model。
在用编程代理?它可以替你配置开放模型:从 Set up a coding agent 复制提示词。
限制在哪里?
三个限制适用于你的请求。购买会提高它们。每个 key 起步为每分钟 10,000 个请求,购买额度后升到 50,000,累计购买达到 USD 200 后升到 200,000。
限制跟随总购买额,不跟随你的余额。模型繁忙时并发限制生效。
一个模型要么 available(在服务),要么 paused(暂时不服务)。
一个模型结束前至少 7 天,它的行会带 deprecated_at、end_of_life_at 和 successor_model。模型在其结束前持续服务。
开放模型 API 目前不提供用于受保护健康信息的服务。HIPAA 和 BAA 不提供。
见 Limits 和 Data retention。
简短回答
开始需要银行卡吗?
如果你还没有账户,第一次登录会创建一个,无需银行卡,附 $1 额度。
有订阅或席位费吗?
没有。按 token 计费,没有订阅,也没有按席位收费。
该创建哪种 key?
托管模型用工作区 API key。用请求体中的 model 字段选择模型。
能继续用我已有的客户端吗?
在你已有的客户端里改基础 URL、key 和模型 id。
怎么提高我的限制?
在 Settings, Billing 充值。限制跟随总购买额。
流量加密吗?
加密。全部为 TLS 1.2 及以上。到开放模型 API 的所有流量都走 HTTPS。