跳转到正文
通过一个 API 使用开放权重模型: 你的代码运行在一条通往开放模型的轨道上。

通过一个 API 使用开放权重模型,无需租用 GPU

, 阅读时间 3 分钟, By Jaber Jaber

工程

RightNow AI 通过一个 API 提供开放权重模型,按 token 计费,没有订阅。用一个工作区 API key 在共享容量上调用开放模型,用量从额度中支付。

能调用什么?

GET /v1/models 是托管聊天模型的权威列表。它还报告某个模型何时被暂时停用。

每个模型的事实都在它 Open models 下的页面上。在请求推理、工具、结构化输出或图像之前,先读实时模型的能力。

在找别的模型?Request a model。

怎么调用?

两个协议,/v1/chat/completions 上的 chat completions 和 /v1/messages 上的 Messages,用同一个工作区 key。两者在同一主机上到达开放模型。POST /v1/messages 由与 POST /v1/chat/completions 相同的模型服务,计费、额度、幂等性、速率限制、请求大小限制和缓存输入定价也相同。

两个协议,一个 key,一个余额:/v1/chat/completions 上的 chat completions 和 /v1/messages 上的 Messages 用一个工作区 key 到达一个基础 URL 和开放模型,用量从一个额度余额支付。
一个工作区 key 通过两个协议到达开放模型的示意图。Open models

为你的路由设置基础 URL,用工作区 API key 并传入模型 id。

如果你的代码已经在用 chat API,只改三个值,其他都不变。在你已有的客户端里改三个值:基础 URL 改为 https://api.rightnowai.co/v1,API key 改为你的工作区 key,模型改为 GET /v1/models 里的一个 id。

chat API 客户端改的三个值:在你已有的客户端里,基础 URL 变成 https://api.rightnowai.co/v1,API key 变成你的工作区 key,模型变成 GET /v1/models 里的一个 id。其他都不变。
chat API 客户端所改三个值的示意图。Open-model compatible clients

见 Open-model compatible clients。各路由的字段在 Chat completions and Responses 和 Messages 里。

费用多少?

按模型定价。Pricing 页列出每百万 token 的输入、缓存输入和输出费率;没有单独缓存费率的模型,缓存输入按输入费率计费。

ModelInputCached inputOutput
DeepSeek V4.1 Flash 1017DeepSeekUSD 0.15USD 0.01USD 0.60
GLM 5.3Z.aiUSD 1.30USD 0.13USD 4.20
GLM 5.3 FlashZ.aiUSD 0.11USD 0.03USD 0.45
Nemotron 3.5 Lightning 30BNVIDIAUSD 0.05USD 0.01USD 0.15
List prices in USD per million tokens. All models and prices

每个工作区有一个余额。一个额度等于一美元。需要时添加额度,按用量付费。

没有最低消费:每个账户都可以调用开放模型 API。你的价格不随团队规模变化。

通过 Batch 运行的一个请求文件,或以批量价格发送的单个请求,输入、缓存输入和输出都按价目的一半计费,绝不与另一折扣叠加。

响应中的用量计数是计费计数;本地分词器的计数可能不同。

余额为零时,对开放模型 API 的调用返回 402 Payment Required,不会计费。见 Open-model pricing and credits。

怎么开始?

获取一个工作区 key,找一个在线模型,发送一个服务端 chat completions 请求。

到 Open models 页,选一个没有标记 Paused 的模型,选择 Get an API key。key 只显示一次:那时就复制它。

把 key 保存在你服务器的机密存储里,以 RIGHTNOW_API_KEY 注入发起调用的进程。不要把 key 放进浏览器代码或提示词里。

选一个 availability 为 available 且 supported_endpoints 列出 chat_completions 的 id。见 Call an open model。

在用编程代理?它可以替你配置开放模型:从 Set up a coding agent 复制提示词。

限制在哪里?

三个限制适用于你的请求。购买会提高它们。每个 key 起步为每分钟 10,000 个请求,购买额度后升到 50,000,累计购买达到 USD 200 后升到 200,000。

限制跟随总购买额,不跟随你的余额。模型繁忙时并发限制生效。

一个模型要么 available(在服务),要么 paused(暂时不服务)。

一个模型结束前至少 7 天,它的行会带 deprecated_at、end_of_life_at 和 successor_model。模型在其结束前持续服务。

开放模型 API 目前不提供用于受保护健康信息的服务。HIPAA 和 BAA 不提供。

见 Limits 和 Data retention。

简短回答

开始需要银行卡吗?

如果你还没有账户,第一次登录会创建一个,无需银行卡,附 $1 额度。

有订阅或席位费吗?

没有。按 token 计费,没有订阅,也没有按席位收费。

该创建哪种 key?

托管模型用工作区 API key。用请求体中的 model 字段选择模型。

能继续用我已有的客户端吗?

在你已有的客户端里改基础 URL、key 和模型 id。

怎么提高我的限制?

在 Settings, Billing 充值。限制跟随总购买额。

流量加密吗?

加密。全部为 TLS 1.2 及以上。到开放模型 API 的所有流量都走 HTTPS。