Pular para o conteúdo
Modelos de pesos abertos por uma única API: seu código num trilho só que alcança os modelos abertos.

Modelos de pesos abertos por uma única API, sem GPUs para alugar

, 3 min de leitura, By Jaber Jaber

Engenharia

A RightNow AI serve modelos de pesos abertos por uma única API, faturados por token sem assinatura. Chame os modelos abertos com uma chave de API de workspace em capacidade compartilhada e pague o uso com créditos.

O que se pode chamar?

GET /v1/models é a lista autoritativa dos modelos de chat hospedados. Ela também informa quando um está temporariamente pausado.

Os dados de cada modelo estão na sua página em Modelos abertos. Leia as capacidades do modelo ativo antes de pedir raciocínio, ferramentas, saída estruturada ou imagens.

Procurando outro modelo? Solicite um modelo.

Como chamá-los?

Dois protocolos, chat completions em /v1/chat/completions e Messages em /v1/messages, usam a mesma chave de workspace. Ambos alcançam os modelos abertos num único host. POST /v1/messages é servido pelos mesmos modelos que POST /v1/chat/completions, com o mesmo faturamento, créditos, idempotência, limites de taxa, limites de tamanho de solicitação e preços de entrada em cache.

Dois protocolos, uma chave, um saldo: chat completions em /v1/chat/completions e Messages em /v1/messages levam uma chave de workspace a uma única URL base e aos modelos abertos, e o uso é pago de um único saldo de créditos.
Ilustração de uma chave de workspace alcançando os modelos abertos por dois protocolos. Modelos abertos

Configure a URL base da sua rota, use uma chave de API de workspace e passe um id de modelo.

Se o seu código já fala a API de chat, três valores mudam e nada mais. No cliente que você já usa, mude três valores: a URL base para https://api.rightnowai.co/v1, a chave de API pela sua chave de workspace, e o modelo por um id de GET /v1/models.

Os três valores que um cliente da API de chat muda: no cliente que você já usa, a URL base passa a https://api.rightnowai.co/v1, a chave de API pela sua chave de workspace, e o modelo por um id de GET /v1/models. Nada mais muda.
Ilustração dos três valores que um cliente da API de chat muda. Clientes compatíveis com open models

Veja Clientes compatíveis com open models. Os campos de cada rota estão em Chat completions e Responses e em Messages.

Quanto custa?

Com preço por modelo. A página de Preços lista as tarifas de entrada, entrada em cache e saída por milhão de tokens; sem uma tarifa de cache separada, a entrada em cache é faturada à tarifa de entrada.

ModelInputCached inputOutput
DeepSeek V4.1 Flash 1017DeepSeekUSD 0.15USD 0.01USD 0.60
GLM 5.3Z.aiUSD 1.30USD 0.13USD 4.20
GLM 5.3 FlashZ.aiUSD 0.11USD 0.03USD 0.45
Nemotron 3.5 Lightning 30BNVIDIAUSD 0.05USD 0.01USD 0.15
List prices in USD per million tokens. All models and prices

Cada workspace tem um único saldo. Um crédito é um dólar americano. Adicione créditos quando precisar e pague conforme o uso.

Sem gasto mínimo: qualquer conta pode chamar a API de modelos abertos. Seu preço não muda com o tamanho do seu time.

Um arquivo de solicitações processado pelo Batch, ou uma solicitação enviada ao preço de Batch, custa metade do preço de tabela em entrada, entrada em cache e saída, nunca combinado com outro desconto.

As contagens de uso na resposta são as contagens faturadas; um tokenizer local pode contar diferente.

Com saldo zerado, chamadas à API de modelos abertos devolvem 402 Payment Required e não são faturadas. Veja Preços e créditos dos open models.

Como começar?

Consiga uma chave de workspace, encontre um modelo ativo e envie uma solicitação de chat completions no servidor.

Vá à página de Modelos abertos, escolha um modelo que não esteja marcado como Paused e selecione Get an API key. A chave é mostrada uma única vez: copie-a então.

Guarde a chave no cofre de segredos do seu servidor e injete-a no processo que chama como RIGHTNOW_API_KEY. Não coloque a chave em código de navegador nem num prompt.

Escolha um id cuja availability seja available e cujos supported_endpoints listem chat_completions. Veja Chamar um modelo aberto.

Usa um agente de programação? Ele pode configurar os modelos abertos para você: copie o prompt de Configurar um agente de programação.

Onde estão os limites?

Três limites se aplicam às suas solicitações. As compras os aumentam. Cada chave começa com 10,000 solicitações por minuto, 50,000 ao comprar créditos, e 200,000 quando suas compras atingem USD 200.

Os limites seguem as compras totais, não o seu saldo. Limites de concorrência se aplicam enquanto um modelo está ocupado.

Um modelo está disponível, ou seja servindo, ou pausado, ou seja temporariamente sem servir.

Pelo menos 7 dias antes de um modelo terminar, sua linha traz deprecated_at, end_of_life_at e successor_model. O modelo continua servindo até o fim.

A API de modelos abertos não é oferecida hoje para informações de saúde protegidas. HIPAA e um BAA não estão disponíveis.

Veja Limites e Retenção de dados.

Respostas rápidas

Preciso de cartão para começar?

Se você ainda não tem conta, o primeiro login cria uma, sem cartão e com $1 em crédito.

Existe assinatura ou cobrança por usuário?

Não. Por token, sem assinatura e sem cobrança por usuário.

Qual chave devo criar?

Use uma chave de API de workspace para os modelos hospedados. Selecione o modelo com o campo model no corpo da solicitação.

Posso manter o cliente que já uso?

Mude a URL base, a chave e o id de modelo no cliente que você já usa.

Como aumento meus limites?

Adicione fundos em Configurações, Faturamento. Os limites seguem as compras totais.

O tráfego é criptografado?

Sim. TLS 1.2 ou superior em tudo. Todo o tráfego à API de modelos abertos vai por HTTPS.