Nemotron 3.5 Lightning 30B
Disponívelnvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16Preços
Pagamento por token
Entrada / million
USD 0.05
Entrada em cache / million
USD 0.01
Saída / million
USD 0.15
Desempenho
Velocidade de saída
540.9
tokens por segundo
Acesso
- Provedor
- NVIDIA
- Compatibilidade de API
- POST /v1/chat/completions
- Compatibilidade de Messages
- POST /v1/messages
- Entrada aceita
- Texto
- Disponibilidade
- Disponível
- Retenção de dados
- Leia a política
Limites
- Janela de contexto
- 262,144 tokens
- Saída máxima gerada
- 65,536 tokens
- Limite de tempo de resposta
- 740 segundos
Capacidades
- Chamada de ferramentas
- Com suporte
- Modo JSON
- Com suporte
- Streaming
- Com suporte
Ver especificação completa
- ID do modelo
- nemotron-3-5-lightning-30b
- ID do modelo na API
- nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16
- Tipo
- Chat
- Cache de prompts
- Com suporte
- Esforço de raciocínio
- none
Exemplos de código
Confiança e procedência
A RightNow é o laboratório de pesquisa que permite ao mercado extrair mais de suas GPUs.