Saltar al contenido

Modelos abiertosNVIDIANemotron 3.5 Lightning 30B

NVIDIA

Nemotron 3.5 Lightning 30B

Disponible
nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16

Compartir Nemotron 3.5 Lightning 30B

https://www.rightnowai.co/models/nemotron-3-5-lightning-30b

PNG, 1200 by 630.

Precios

Pago por token

Entrada / million

USD 0.05

Entrada en caché / million

USD 0.01

Salida / million

USD 0.15

Open model plans

Rendimiento

Velocidad de salida

540.9

tokens por segundo

Acceso

Proveedor
NVIDIA
Compatibilidad de API
POST /v1/chat/completions
Compatibilidad de Messages
POST /v1/messages
Entrada aceptada
Texto
Disponibilidad
Disponible
Retención de datos
Lee la política

Límites

Ventana de contexto
262,144 tokens
Salida máxima generada
65,536 tokens
Límite de tiempo de respuesta
740 segundos

Capacidades

Llamada de herramientas
Soportado
Modo JSON
Soportado
Streaming
Soportado
Ver especificación completa
ID del modelo
nemotron-3-5-lightning-30b
ID del modelo en la API
nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16
Tipo
Chat
Caché de prompts
Soportado
Esfuerzo de razonamiento
none

Ejemplos de código

# Set RIGHTNOW_API_KEY to your API key first.
curl -X POST \
  "https://api.rightnowai.co/v1/chat/completions" \
  -H "Authorization: Bearer $RIGHTNOW_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "nemotron-3-5-lightning-30b",
    "messages": [{"role":"user","content":"Hello"}],
    "max_tokens": 4096
  }'

Confianza y procedencia

RightNow es el laboratorio de investigación que permite al mercado exprimir más de sus GPUs.