حسّن واستضف أي نموذج ذكاء اصطناعي بأقصى سرعة
استدلال النماذج المفتوحة، محسّن حتى مستوى GPU kernel.
─ inference ─────
║█║ ║█║ ║█║ ║█║ ║█║ ╔═╧═╧═╧═╧═╧═╧═╧═╧═╗║█║═╣▓▓▓▓RIGHTNOW▓▓▓▓▓╠═║█║ ┌─ GLM 5.3 answer ──┐║█║═╣▓╔═════════════╗▓╠═║█║ │ ▄▄▄▄ ▄▄ ▄▄▄▄▄ ▄▄▄ │║█║═╣▓║ ▄ ▄ ▄ ▄ ▄ ▄ ║▓╠═║█║ │ ▄▄▄ ▄▄▄▄▄▄ ▄▄ ▄▄▄ │║█║═╣▓║ ▄ ▄ ▄ ▄ ▄ ▄ ║▓╠═║█║══│ ▄▄▄▄▄ ▄▄▄ ▄▄▄▄ │║█║═╣▓║ ▄ ▄ ▄ ▄ ▄ ▄ ║▓╠═║█║══│ ▄▄ ▄▄▄▄ ▄▄▄ ▄▄▄▄▄ │║█║═╣▓║ ▄ ▄ ▄ ▄ ▄ ▄ ║▓╠═║█║══│ ▄▄▄▄ ▄▄▄▄▄ ▄▄ │║█║═╣▓║ ▄ ▄ ▄ ▄ ▄ ▄ ║▓╠═║█║ │ ▄▄▄ ▄▄ █ │║█║═╣▓╚═════════════╝▓╠═║█║ └───────────────────┘║█║═╣▓▓▓▓▓▓▓▓▓▓▓▓▓▓▓▓▓╠═║█║ ╚═╤═╤═╤═╤═╤═╤═╤═╤═╝ ║█║ ║█║ ║█║ ║█║ ║█║ GPU kernels
أي نموذج من Hugging Face
محسّن ومنشور ومضبوط حتى مستوى kernel
حدّد النموذج. نستضيفه على نقطة نهاية مخصصة لمساحة عملك، ثم نضبط GPU kernels الخاصة به.
نموذجك
أي نموذج على Hugging Face، باسم مستودعه.
your endpoint ▲ ship ┌─ ────────── ─┐ │ tune measure │ │ │ ▌▌▌ ▌▌▌▌▌ ▄▀▄▀▄▀▄▀▄▀▄▀ │ ─ ├─┘ ▶ ▌▌▌ ▌▌▌▌▌ ▀▄▀▄▀▄▀▄▀▄▀▄ │ │ ▌▌▌ ▌▌▌▌▌ ▄▀▄▀▄▀▄▀▄▀▄▀ │ │ │ │ ▌▌▌▌▌ ▌▌▌ ▄▀▄▀▄▀▄▀▄▀▄▀ │ ─ ├─┐ ▶ ▌▌▌▌▌ ▌▌▌ ▀▄▀▄▀▄▀▄▀▄▀▄ │ │ │ ▌▌▌▌▌ ▌▌▌ ▄▀▄▀▄▀▄▀▄▀▄▀ └───────────────────────────┘ │ ▼ reverted
ضبط kernels
كل تغيير في kernel يُعتمد فقط إذا كان أسرع.
┌─── serves you only ────────────────────┐ │ │ │ │ your own capacity │ │ │ │ │ │ │ │ │ ▄▄▄ │ │ │ ▄██████▄ ▄████▄ │ │ │ ▄██████████████████▄ │ │ │ ▄██████████████████████▄ │ │ │ ▄██████████████████████████▄ │ │ │ ▄▄▄▄███████████████████████████████▄ │ │ └──────┬───────┬───────┬───────┬────── │ │ your traffic over a day │ │└────────────────────────────────────────┘
نقطة النهاية الخاصة بك
منشورة ومستضافة لمساحة عملك وحدها.
مكدس تقديم النماذج
خمس طبقات تُضبط معا
يعمل كل نموذج مفتوح بإعدادات لفك الترميز والدقة العددية والمحرك اختيرت لهذا النموذج وعتاده.
─ ── ── ── ── ─ ─ ── ── ── ── ── ── ── ── ── ── ── ── ─
─ ── ── ── ── ─ ─ ── ── ── ── ── ── ── ── ── ── ── ── ─
─ ── ── ── ── ─ ─ ── ── ── ── ── ── ── ── ── ── ── ── ─
▓░░░▓ ▓░░░▓░░░▓░░░▓░░░▓░░░▓░░░▓░░░▓░░░▓░░░▓░░░▓░░░▓░░░▓
░░░▓░ ░░░▓░░░▓░░░▓░░░▓░░░▓░░░▓░░░▓░░░▓░░░▓░░░▓░░░▓░░░▓░
░░▓░░ ░░▓░░░▓░░░▓░░░▓░░░▓░░░▓░░░▓░░░▓░░░▓░░░▓░░░▓░░░▓░░
○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○
○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○
○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○
▌▌▌▌▌ ▌▌▌ ▌▌▌▌▌▌▌ ▌▌▌▌ ▌▌ ▌▌▌ ▌▌▌▌▌ ▌▌▌▌ ▌▌▌▌▌▌▌ ▌▌▌ ▌▌
▌▌▌▌▌ ▌▌▌ ▌▌▌▌▌▌▌ ▌▌▌▌ ▌▌ ▌▌▌ ▌▌▌▌▌ ▌▌▌▌ ▌▌▌▌▌▌▌ ▌▌▌ ▌▌
▌▌▌▌▌ ▌▌▌ ▌▌▌▌▌▌▌ ▌▌▌▌ ▌▌ ▌▌▌ ▌▌▌▌▌ ▌▌▌▌ ▌▌▌▌▌▌▌ ▌▌▌ ▌▌
▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄ ▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄
▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀ ▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀
▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄ ▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄
▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄ ▄▄▄▄▄▄▄▄▄
█████████████████████████████████████████████ █████████
▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀ ▀▀▀▀▀▀▀▀▀
▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄ ▄▄▄▄▄▄▄▄
████████████████████████████████████████████ ████████
▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀ ▀▀▀▀▀▀▀▀
checkpoint
precision
● ● ● ● ● ● ● candidates
● ● ● ● ●
● ● ● ● ● ● sampling
batching ↓
prompt cache ↓
attention
matrix multiply
GPU
memory
─
─
─
─
─ ─
─
─
─
─
──────────────────────────────────────────────────┐ │ │ ┌ ─┐ ───┤ ├─┤ │ │ │ └ │ ├────── ────────────────────────────────────────┤ │ │ │ ┌ │ ──┤ ├─┤ │ │ │ └ │ ├──────────────── ──────────────────────────────┤ │ │ │ ┌ │ ───┤ ├─┤ ├ │ │ └ │ ├────────────────────────── ────────────────────┤ │ │ │ ┌ │ ───┤ ├─┤ │ │ │ └ │ ├──────────────────────────────────── ──────────┤ │ │ │ ┌ │ ──┤ ├─┤ │ │ │ └ ─┘ └──────────────────────────────────────────────
request
tune
measure
ship
tokens
WEIGHTS
DECODING
SERVING
KERNELS
HARDWARE
▶
◆
◆
◆
◆
◆
▶
─ ── ── ── ── ── ── ──
─ ── ── ── ── ── ── ──
─ ── ── ── ── ── ── ──
▓░░░▓ ▓░░░▓░░░▓░░░▓░░░▓
░░░▓░ ░░░▓░░░▓░░░▓░░░▓░
░░▓░░ ░░▓░░░▓░░░▓░░░▓░░
○ ○ ○ ○
○ ○ ○ ○ ○
○ ○ ○ ○ ○
▌▌▌▌▌ ▌▌▌ ▌▌▌▌▌ ▌▌▌▌ ▌▌
▌▌▌▌▌ ▌▌▌ ▌▌▌▌▌ ▌▌▌▌ ▌▌
▌▌▌▌▌ ▌▌▌ ▌▌▌▌▌ ▌▌▌▌ ▌▌
▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄
▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀
▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄
▄▄▄▄▄ ▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄
█████ █████████████████
▀▀▀▀▀ ▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀
▄▄▄▄ ▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄▄
████ ████████████████
▀▀▀▀ ▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀
→ →
checkpoint
precision
candidates
sampling
● ● ●
● ●
● ●
batching
prompt cache
attention
matrix multiply
GPU
memory
─
─
─
─
─
─
─
─
─
─
─
─
─┐┌─── ─ ────────┐ ││ │ ││ │ ││ │ ││ │ ││ │ ││ │ │├─── ─ ───────┤ ││ │ ││ │ ││ │ ││ │ ││ │ ││ │ │├─── ─ ────────┤ ││ │ ││ │ ││ │ ││ │ ││ │ ││ │ │├─── ─ ────────┤ ││ │ ││ │ ││ │ ││ │ ││ │ ││ │ │├─── ─ ───────┤ ││ │ ││ │ ││ │ ││ │ ││ │ ││ │ ─┘└─── ──────────────────┘
tune measure ship
request
tokens
WEIGHTS
DECODING
SERVING
KERNELS
HARDWARE
▶
◆
◆
◆
◆
◆
▶ - وحدات GPU المدعومة
- Kernels
CUDA
- Triton
- الاحتفاظ بالبيانات
- صفر افتراضيا
التخزين المؤقت للمطالبات
المطالبات ذات البداية نفسها أقل تكلفة
التخزين المؤقت تلقائي ويُطبق قدر الإمكان، دون الحاجة إلى أي ترويسة أو معامل.
DeepSeek V4.1 Flash 1017GLM 5.3GLM 5.3 Flash
Qwen3.8 27B
Ornith 1.5 35BDeepSeek V4.1 Flash
لكل مليون رمز
98.8% معدل إصابة التخزين المؤقت
99.2% معدل إصابة التخزين المؤقت
98.1% معدل إصابة التخزين المؤقت
96.6% معدل إصابة التخزين المؤقت
98.3% معدل إصابة التخزين المؤقت
99.5% معدل إصابة التخزين المؤقت
السعة
دفع حسب الاستخدام، سعة محجوزة، نشر مخصص أو استدلال دُفعي
يوم واحد من حركة البيانات إلى النماذج المفتوحة: أربع طرق للتشغيل على السعة نفسها.
│ │ shared capacity │ │ │ ▄▄ │ ▄████▄ ▄██▄ │ ▄████████████▄ │ ▄██████████████▄ │ ▄██ ████▄ your bill │ ▄▄▄█████████████████████▄ └───┬─────┬─────┬─────┬─── your traffic over a day
الدفع حسب الاستخدام
الفوترة لكل رمز دون اشتراك، على سعة مشتركة.
│ │ shared capacity │ ├─ ────────── held for you │ ▄▄ │ ▄████▄ ▄██▄ │ ▄████████████▄ │ ▄██████████████▄ │ ▄█████████████████▄ │ ▄▄▄█████████████████████▄ └───┬─────┬─────┬─────┬─── your traffic over a day
السعة المحجوزة
سعة محجوزة لحركة بياناتك.
┌─── ────────┐ serves you only │ │ ││ │ │ your own capacity │ │ ││ │ ││ │ │ ▄▄│ │ │ ▄████▄ ▄██▄│ │ │ ▄████████████▄│ │ │ ▄██████████████▄│ │ │ ▄█████████████████▄│ │ │ ▄▄▄█████████████████████▄│ │ └───┬─────┬─────┬─────┬───│ │ your traffic over a day └────────────────────────────┘
النشر المخصص
نشر يخدم شركتك وحدها.
│ │ idle capacity │ │ your batch job │ ▄▄▄▄▄▄▄ ▄▄▄▄▄▄▄▄▄▄▄▄ ▄▄ │ ██████ ███ ██████ ▄████▄ ▄██▄ │ █████ ████ ▄████████████▄ │ ████ ███ ▄██████████████▄ │ ███ █ ▄█████████████████▄ │ █ ▄▄▄█████████████████████▄ └───┬─────┬─────┬─────┬─── your traffic over a day
الاستدلال الدُفعي
مهمة كبيرة على السعة الخاملة، بتكلفة أقل.
البدء السريع
غيّر ثلاث قيم واحتفظ بكودك
تقبل واجهة API طلبات Chat Completions وطلبات Messages.

# Set RIGHTNOW_API_KEY to your API key first.curl -X POST \ "https:// api.rightnowai.co/ v1/ chat/completions" \ -H "Authorization: Bearer $RIGHTNOW_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "deepseek-v4-1-flash-1017", "messages": [{"role":"user", "content":"Hello"}], "max_tokens": 16384 }'=nmlkjihgfedcba/\|)(}{][><^~-==*#%?.=nmlkjihgfedcba/\|)(}{][><^~
.?%#*==-~^<>[]{}()|\/abcdefghijklmn=.?%#*==-~^<>[]{}()|\/abcdefg
.=B$$$&@%#*==~^<>[]{}()|\/ABCDEFGHI=.=B$$$&@%#*==~^<>[]{}()|\/AB
.<C***@%#==~^<>[]{}()|\/1234567890$=.<C***@%#==~^<>[]{}()|\/1234
I%###@%*==~^<>[]{}()|\/!@#$%^&*()_==I%###@%*==~^<>[]{}()|\/!@#$%
I8***%#*=~^<>[]{}()|\/qwertyuiopas=I8***%#*=~^<>[]{}()|\/qwertyu
I&@@@#*=~^<>[]{}()|\/zxcvbnmlkjhgf=I&@@@#*=~^<>[]{}()|\/zxcvbnml
I%$$$*==^<>[]{}()|\/QWERTYUIOPASDF=I%$$$*==^<>[]{}()|\/QWERTYUIO
I8&&&=~^<>[]{}()|\/ZXCVBNMLKJHGFD=I8&&&=~^<>[]{}()|\/ZXCVBNMLKJH
I%###=^<>[]{}()|\/!@#$%^&*()_=-=[]=I%###=^<>[]{}()|\/!@#$%^&*()_
I8***^<>[]{}()|\/`~1234567890-=[];=I8***^<>[]{}()|\/`~1234567890
I&@@@<>[]{}()|\/'".,<>?/abcdefghij=I&@@@<>[]{}()|\/'".,<>?/abcde
.<%$$[]{}()|\/ABCDEFGHIJKLMNOPQRST=.<%$$[]{}()|\/ABCDEFGHIJKLMNO
.=B**{}()|\/1234567890!@#$%^&*()_=.=B**{}()|\/1234567890!@#$%^&*
.?%##()|\/qwertyuiopasdfghjklzxcv=.?%##()|\/qwertyuiopasdfghjklz
=vcxzlkjhgfdsapoiuytrewq/\|)(##%?.=vcxzlkjhgfdsapoiuytrewq/\|)(#
=nmlkjihgfedcba/\|)(}{][><^~-==*#%?.=nmlkjihgfedcba/\|)(}{][><^~
.?%#*==-~^<>[]{}()|\/abcdefghijklmn=.?%#*==-~^<>[]{}()|\/abcdefg
.=B$$$&@%#*==~^<>[]{}()|\/ABCDEFGHI=.=B$$$&@%#*==~^<>[]{}()|\/AB
.<C***@%#==~^<>[]{}()|\/1234567890$=.<C***@%#==~^<>[]{}()|\/1234
I%###@%*==~^<>[]{}()|\/!@#$%^&*()_==I%###@%*==~^<>[]{}()|\/!@#$%
I8***%#*=~^<>[]{}()|\/qwertyuiopas=I8***%#*=~^<>[]{}()|\/qwertyu
I&@@@#*=~^<>[]{}()|\/zxcvbnmlkjhgf=I&@@@#*=~^<>[]{}()|\/zxcvbnml
I%$$$*==^<>[]{}()|\/QWERTYUIOPASDF=I%$$$*==^<>[]{}()|\/QWERTYUIO
I8&&&=~^<>[]{}()|\/ZXCVBNMLKJHGFD=I8&&&=~^<>[]{}()|\/ZXCVBNMLKJH
I%###=^<>[]{}()|\/!@#$%^&*()_=-=[]=I%###=^<>[]{}()|\/!@#$%^&*()_
I8***^<>[]{}()|\/`~1234567890-=[];=I8***^<>[]{}()|\/`~1234567890
I&@@@<>[]{}()|\/'".,<>?/abcdefghij=I&@@@<>[]{}()|\/'".,<>?/abcde
.<%$$[]{}()|\/ABCDEFGHIJKLMNOPQRST=.<%$$[]{}()|\/ABCDEFGHIJKLMNO