Despliegues dedicados: Tu modelo, ajustado al kernel de GPU
Trae tus propios pesos o cualquier modelo de Hugging Face a un endpoint dedicado, con facturación por hora de GPU.
╔══ ═══════════════╗ your endpoint ║ ║ ▓░░░▓░░░▓░░░▓░░░▓░░░▓░░░▓░░░▓░░░ ║ ║ ░░ ░░░▓░░░▓░░░▓░░░▓░░░▓░ weights ║ ║ ▓░░░▓░░░▓░░░▓░░░▓░░░▓░░░▓░░░▓░░░ ║ ║ ───┐ a model we list ║ ║ │ ▌▌▌▌▌ ▌▌▌ ▌▌▌▌▌▌▌ ▌▌▌▌ ▌▌▌ ▌▌▌▌▌ ║ ║ ├ ▶ tokens serving ▌▌ ▌▌▌▌▌▌ ▌▌▌▌ ▌▌▌ ▌▌▌▌▌ ║ ╠═ ▶ ──────┤ your weights ▌▌▌▌▌ ▌▌▌ ▌▌▌▌▌▌▌ ▌▌▌▌ ▌▌▌ ▌▌▌▌▌ ║ ║ │ ║ ║ │ ▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀ ║ ║ ──────┘ Hugging Face kernels ▀▄ ▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄ ║ ║ ▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀ ║ ║ ║ ║ ████████████████████████████████ ║ ║ hardware ██ ████████████████████ ║ ║ ▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀▀ ║ ║ tune → measure → ship ╚══ ═══════╝
─────┐ a model we list ────────┤ your weights ────────┤ Hugging Face ▼ ╔══ ═══════════════╗ your endpoint ▓░ ░▓░░░▓░░░▓░░░▓░░░▓░░░ weights ║ ║ ░░▓░░░▓░░░▓░░░▓░░░▓░░░▓░░░▓░░░▓░ ║ ║ ║ ║ tokens serving ▌▌ ▌▌▌▌▌▌ ▌▌▌▌ ▌▌▌ ▌▌▌▌▌ ║ ╠ ▶ ▌▌▌▌▌ ▌▌▌ ▌▌▌▌▌▌▌ ▌▌▌▌ ▌▌▌ ▌▌▌▌▌ ║ ║ ║ ║ kernels ▄▀ ▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀ ║ ║ ▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄ ║ ║ ║ ║ hardware ██ ████████████████████ ║ ║ tune → measure → ship ╚══ ═══════╝
Cualquier modelo de Hugging Face
Lo ajustamos, lo desplegamos y exprimimos la GPU
El objetivo: la forma más rápida y más económica de servir tu modelo.
┌─ ────────┐ ┌─ ────────────┐ ┌─ ─────────┐ org/name tune squeeze ┌─ deploy ──────────┐ │ ├─┐ │ │ │ │ │ │ │ │ │ │ │ │ │ ▓░░░▓░░░▓░░░▓░░░▓ GPU ▌▌▌▌ ▌▌▌ ▌▌▌▌ ▌▌▌ ▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄ │ │ │ │ │ │ │ │ │ ░░▓░░░▓░░░▓░░░▓░░ │ ▌▌▌▌ ▌▌▌ ▌▌▌▌ ▌▌▌ ▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀ │ │ │ │ │ │ │ │ │ ▓░░░▓░░░▓░░░▓░░░▓ │ ▌▌▌▌ ▌▌▌ ▌▌▌▌ ▌▌▌ ▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄ │ │ │ │ ├─── │ ├─── │ ├─── ▶ ▶ ▶ tokens │ ▌▌▌▌ ▌▌▌ ▌▌▌▌ ▌▌▌ ▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀ │ ├───▶ │ │ │ │ │ │ │ ───────────── │ ▌▌▌▌ ▌▌▌ ▌▌▌▌ ▌▌▌ ▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄ │ │ │ │ │ │ │ │ │ ──────── │ ▌▌▌▌ ▌▌▌ ▌▌▌▌ ▌▌▌ ▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀ │ │ │ │ │ │ │ │ ┤ └──┴──┴──┴──┴──┴── ▌▌▌▌ ▌▌▌ ▌▌▌▌ ▌▌▌ ▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄ │ │ └─┬─────────────────┘ │ │ │ │ │ │ │ └───────────────────┘ └───────────────────┘ └───────────────────┘ └───────────────────┘
┌─ ───────────────────────────┐ org/name │ ├─┐ ▓░░░▓░░░▓░░░▓░░░▓░░░▓░░░▓░░░▓░░░▓░░░ │ │ │ ░░▓░░░▓░░░▓░░░▓░░░▓░░░▓░░░▓░░░▓░░░▓░ └─┬────────────────────────────────────┘ │ └─────────────────┬────────────────────┘ ▼ ┌─ ─────────────────────────────────┐ tune │ │ ▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀ │ │ ▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄▀▄ └───────────────────┬────────────────────┘ ▼ ┌─ deploy ───────────────────────────────┐ ▌▌▌▌▌ ▌▌▌ ▌▌▌▌▌▌▌ ▌▌▌▌ ▌▌▌ ▌▌▌▌▌▌ ▌▌▌▌ │ │ ▌▌▌▌▌ ▌▌▌ ▌▌▌▌▌▌▌ ▌▌▌▌ ▌▌▌ ▌▌▌▌▌▌ ▌▌▌▌ │ │└───────────────────┬────────────────────┘ ▼ ┌─ ──────────────────────────────┐ squeeze │ │ GPU │ │ │ │ └───────────────────┬────────────────────┘ ▼ tokens
Lo que obtienes
Un endpoint, ajustado para tu modelo
┌─── serves you only ────────────────────┐ │ │ │ │ your own capacity │ │ │ │ │ │ │ │ │ ▄▄▄ │ │ │ ▄██████▄ ▄████▄ │ │ │ ▄██████████████████▄ │ │ │ ▄██████████████████████▄ │ │ │ ▄██████████████████████████▄ │ │ │ ▄▄▄▄███████████████████████████████▄ │ │ └──────┬───────┬───────┬───────┬────── │ │ your traffic over a day │ │└────────────────────────────────────────┘
Tu endpoint
Capacidad solo para tu workspace.
your endpoint ▲ ship ┌─ ────────── ─┐ │ tune measure │ │ │ ▌▌▌ ▌▌▌▌▌ ▄▀▄▀▄▀▄▀▄▀▄▀ │ ─ ├─┘ ▶ ▌▌▌ ▌▌▌▌▌ ▀▄▀▄▀▄▀▄▀▄▀▄ │ │ ▌▌▌ ▌▌▌▌▌ ▄▀▄▀▄▀▄▀▄▀▄▀ │ │ │ │ ▌▌▌▌▌ ▌▌▌ ▄▀▄▀▄▀▄▀▄▀▄▀ │ ─ ├─┐ ▶ ▌▌▌▌▌ ▌▌▌ ▀▄▀▄▀▄▀▄▀▄▀▄ │ │ │ ▌▌▌▌▌ ▌▌▌ ▄▀▄▀▄▀▄▀▄▀▄▀ └───────────────────────────┘ │ ▼ reverted
Ajuste
Primero sirve, y luego lo ajustamos, sin tiempo de inactividad.
┌─ ──┐ your balance │ │ ░░░░░░░░░░░░░░░░░ └──────── ────────┘ ┬ │ │ now ▼ │ ┌─────┬─────┬── ──┬─────┬─────┬─────┐ ┴ │ │ │ │ │ │ │ ▓▓▓▓▓ │ │ │ │ │ │ │ ▓▓▓▓▓ │ │ │ │ │ │ │ ▓▓▓▓▓ │ │ │ │ │ │ │ ▓▓▓▓▓ │ │ │ │ │ │ │ ▓▓▓▓▓ └─────┴─────┴─────┴─────┴─────┴─────┘ GPU hours └── paid ahead ─┘
Unidad de precio
USD 9.58 por hora de GPU
Se paga de tres horas en tres horas desde tu saldo.
Solicitud
Dinos el modelo y el tráfico
Respondemos por correo electrónico. No envíes tokens, claves ni pesos en este formulario.