Run Agenten op verwalteten Grenzmodeller haut - oder lount GPU Kapazitéit, setzt Är eege Gewiichter of, a router Digio Aufgaben op privat Endpunkter am selwechte Aarbechtsberäich.
Gitt e Standardmodell pro Agent oder Iwwerschreiden pro Aufgab. D'Benotzung gëtt an Digio Tokens vun Ärem Plangbalance gemooss - deeselwechte Portemonnaie egal ob den Agent Sonnet, GPT-4o oder Gemini Flash nennt.
Model list and token economics evolve with provider releases. Your workspace shows live options when you assign a model to an agent; Digio Tokens debit from the same balance as in pricing.
De Koordinator kann Sonnet vs Opus vs e méi bëllege Flashmodell empfehlen baséiert op Tasktyp. Power Benotzer setzen Defaults pro Agent Roll - Fuerschung op Sonnet, Finale Bewäertung op Opus, Bulk Tagging op Haiku oder Gemini Flash.
Per agent — default model in agent settings; override in To do or chat when needed.
Metered fairly — input, output, and cached tokens map to Digio Token charges (see usage in your wallet).
Skills stay the same — tools and integrations work across models; only latency and cost profile change.
Plan limits — more agents and monthly Digio Tokens on higher tiers; top up anytime on the pricing page.
Braucht Dir e Feinstemmung, e Loft-Gapped Checkpoint oder prévisibel Inferenzpräisser? Füügt eng dedizéierten GPU Kapazitéit op Ärem Digio Aarbechtsberäich, installéiert den Déngschtstack deen Dir léiwer, a punktéiert Agenten op Ärem privaten Endpunkt.
Stonn oder monatlecht GPU Wirbelen (A100, H100, L40S Klass) verbonne mat Ärem Locataire-isoléiert vun anere Clienten.
Eroplueden Safetensoren, GGUF, oder zitt aus Ärem Registry; lafen Llama, Mistral, Qwen, a Benotzerdefinéiert Fine-tunes.
vLLM, TGI, Ollama oder Container Biller déi Dir ënnerhält - Digio Agenten nennen eng OpenAI-kompatibel Basis URL.
Ze maachen, Teamchat, Fäegkeeten an Zesummenaarbecht onverännert - nëmmen d'Inferenz Backend ass Ären.
Schéckt sensibel Schrëtt op privat GPU a benotzt Claude oder GPT fir ëffentlech Fuerschung an engem Workflow.
VPC Peering, statesch Egress, Audit Logbicher, a Modellerlaabneslëschte fir reglementéiert Teams.
Typesch Setup vun Null bis Agenten déi Ären Endpunkt uruffen:
Wielt VRAM, Regioun, an Uptime (burst vs ëmmer-on). Stockage fir Gewiichter Schëffer mat der Instanz oder mounts Är Eemer.
Start engem Déngscht Bild oder SSH an, installéiert CUDA Chauffeuren, a lued Checkpoints. Gesondheetskontrolle bestätegen datt de Modell prett ass.
Füügt Basis URL, API Schlëssel a Modell ID an Aarbechtsberäich Astellunge. Digio validéiert Latenz an Tokenformat ier Dir live geet.
Wielt Äre private Modell als Standard fir ausgewielten Agenten; geréiert Claude / GPT Modeller bleiwen Säit vun Säit sinn.
GPU Locatioun gëtt separat vun Digio Plan Abonnementer fakturéiert. Kontaktéiert eis fir Kapazitéitsplanung, SLAs a Migratioun vun engem existente Inferenzcluster.
Wiel vun verwalteten APIen vs selbst gehost Inferenz op Digio.
Ären Digio Abonnement deckt Infrastruktur, Agenten, an abegraff Digio Tokens. Verwalte Modellverbrauch debitt dat Tokenbalance duerch tatsächlech Input / Output Tokens. GPU Locatioun ass en Add-on fir d'Maschinnen déi Dir kontrolléiert.
Jo - all Agent kann säin eegene Standard hunn. Aufgaben an Chats kënne fir eng eenzeg Run iwwerschreiden ouni de globale Standard z'änneren.
Opus ass fir méi haart Begrënnung a méi kohärent Pläng ofgestëmmt; Sonnet ass méi séier a méi bëlleg fir alldeeglech Agent Loops. Haiku a Flash-Klass Modeller sinn am beschten fir Volumen Ënnertasks.
Enterprise Aarbechtsberäicher kënnen outbound Modell Ubidder beschränken an all Agent Traffic op Äre GPU Endpunkt route. Hybrid Modus ass de Standard fir déi meescht Teams.
Offeren hänke vun der Regioun an der Nofro of - allgemeng 24–80 GB VRAM-Tier fir 7B–70B Klassemodeller a Multi-GPU Noden fir méi grouss Stack. Mir hëllefen Gréisst VRAM vun Ärer Parameter zielen an quantization.
Orchestratioun (Agenten, Aufgaben, Lagerung) bleift op Ärem Plang. Inferenz op Är GPU gëtt als GPU Zäit berechent; Dir kënnt optional Token-förmlech Notzung fir intern Chargeback meten.
Agenten, Aufgaben a Fäegkeeten - den Aarbechtsberäich ronderëm de Modell deen Dir gewielt hutt.
Start op Claude a GPT haut, füügt dann engagéierten GPU derbäi wann Dir prett sidd fir personaliséiert Gewiichter ze hosten - déiselwecht Agenten, déiselwecht Aufgaben, Är Inferenz.
