Modul leírás

Model Router

Ez dönti el, hogy egy feladat AI nélkül, helyi modellel, Qwen/Llama jellegű lokális modellel vagy külső professzionális modellel fusson. A stratégia local-first: a tömegmunkát helyben próbáljuk megoldani. Külső API csak akkor kell, ha a feladat minősége vagy komplexitása indokolja.

Cost control

Model router and cost monitor

Route tasks between local fallback, OpenAI-compatible providers, coding, vision, batch, and commerce analysis policies.

Helyi modell először, fizetős csak indokolt esetben

A Router szabály, képesség, költség és korábbi eredmény alapján választ végrehajtási útvonalat.

A determinisztikus feladatok AI nélkül futnak, a tömegmunka a helyi modellekhez kerül. Külső modell csak a minőségi és budget kapuk teljesülése után használható, minden döntés visszakereshető és értékelhető.

0

active policies

0

executions

0

tokens

0

estimated EUR

0

route döntés

Útvonalteszt

Még nincs kiválasztott útvonal

A policy-k betöltése után futtass egy útvonaltesztet.

Gyors policy létrehozás

Routing policy-k

Még nincs betöltött policy.

Költségfigyelő

Estimated cost€0.00
Usage records0
Failed executions0

Döntési minőség

A visszajelzésekből látszik, mely útvonalak működnek tartósan jól, és hol kellett erősebb modellre emelni.

Átlagos minőség-
Fallback arány0%
Sikeres visszajelzés0
Eszkaláció0

Legutóbbi route trace

Még nincs Router döntési adat.