Usmerjanje med ponudniki in samodejni preklopi

Vsi uporabniki1 min branja
🎯
Pametna izbiraOceni vse razpoložljive ponudnike za posamezni model in izbere najboljšega glede na trenutno zakasnitev, ceno in stanje.
🔄
Samodejni ponovni poskusiPregleden preklop na drugega ponudnika, kadar primarni vrne napako. V vaši kodi ni potrebna nobena logika za ponovne poskuse.
⚙️
Prilagojene nastavitveUsmerjanje razveljavite in daste prednost najcenejšemu, najhitrejšemu ali določenemu ponudniku. Natančno uravnajte razmerje med ceno in hitrostjo.

Učinek v praksi

Predstavljajte si produkcijskega klepetalnika, ki streže tisočem uporabnikov. Če neposredno kličete API Anthropic in ima Anthropic 30-minutni izpad, vaš klepetalnik 30 minut ne deluje. Z OpenRouterjem se ista zahteva samodejno usmeri k drugemu ponudniku, ki gosti primerljiv model, in vaši uporabniki motnje sploh ne opazijo.
Usmerjanje med ponudniki in samodejni preklopi | OpenRouter | NativeAI Hub