Szolgáltatói caching és modellárak megértése
Az adminisztrátorok az Account AI katalógusban nézik meg a modellárakat. Erre a modelladminisztrációs jogosultságok vonatkoznak. Árak szerkesztése előtt olvasd el a megosztott katalógust.
A Complexity és a backend rendező szolgáltatóspecifikus cache-beállításokat alkalmaz. Nincs alkalmazásszintű válaszcache. Egy engedélyezett következtetés továbbra is szolgáltatói kérést küld. Csak a szolgáltatói használati adat igazolja a cache-találatot. A prompt hossza vagy egy korábbi kérés nem igazolja ezt.
| Szolgáltató | Megvalósított viselkedés |
|---|---|
| Natív OpenAI | A GPT-5.6 és újabb Responses modellek implicit módot és 30m TTL-t kapnak. A régebbi modellek a szolgáltató alapértelmezéseit használják. Egy kompatibilis endpoint nem igazolja a natív képességet. |
| Anthropic | A Complexity prompt-cache middleware-t használ 5m TTL-lel. A rendező 5m töréspontot ad a stabil rendszerprefixéhez. |
| Implicit caching. Nincs explicit cache-erőforrás, feltöltés, TTL-frissítés vagy tárolási művelet. | |
| OpenRouter | Az Anthropic modellazonosítók kérésszintű 5m cache_control jelölést kapnak. Más modellek a router/szolgáltató implicit viselkedését használják. |
| Más kompatibilis endpoint | Nincsenek idegen cache-beállítások. Az elszámolás a jelentett cache-használatot továbbra is tartalmazhatja. |
Ezek alkalmazásszintű kérésszabályok, nem garantálnak szolgáltatói cache-találatot. Az eszközök sorrendje és a rendszerprefix stabil marad. Az alkalmazás nem ad hozzá kitöltést csak azért, hogy elérjen egy cache-minimumot. A kiválasztott eszközök megváltoztatása módosíthatja a prefixet.
Használat és árak
A bemeneti összegek tartalmazzák a cache-olvasási és -írási tokeneket. A kimeneti összegek tartalmazzák a reasoninget. A normál bemenet a teljes bemenetből levonja a cache-olvasást, az alap írást és az egyórás írást. A reasoning a kimenet részhalmaza, nem második díjtétel. A normalizálás az Anthropic cache-ből nem kiszolgált bemeneti tokenszámához hozzáadja a cache-kategóriákat.
A modellszerkesztő USD/millió token egységben tárolja a bemeneti, kimeneti, cache-olvasási, cache-írási és egyórás cache-írási árat. A tárolás USD/millió token/óra egységet használ. A Gemini implicit caching nem hoz létre explicit tárolási műveletet. Az üres mező ismeretlent jelent. A nulla kifejezetten ingyenes. A hiányzó használat nem nulla tokenszám.
Egy elfogadott futás megőrzi a szolgáltató/modell azonosítóját, az adapter típusát és a tartalék árakat. Minden tényleges kérés rögzíti az aktuális modellárakat, amíg a modell létezik. A katalógusból való törlés után a belépési árak elérhetők maradnak. A szolgáltatótípus módosítása nem értelmezi újra a futó adapter használatát.
Hosszú kontextus esetén a legmagasabb, szigorúan túllépett bemeneti küszöb vonatkozik a teljes kérésre, a cache-bemenetet is beleértve. A bemenet, a kimenet és a cache szorzói külön állnak. Az adminisztrátor árai és sávjai elsőbbséget élveznek. Nincs háttérben futó árszinkronizáció.
A verziózott katalógus-seedek a megtartott natív OpenAI GPT-6 Sol/Luna, Claude és Gemini 2.5 modellekhez standard szöveges cache-tarifákat tartalmaznak. Nem hoznak létre új modellt, és megőrzik a kézi árakat, a kézzel ismeretlennek jelölt árakat is. Az OpenRouter-felfedezés a közzétett input_cache_read és input_cache_write árakat tokenmillióra váltja. A nem közzétett árak ismeretlenek maradnak.
Egyedi szerződésekhez, regionális, prioritási és hangtarifákhoz adminisztrátori beállítás kell. A tárolt árpillanatkép nem szolgáltatói számla. A kifejezett Gemini-caching ebben az implementációban nem elérhető.