Ellenőrizd a DeepSeek API gyorsítótár-használatát

Használd újra a dokumentum elejét

A gyorsítótár leírása a már eltárolt bemeneti előtagok automatikus újrafelhasználását ismerteti. Javasolt gyakorlat egy működő API-folyamathoz: ugyanazt a kitalált projektjegyzetet küldd el három különböző kérdéssel, külön kérésekben. A közös kezdőrészt hagyd változatlanul. A dokumentált minta először létrehozza ezt a közös előtagot, amelyet egy későbbi kérés újra felhasználhat. A találat nem garantált. Ez gyakorlati feladat, nem saját mérési eredmény; a válasz továbbra is újonnan készül, nem egy korábbi, eltárolt válasz visszakeresése történik.

Vizsgáld meg az egyes válaszokat

A chat API leírása alapján vizsgáld meg a nem streamelt választ. A kérés modellt és beszélgetési üzeneteket tartalmaz; a válaszban használati statisztikák szerepelnek. Minden kérésnél rögzítsd a prompt_cache_hit_tokens és a prompt_cache_miss_tokens értékét. Az első az újrafelhasznált bemeneti tokeneket számolja, a második azokat, amelyeknél nem volt találat a gyorsítótárban. Összegük a prompt_tokens értéke. A completion_tokens értékét kezeld külön: ez a létrehozott kimenet tokenjeit számolja. A gyakorlatban ezeket a számlálókat hasonlítsd össze a kérések között; a válasz megfogalmazását ne tekintsd a gyorsítótár-találat bizonyítékának.

Értelmezd a költséget

A kiválasztott modellhez és az adott csúcsidős vagy azon kívüli időszakhoz nézd meg az aktuális ártáblázatot. A gyorsítótárból származó bemenet, a többi bemenet és a kimenet külön díjat kap, egymillió tokenre vetítve. Mindegyik díjat a hozzá tartozó tokenszámra alkalmazd; egy eltárolt előtag nem teszi ingyenessé a teljes kérést. Az árak változhatnak.