Kimi K3.1 Pro: alacsonyabb tokenár, hasonló mért feladatköltség

Az Artificial Analysis október 23-i értékelése feladatonként körülbelül 1,98 dollárt közöl a K3.1 Pro esetében: ez nagyjából a K3 költsége, miközben a tokenárak 33%-kal csökkentek. Az Intelligence Index egy feladatára 55 000 kimeneti token jutott a K3 48 000 tokenjével szemben; ez 14%-os növekedés. Ezek az értékek az értékelés munkaterhelését írják le, nem garantált ügyfélszámlát.

A használatot becslő fejlesztőknek a Kimi kínai nyelvű számlázási dokumentációja karakterek sorozataként határozza meg a tokent; egy MTok egymillió tokent jelent. Az elküldött bemenetért és a generált kimenetért egyaránt használati díj jár. A K3 modelleknél az újrahasználható bemenet gyorsítótárba írását külön számolják el, az ötperces vagy egyórás megőrzési idő szerint. Egy későbbi gyorsítótár-találat után nem számítanak fel újabb írási díjat.

A gyorsítótár útmutatója a változatlan utasításokat és referenciaanyagot a változó kérdések elé javasolja helyezni. Az újrahasználat a kérés elejét illeszti: egy változás után az azt követő rész már nem használható újra.

A Chat Completions elszámolásánál ugyanez az útmutató a usage.prompt_tokens mezőt nevezi meg teljes bemenetként; a prompt_tokens_details objektumon belüli cached_tokens és cache_write_tokens választja szét a gyorsítótár olvasását és írását. Folyamatos válaszküldésnél stream_options.include_usage=true szükséges ahhoz, hogy az utolsó válaszrészben teljes használati részletek jelenjenek meg.

A THE DECODER beszámolója szintén foglalkozik a kiadás árazásával és a feladatköltségek összevetésével.