A Jev két hét alatt elérte a Vercel AI Gateway fizető munkaterületeinek 35 százalékát
A Vercel rekordgyors kezdeti elterjedésről számolt be a TypeSafe AI döntési modelljénél. A Jev sok csapathoz eljutott, a gateway költéséből azonban kis részt képviselt.
Ebben a cikkben
Elérés és bevétel külön mérlegen
A TypeSafe AI Jev modellje az első 14 gateway-napon a fizető csapatok 35,3 százalékát érte el: ez a Vercel rekordja. Ugyanekkor a listaárakon becsült költés 0,27 százalékát adta; az első heti használók 55,6 százaléka visszatért a második héten. Az elérés, a költés és a visszatérés eltérő mutató. Októberi index
Közvetlenül feldolgozható döntések
A Jev párhuzamosan értékeli az előre megadott kérdéseket, majd előre megadott formátumú választásokat, pontszámokat vagy igen–nem válaszok valószínűségét ad vissza. A Vercel az AI SDK kísérleti kiértékelési felületén teszi elérhetővé. Dokumentált felhasználás a kérések irányítása, egy ügynök következő eszközének kiválasztása és egy kimenet ellenőrzése a folyamat folytatása előtt. Így a programnak nem folyószövegből kell kihámoznia a döntést; a választ közvetlenül felhasználhatja saját vezérlési logikájában. Gateway-integráció
A TechCrunch szerint a Vercel káros parancsokat osztályoz vele. Cikk
A gyorsulásnak mérési feltételei vannak
A TypeSafe legfeljebb 193,6-szoros gyorsulást és 444,6-szoros költségelőnyt hirdet, saját munkafolyamat-tesztjei alapján. Ezekben más modellek átlagolt becslése szolgál referencia-valószínűségként, nem ellenőrzött helyes osztályozás. A cég elismeri, hogy saját képességfejlesztő csapata által készített feladatok torzíthatnak. Az előnyöket a várható valós eredmények felső tartományába sorolja, ezért egy adott ügyfélfolyamatnál sem a gyorsulás, sem a megtakarítás nem tekinthető előre garantáltnak. A TypeSafe elemzése
A bevezetésnél ezért saját, címkézett eseteken érdemes ellenőrizni a döntéseket. A TypeSafe dokumentációja szerint a konfidencia a válasz valószínűségi eloszlásából számított mutató. Kockázathoz igazított küszöböket javasol, a bizonytalan eseteknél emberi felülvizsgálattal vagy másik rendszerrel. A szabályos kimenet mellett tehát továbbra is szükség van a hibás döntéseket kezelő folyamatra, és a megfelelő küszöbértékeket az adott felhasználás adatain kell meghatározni. Konfidencia-dokumentáció
A Vercel csapat alatt fiókhoz tartozó munkaterületet ért: azt egy ember vagy csoport is használhatja, egy vállalatnak pedig több is lehet. A gateway számai ezért egy konkrét értékesítési és elérési csatornát jellemeznek. A rekord ottani keresletet jelez; ebből nem számolható vállalatszám vagy az egész AI-piacra vonatkozó részesedés. Mérési fogalmak