A Drex Max helyben válaszol strukturált kérdésekre

A modellkártya a chatbotválasz megírásától eltérő feladatot mutat be: a Drex Max a megadott lehetőségekhez ad valószínűségeket. Python-megvalósítása NVIDIA-hardveren szöveget és képet fogad. A dokumentált Apple silicon futtatási módok a szöveges modellrészt használják. Az affine Q4 változathoz legalább 24 GB memória kell, a Q8_0 változathoz 48 GB. Ezek a követelmények már a telepítés előtt megkülönböztetik a helyi változatokat.

A kérés leírása megmutatja, hogyan határozza meg a fejlesztő a feladatot. A state mező szövegként, objektumként vagy listaként tartalmazza a dokumentumot, a névvel ellátott kérdések pedig megadják, mit kell értékelni. Az ügyfélszolgálati példában azt kérdezik, melyik csapat kezelje az üzenetet, kért-e az ügyfél kifejezetten visszatérítést, és mennyire sürgős az ügy. Ezekre választott lehetőség, az igen válasz valószínűsége és súlyozott értékelés érkezik. A confidence mező jelentése eltér a választásnál és a skálás értékelésnél; a helyi értékelési képlet közelíti a szolgáltatott változatét.

A külön szolgáltatási útmutató szerint a Drex Max eléréséhez kifejezetten modellt kell választani: ennek elhagyásakor a Drex v2.0 válaszol. Az eredeti Max és a Max v1.1 külön, rögzített verzió. A képek saját tömbbe kerülnek, amelyet minden kérdés lát, nem a state mezőbe vagy a kérdésekbe. A szövegként megadott URL nem indít képletöltést. Ezek a szolgáltatott változat kérési szabályai, nem a helyi telepítés lépései.

A MarkTechPost november 1-jei beszámolója hivatkozik a súlyokra és a helyi futtatás dokumentációjára, és feltünteti a Nace AI szponzorációját.