A Meta kiadta a nagy multimodális Muse Spark Open modell súlyait

Mit adott ki a Meta?

A Meta bejelentése szerint a Muse Spark Open hosztolt API-kon és letölthető súlyokkal elérhető. A vállalat programozási és ügynöki feladatokra szánja; az utóbbi több következtetési lépésből álló munka. Ez szolgáltatói közlés, nem független teszt.

A modell és a gyakorlati korlát

A modellkártya 816 milliárd teljes, de tokenenként 42 milliárd aktív paramétert sorol fel. Ez szakértőkeverékes felépítés: a rendszer a modell egy részén vezeti át a feladatot. A dokumentum egymillió tokenes kontextust, szöveg-, kép-, videó- és hangbemenetet, valamint szöveges kimenetet ír le. Saját infrastruktúrán az NVFP4 változathoz legalább 700 GB, a BF16-hoz 2 TB VRAM-ot jelez, és a tervezett felhasználáshoz illő védelmi elemeket javasol.

Először hardvervásárlás nélkül is vizsgálható

A Meta fejlesztői útmutatója szerver nélküli és dedikált végpontokat sorol fel, hogy a csapatok hardverbeszerzés előtt értékelhessék a modellt. Külön kezeli a Meta BF16 és NVFP4 ellenőrzőpontjait, valamint a hardver- és eszközpartnerek formátumait. Egy kezdeti összevetéshez azt javasoljuk, jegyezd fel a használt modellváltozatot és hosztolási lehetőséget; ez szerkesztői javaslat, nem beszámoló egy elvégzett tesztről.

A benchmarkhoz a mérési beállítás is hozzátartozik

A külön értékelési módszertan szerint a Meta igyekezett megtartani a benchmarkok feladatait, bemeneteit, pontozását és elsődleges mérőszámait, és akkor használt hivatalos forrást, amikor az minden összevetett modell eredményét tartalmazta. Azt is jelzi, hogy a más szolgáltatók modelljeinél alkalmazott közös beállítások nem feltétlenül mutatják azok legjobb, szolgáltatóra optimalizált teljesítményét. Összehasonlításkor ezért a benchmarkot, a tesztkörnyezetet, a modellbeállításokat és az eredmény forrását együtt érdemes rögzíteni.