A Meta kiadta a Muse Spark Opent: 816 milliárd paraméteres multimodális modellt kódoló agentekhez
A súlyok letölthetők, a modell szöveget, képet, videót és hangot kezel, de a helyi futtatás rendkívüli hardvert kíván.
Ebben a cikkben
A Meta kiadta a Muse Spark Open letölthető multimodális modellt, amelyet kódolásra, eszközhasználatra és hosszan futó agent-munkafolyamatokra szán. A szakértőkeverékes rendszer összesen 816 milliárd paramétert tartalmaz, de tokenenként körülbelül 42 milliárdot aktivál. Szöveget, képet, videót és hangot fogad, szöveget állít elő, kontextusablaka pedig akár egymillió tokenes lehet.
A nyílt súly nem jelent kis helyi modellt
A nyílt súlyú kiadás lehetővé teszi a betanított paraméterek letöltését és módosítását, de nem feltétlenül tárja fel a tanítóadatokat, és nem jelent korlátlan felhasználást. A hivatalos modellkártya hagyományos nyílt forrású licenc helyett Muse Model License feltételeket nevez meg. A kereskedelmi használat előtt ezeket külön ellenőrizni kell.
A Muse Spark Open szakértőkeverékes felépítésében egy útválasztó tokenenként 256 szakértőből nyolcat választ ki. Ez csökkenti az aktív számítást ahhoz képest, mintha minden paraméter egyszerre dolgozna, de a teljes súlykészletet továbbra is tárolni kell. A Meta BF16 és tömörített NVFP4 ellenőrzőpontot kínál. A méret miatt a „helyben futtatható” kifejezés komoly pontosítást igényel.
A Meta telepítési útmutatója szerint az NVFP4 változat két, egyenként 512 GB egyesített memóriás M5 Ultra Mac Studión, vagy négy 256 GB-os gépen futtatható Thunderbolt 5 és RDMA kapcsolattal. Több szerveres keretrendszer is támogatja, köztük az SGLang, a vLLM, a TensorRT-LLM, a Transformers és a llama.cpp, több gyártó hardverén. A legtöbb egyéni fejlesztőnek így is egy külső szolgáltató lehet reálisabb, mint egy egy terabájt memóriás asztali klaszter.
Mire tervezték?
A Meta kódtárak olvasására, kód írására és hibakeresésére, eszközök meghívására, valamint hosszú feladatok közbeni hibajavításra pozicionálja a modellt. A vizuális érzékelő egység képernyőképek, dokumentumok, videók és hanganyagok értelmezését is lehetővé teszi, miközben a kimenet szöveg marad. Egy külön kommentár-csatorna az eszközhívások előtt közölheti a tervezett lépéseket, amit az agentet vezérlő rendszer láthatóvá tehet.
A kiadás az augusztusban bemutatott, zárt Muse Sparkból származik. A Meta szerint külön biztonsági utótanítást kapott az önálló használathoz, a modellkártya mégis szélesebb, az adott alkalmazáshoz illesztett védelmi rendszerbe ágyazást javasol. Ez lényeges: a letölthető súlyoknál nincs szolgáltatói futásidejű kontroll, ezért az üzemeltető szervezet felelőssége nagyobb a jogosultságok, a megfigyelés és a tartalmi szabályok terén.
A benchmark nem teljes beszerzési döntés
A Guardian indulásról szóló híre szerint a Meta azt állítja, hogy a modell eléri vagy meghaladja vezető kínai nyílt súlyú alternatívák szintjét. A Meta értékelési módszertana hivatalos ranglistákat és külső értékeléseket, belső futtatásokat és egyes versenytársak saját közlésű pontszámait egyaránt használja. A forrást és a beállításokat ezért tesztenként kell ellenőrizni. Nem bizonyítják egy konkrét kódtáron a költséget, a késleltetést vagy a megbízhatóságot.
A valódi újdonság ezért a hozzáférés: egy fejlett, amerikai fejlesztésű, letölthető súlyú modell vált elérhetővé széles bemeneti modalitásokkal és dokumentált futtatási lehetőségekkel. A nyitottság segíti a vizsgálatot és a testreszabást, de az egyedi licenc, az óriási memóriaigény és az alkalmazásszintű védelmek szükségessége alapvető korlát. Érdemi teszthez saját feladatokat kell megismételni, rögzíteni az eszközhibákat és a teljes futtatási költséget összevetni, nem csak egy címszámot követni.
Források(1)
A történet további feldolgozásai(2)
- Megjelent a két Macen futó Muse Spark OpenTechCrunch Artificial Intelligence
- A Meta a Muse Spark Opennel tér vissza a nyílt súlyokhoz, feltételes licenccelThe Decoder
