A Together szolgáltatásában is elérhető a Muse Spark Open

Válasz kérése az API-n keresztül

A Together bejelentése egy Python-példán mutatja be, hogyan küldhető felhasználói kérés a modellnek az API-n, vagyis programból hívható felületen keresztül. A példa kódátszervezést kér, majd kiírja a visszakapott üzenetet. Válasz lekérését mutatja be, nem a javasolt kód végrehajtását. A modell kipróbálására böngészős felület is rendelkezésre áll.

Letölthető modellsúlyok is

A Meta kiadási közleménye a modellsúlyokat is letölthetővé teszi: a fejlesztők nem kizárólag szolgáltatón keresztül férhetnek hozzá. A Meta több támogatott futtatómotort sorol fel, vagyis olyan szoftvert, amely a modellt működteti; köztük van a vLLM és az SGLang. A közlemény PyTorch-alapú további testreszabást is ismertet.

Helyi használatra a Meta két M5 Ultra Mac Studio gépet ír le, MLX-alapú futtatással. Beszámolója szerint az eszközön futó bemutatókban a Muse Code hibajavításokat és funkciómódosításokat végzett az Ice Cubes iOS-alkalmazáson, majd a buildet is elkészítette. Ezek a Meta által közölt bemutatók, nem itt végzett független tesztek.

A helyi futtatás feltételei

A modellkártya szöveget, képet, videót és hangot sorol fel bemenetként, kimenetként viszont szöveget. Saját rendszeren történő GPU-s futtatáshoz az NVFP4 változatnál legalább 700 GB videomemóriát, a BF16 változatnál 2 TB-ot ad meg; emellett támogatott modellfuttató keretrendszerre is szükség van.

A Meta figyelmeztet arra, hogy a modell továbbra is adhat pontatlan válaszokat, és hibázhat a több lépésből álló következtetésben. Valós műveleteket végző ügynököknél további védelmet ajánl, például emberi megerősítést a visszafordíthatatlan lépések előtt. Ez telepítési ajánlás, nem a helyes eredmény garanciája.