Az Apple több Macre osztja az MLX következtetését

A mért konfiguráció

Az Apple kísérlete minden modellréteget szétoszt a gépek között, ahelyett, hogy az egymást követő rétegeket külön számítógépekhez rendelné. A mérés 8192 tokenes kontextust, NVFP4 pontosságot, 128 generált tokent és egyes kötegméretet használ. A parancs kifejezetten bekapcsolja a kísérleti gyors CPU–GPU-szinkronizációt az MLX_METAL_FAST_SYNCH=1 beállítással. Ez az Apple mérési konfigurációja; a CurioFuse nem tesztelte függetlenül.

Figyelmeztetés és kapcsolati feltételek

A kapcsolati útmutató a gyors szinkronizáció kikapcsolva hagyását ajánlja: alapból inaktív, és holtpontot okozhat, amelyben a grafikus processzor elakad. A kommunikációhoz a JACCL háttérrendszer a macOS 26.2-től elérhető, Thunderbolt 5 feletti RDMA-t használja. Az RDMA engedélyezéséhez helyi macOS Recovery-hozzáférés, majd újraindítás kell; távolról nem aktiválható. Minden géppár között közvetlen kábelkapcsolat szükséges. A konfiguráló segédprogram SSH-n vizsgálja meg ezt a hálózatot, megadja a beállító parancsokat, és előállítja az elosztott munka indításához használt géplistát.

A bemeneti szöveg memóriaigénye

A csomag dokumentációja egy másik gyakorlati beállítást is bemutat: a bemeneti szöveg feldolgozása lépésekben történik. A kisebb lépések csökkentik a csúcsmemória-igényt a bemenet olvasásakor, de ennek ára a feldolgozási sebesség csökkenése lehet. A lépésméret kapcsolója a generáló, csevegő, kiszolgáló és mérőparancsoknál is használható; ez tehát a bemenet feldolgozásának kompromisszuma, nem a teljes működésre ígért gyorsulás.