Vissza a felfedezéshez
HírekFejlesztés AI-val

Újrahasználható munkaleírásokat mutat be az NVIDIA

A Workload Map közös leírást ad a Kubernetes eszközeinek az elosztott AI-feladatokról.

Három indigószínű moduláris szerkezet rézrudakkal kapcsolódik egy közös áttetsző sablonhoz, világos talapzatok fölött.
CurioFuse · AI-illusztráció

Az NVIDIA bemutatója egy platformfejlesztési problémáról szól: a különböző AI-keretrendszerek eltérően írják le számítási feladataikat. A Workload Map újrahasználható definíciókban rögzíti a komponenscsoportokat, a podok sablonjait, a példányszámokat és az állapotot. A pod a Kubernetes által futtatott egység. A leírást vizsgálóeszközök, a KAI Scheduler és a Run:ai is használhatja. A térkép csoportosítási információt ad; az ütemezésről a KAI dönt, és saját natív bővítményei elsőbbséget élveznek ezzel a tartalék megoldással szemben.

A projekt dokumentációja elmagyarázza, hogy a definíciók jq-kifejezésekkel találják meg a mezőket: ezek strukturált objektumokon belül választanak ki adatokat. Egy Go-könyvtár ezek alapján olvassa ki az információkat, vagy módosítja a podok specifikációit, címkéit és annotációit. A parancssori eszköz macOS és Linux alatt Homebrew-val, illetve az adott platformhoz kiadott archívumból telepíthető: ellenőrizd a mellékelt ellenőrzőösszegeket, majd tedd a futtatható állományt a PATH-ra. A projekt kifejezetten nem támogatja a CLI telepítését a go install paranccsal. Még az első főverzió előtti fejlesztésben jár, és API-ja kisebb verzióváltások között is megváltozhat.

Az Elotl júliusi beszámolója egy másik felhasználót mutat be: a Nova a leképezésből olvassa ki az erőforrásigényeket, korlátozásokat és példányszámokat, amikor fürtök között helyez el feladatokat. A sorrend lényeges. A Nova először a célfürtökre juttatja a feladat keretrendszerét és erőforrás-definícióit. Ezután szabályzat alapján helyezi el a beküldött feladaterőforrást, és akkor veszi figyelembe a rendelkezésre álló erőforrásokat, ha a szabályzat ezt kéri. Az elhelyezés után a kiválasztott fürtön működő keretrendszer vezérlője a szokásos módon kezeli a feladatot.

Források(3)

Források és alapelvekJavítás jelzése