Az NVIDIA megnyitja a teljes Run:ai platformot a közös GPU-kapacitás kezeléséhez

Az NVIDIA október 13-i bejelentése a grafikus processzorok (GPU-k) megosztását kezelő teljes platformot nyílt forrásúvá teszi. A csapatok együtt vagy különálló összetevőnként is használhatják. Az NGC Community Product kiadása telepítési csomagot tartalmaz, az NVIDIA vállalati támogatását viszont nem foglalja magában.

Az adattár leírja, hogyan haladnak át a feladatok a rendszeren. A felhasználók böngészős felületen, parancssorból vagy API-n keresztül küldik be őket. Egy központi kezelőréteg kezeli az erőforrásokat és szabályokat a csatlakozó Kubernetes-fürtökben; az egyes fürtök szolgáltatásai fogadják a kéréseket és alkalmazzák az ütemezési szabályokat. Az állapot visszakerül a központi réteghez. A Run:ai a Kubernetes fölött működik, nem helyettesíti azt. A GPU-kon osztozó, erőforráskvótákat érvényesítő csapatokat szolgálja; egyetlen, saját GPU-kat használó csapatnak a szokásos Kubernetes-ütemezés is elegendő lehet.

A helyi fejlesztési útmutató alapértelmezésben szimulált GPU-kat használó környezetet ír le, így fizikai GPU nélkül is megismerhető a rendszer. Az előfeltételek lényegesek: csak macOS vagy Linux támogatott, amd64 vagy arm64 architektúrán. Telepített és futó Docker vagy Podman szükséges; Linuxon a containerd képtárát is engedélyezni kell. A gépen rendelkezésre kell állnia a make, git, curl, python3 és openssl eszköznek. Ezek nem települnek automatikusan, hiányuk leállítja a beállítást. Ez az előfeltétel-áttekintés a fejlesztői környezetre vonatkozik; a szimulált hardver nem bizonyít üzemi teljesítményt.

A megjelenésről a MarkTechPost is beszámolt.