Kikényszerített GPU-memóriamegosztást hoz az NVIDIA a Kubernetesbe

Az NVIDIA október 27-i bejelentése azokra az AI-feladatokra ad megoldást, amelyeknek csak egy GPU egy részére van szükségük. A memóriahatár kikényszerítését a CUDA 13.4 biztosítja, a GPU Fractioning Operator pedig a Kubernetes csomópontjain alkalmazza a feladatkorlátokat. A KAI Scheduler kiválasztja a GPU-t, és rögzíti az operátor által érvényesítendő kiosztást. Így az elhelyezés és a kikényszerítés külön feladat; az ütemező önmagában nem biztosítja az új futásidejű memóriahatárt.

Az operátor dokumentációja megfelelő szoftverkörnyezetet ír elő, benne legalább Kubernetes 1.28-cal és NRI-képes konténerfuttatóval. Az NRI az a futtatókörnyezeti kapcsolat, amelyen keresztül a memóriahatárok még a konténerfolyamat indulása előtt bekerülnek. A GPU-csomópontokhoz legalább r615-ös NVIDIA-illesztőprogram kell; a GPU Operator 26.7.1 alapértelmezetten nem ezt választja. A verzióellenőrzés megkerülése csak a vizsgálatot kapcsolja ki: ettől egy nem támogatott környezet még nem tudja kikényszeríteni a memóriahatárokat.

Az NvFractions útmutatója külön készültségi előfeltételt rögzít: az adminisztrátor telepíti ezt a megosztási módot, és feladat beküldése előtt az alapértelmezett konfigurációnak, valamint a célként kijelölt GPU-csomópontnak is kész állapotot kell jeleznie. A kérés az ütemezéshez fenntartott mennyiség; magasabb korlát mellett szabad memória is használható, de versengéskor a futtatókörnyezet visszaveheti ezt a többletet. A számítás megosztása külön beállítás: az időosztás felváltva futtat, az sm-sharing párhuzamosan, MPS-t igényelve. Eltérő számítási módok nem osztozhatnak ugyanazon az eszközön.