Vissza a felfedezéshez
HírekFejlesztés AI-val

A CUDA 13.5 bővíti a közös GPU használatának szabályozását

Az NVIDIA új ütemezési beállításokat ad a Vera Rubin éles támogatása mellé.

Piros és indigószínű válaszfalak osztanak fel egy fakört egymást keresztező áttetsző szalagok alatt.
CurioFuse · AI-illusztráció

Az NVIDIA kiadása a Vera Rubin támogatását a korai hozzáférésből általánosan elérhető, éles használatra szánt állapotba viszi. Bővíti a GPU erőforrásain osztozó alkalmazások vezérlését is. A Python-fejlesztők lehetőséget kapnak arra, hogy együttműködő GPU-függvények egy végrehajtási folyamon belül átfedéssel dolgozzanak. Ehhez legalább 9.0-s számítási képesség és a szükséges szinkronizációs protokollt megvalósító függvények kellenek; önmagában egy indítási kapcsoló bekapcsolása nem elegendő.

Az MPS útmutatója tisztázza az ütemezés feltételeit. A 3-as változat külön választható; továbbra is a régi, 2-es változat az alapértelmezett. Legalább r620-as illesztőprogrammal a súlyozott időszeletelés azt szabályozza, meddig tart egy kiszolgáló számítási köre, de nem garantál adott részesedést a GPU kihasználtságából. A közös ütemezési szabályt még bármilyen kiszolgálóbejegyzés létrehozása előtt kell beállítani. A már beállított, de még el nem indult kiszolgálók is megakadályozzák a módosítást. Az egyedi százalék csak akkor változtatható, ha a kiszolgáló egyik névteréhez sem kapcsolódik kliens.

A Python referenciája szerint az átfedést engedélyező beállítás alapértelmezésben ki van kapcsolva. Bekapcsolva az ugyanabban a végrehajtási folyamban korábban indított függvénnyel enged átfedést, amennyiben az programból jelzi a befejezést. Az indítási beállítások olvasásakor egy másik részlet is számít: a grid általában blokkokat számol, de megadott klaszter esetén klasztereket. A block beállítás az egyes blokkokon belüli szálakat írja le.

Források(3)

Források és alapelvekJavítás jelzése