Általánosan elérhető a Databricks AI Runtime a menedzselt GPU-s tanításhoz

A bejelentés azokat a csapatokat célozza, amelyek a vállalati adataik tárolási helyén tanítanának modelleket. A Databricks közlése szerint átvállalja a GPU-k beszerzését, a gépcsoportok beállítását és a hálózat kezelését. A szolgáltatás a számítási infrastruktúrát fejlesztői eszközökkel és adatirányítással kapcsolja össze, csökkentve a csapatok külön kezelendő infrastrukturális feladatait.

Az AWS-dokumentáció pontosítja a hozzáférést: ellenőrizni kell a támogatott földrajzi területeket és a területek közötti feldolgozás feltételeit, a GPU-k elérhetősége pedig munkaterületenként eltér. A megfelelőségi biztonsági profilt használó munkaterületeken rendszergazdának kell engedélyeznie az AI Runtime és az AI Runtime multi-node H100 előzetesét. A regionális kapacitás korlátozott vagy elérhetetlen is lehet; a régiók közötti GPU-használat adatátviteli díjjal is járhat.

A kezdőútmutató engedélyezett munkaterülettel, valamint telepített vagy frissített, ahhoz hitelesített parancssori eszközzel indul. Minimális példája egy A10 GPU-t kér és kiírja az eszköz nevét, még a Python-kód bemutatása előtt. A feladat beküldése futásazonosítót és a munkaterületre mutató hivatkozást ad vissza. Az opcionális --watch kapcsoló a befejezésig fenntartja a terminál kapcsolatát és továbbítja a naplókat; ezek dokumentált lépések, nem a cikkhez elvégzett teszt eredményei.

Az egyedi Docker-konténerek használata továbbra is bétafunkció. Rendszergazda által engedélyezett AI Runtime Beta Features- és Artifact Registry-előzetes, legalább 1.19.0-s parancssori eszköz, olvasási és feltöltési jogosultság, valamint futó helyi Docker szükséges hozzá. A konténerképet ugyanazon munkaterület képtárában kell tárolni, méretének 20 GB alatt kell maradnia. A további csomagok a Dockerfile-ba kerülnek: az egyedi kép beállítása nem kombinálható a szokásos környezet függőség- vagy verziómezőivel.

A keret követéséhez a használati útmutató olyan számlázásitábla-lekérdezést ad, amely összesíti a szolgáltató által kezelt GPU-feladatok használati mennyiségét. Az aktuális GPU-árakat külön hivatkozás mutatja. A lekérdezésben kapott összesített mennyiség ezért önmagában még nem pénzben kifejezett költségbecslés.