Vissza a felfedezéshez
HírekFejlesztés AI-val

Az NVIDIA egyetlen Windows PC-re vonná össze a helyi AI-fejlesztést

Az NVIDIA szerint az RTX Spark helyi kódoló ügynököket, modellfinomítást és CUDA-alapú telepítést egyesít Windows PC-ken. A platform Grace CPU-t, Blackwell GPU-t és legfeljebb 128 GB egységes memóriát kínál, teljesítményadatai és előnyei azonban a gyártó saját bemutatóiból származnak.

Metszeti asztali gép egyesíti a fejlesztést, elkülönített tesztelést és telepítést közös erőforrásokon.
CurioFuse · AI-illusztráció
Ebben a cikkben

Fejlesztés és telepítés egyetlen rendszeren

Az NVIDIA az RTX Sparkot olyan Windows PC-platformként mutatta be, amely az AI-fejlesztési folyamat nagyobb részét egyetlen gépen tarthatja. A vállalat szerint a laptopok már elérhetők, a kompakt asztali gépek pedig novemberben érkeznek. A cél a helyi kódoló ügynökök, a következtetés, a finomhangolás, a fordítás és a telepítés támogatása a CUDA ökoszisztémán belül, Windows alatt vagy a Windows Subsystem for Linux használatával.

A hardver Grace CPU-t és Blackwell RTX GPU-t egyesít. A konfigurációtól függően az NVIDIA legfeljebb 128 GB egységes memóriát és négybites számításnál akár másodpercenként egymillió milliárd műveletet ígér. A gyártó szerint ez nagyobb helyi kódoló modellek futtatását is lehetővé teszi, és csökkentheti a fizetős felhőmodellek tokenfogyasztását. A CUDA-ra épített kód más NVIDIA GPU-s PC-ken és felhős környezetekben is használható.

Új Windows on Arm szoftvertámogatás

Az NVIDIA közlése szerint a Microsofttal és az ökoszisztéma szereplőivel végzett munka eredménye egy natív PyTorch-CUDA build, a Python 3.15, több mint 2000 Conda-csomag, valamint a 15 000 leggyakrabban használt Python-csomag több mint 97 százalékának Arm-kompatibilis változata. A kínálat CUDA-X könyvtárakat és olyan NVIDIA Skills elemeket is tartalmaz, amelyek a gyorsított könyvtárak használatára készítik fel a kódoló ügynököket.

A bemutató a GitHub Copilot, a Pi, a Hermes, az OpenClaw és a JetBrains Junie Local támogatását vagy optimalizálását említi. A helyi modellek elkülönítését az NVIDIA OpenShell vagy a Microsoft Execution Containers segítheti, a hibrid útválasztók pedig helyben kezelhetik az egyszerűbb kéréseket, és felhőbe küldhetik a nehezebbeket. Újdonság még a Nemotron 3.5 Bolt 74B-A9B helyi támogatása, valamint videó-felskálázást, képkockagenerálást és TrueHDR-t kínáló média-SDK-k.

A gyártói mérések értelmezése

Az NVIDIA saját tesztje szerint az RTX Spark N1X egy Intel Core Ultra X9 388H rendszerhez képest 4,6-szeres eredményt ért el helyi kódoló ügynöknél, 2,7-szerest a modellt kevés tanuló paraméterrel módosító LoRA-finomhangolásnál és 1,8-szerest Linux-kernel fordításakor. Ezek meghatározott munkaterheléseken futtatott gyártói összehasonlítások, nem független keresztplatformos mérések.

A meglévő Windows-alkalmazások átvitele továbbra is munkát igényelhet. Az NVIDIA a függőségek ellenőrzését, natív Arm64 vagy Arm64EC megoldás választását, továbbá a telepítés, a működés, a teljesítmény és a CUDA-útvonalak tesztelését javasolja. Az alapígéret az összevonás: helyi AI-fejlesztés, alkalmazástesztelés és NVIDIA-célú telepítés egy Windows gépen, a modellméret, a kompatibilitás és a választott konfiguráció korlátai mellett.

Források(1)

Források és alapelvekJavítás jelzése