Bétaállapotú az ExecuTorch Cortex-M CPU-backendje
A PyTorch bejelentett egy megoldást, amellyel a saját szoftverrendszerén belül készíthetők elő modellek Cortex-M mikrovezérlőkre. A backend az ExecuTorch tárolójában érhető el.
Ebben a cikkben
Mi változott?
A PyTorch 2026. október 15-én jelentette be a Cortex-M backendet: azt az összetevőt, amely ezekhez a processzorokhoz alakítja a modell műveleteit. A fejlesztők exportálják a modellt, kalibrálják a kvantálását, majd ismét exportálják és a céleszközre alakítják. Az így kapott .pte program az ExecuTorch futtatókörnyezetével és a CMSIS-NN könyvtárral együtt kerül a firmware-be, mielőtt azt az eszközre írják.
Bétaállapot és pontossági korlátok
A fő fejlesztési ág dokumentációja bétaállapotúként jelöli a backendet. Az átalakítás során a támogatott kvantált műveletek CMSIS-NN-kerneleket használnak; a nem támogatott műveletek hordozható, 32 bites lebegőpontos megvalósításokra kerülnek. Az integráció jelenleg szimmetrikus INT8-kvantálást támogat, amely a súlyokat és az aktivációkat nyolcbites egész számokkal ábrázolja. A dokumentáció szerint a CMSIS-NN négybites súlyt nyolcbites aktivációval, illetve nyolcbites súlyt tizenhat bites aktivációval párosító módja még nincs integrálva.
Mit biztosít a CMSIS-NN?
Az Arm CMSIS-NN-kézikönyve kernelek könyvtárát ismerteti: ezek neurális hálózati műveleteket, például konvolúciót és összevonást végző függvények. Jellemzően külön megvalósításokat kínál az egy utasítással több adatot feldolgozó támogatás nélküli processzorokhoz, a digitális jelfeldolgozási bővítéssel rendelkezőkhöz, valamint az M-Profile vektorutasításokat használókhoz. A megfelelő megvalósítást a hardver képességeit jelző beállítások választják ki.
Futási adatok gyűjtése
Az ExecuTorch 1.5 dokumentációja az ETDumpot profilozási és hibakeresési adatok gyűjtésére ismerteti; ezeket az Inspector elemzi. Az alacsony szintű futtatókörnyezeti integrációhoz fordításkor engedélyezni kell a fejlesztői eszközöket és az eseménykövetést, hozzá kell kapcsolni az ETDump könyvtárat, és be kell illeszteni a fejlécét. A fejlesztő a metódus betöltésekor átad egy adatgyűjtőt, majd a modell kiértékelési iterációinak befejezése után kinyeri az adatpuffert. Szűkös erőforrású eszközökön az adatok fájlrendszer helyett UART-on vagy JTAG-on keresztül vihetők át. Engedélyezett eseménykövetés nélkül a rendszer nem rögzít eseményeket.