Az Arm telefonon vizsgálja a folyamatos beszédfelismerést
Egy ExecuTorch-esettanulmány külön kezeli a hanggyűjtés várakozását és a feldolgozási időt.
Az Arm mérnökeinek október 26-i esettanulmánya a NVIDIA Nemotron 3.5 beszédfelismerő modelljét futtatja ExecuTorch segítségével egy Pixel 11 telefonon. A folyamatos átírás a beérkező beszédből fokozatosan készít szöveget. Hosszabb hangdaraboknál később jelenik meg az első szöveg és a következő frissítés; erre rakódik az előfeldolgozás és a modell futtatása. Ezért együtt vizsgálják a darabméretet és a numerikus pontosságot. A gyorsított processzorutasítások engedélyezése még nem bizonyítja használatukat: a ténylegesen futó számítási rutinokat natív teljesítményelemzés azonosítja.
A NVIDIA modelldokumentációja ismerteti az ilyen értékelés mögötti bemeneti választásokat. A hangnak monónak kell lennie; a fejlesztő megadhatja a nyelvet, vagy automatikus felismerést választhat. Egy hangdarab az aktuális rövid hangrészből és a beállított jövőbeli kontextusból áll. A kimenet írásjeleket és nagybetűket is tartalmaz. A NVIDIA eltérő készültségi csoportokba sorolja a nyelveket, így a támogatás nem jelent egységes átírási minőséget. Éles alkalmazás előtt a tervezett felhasználásra jellemző adatokkal végzett tesztelést is szükségesnek tartja.
A végrehajtás ellenőrzéséhez az ExecuTorch eszközeinek dokumentációja megkülönbözteti a kimenet ellenőrzését az időméréstől. A BundledProgram reprezentatív bemeneteket és elvárt kimeneteket csomagol a modell mellé, így a futás eredménye ezekhez hasonlítható. Az ETDump futás közben teljesítményadatokat és hibakeresési adatokat rögzít; az alapvető idővizsgálathoz önmagában elegendő. Az exportáláskor készülő ETRecord adja a mérés és az eredeti modellkód összekapcsolásához szükséges gráfmetaadatokat. Az Inspector felületei egyesítik ezeket a feljegyzéseket. Az eszközök az exportálás és a futás köztes eredményei közötti numerikus eltéréseket is megmutatják, segítve az eltérés helyének azonosítását.
