Backpropagation: a tanítási jel útja visszafelé
A 3Blue1Brown bemutatja, hogyan hatnak a tanítópéldák a hálózat súlyaira és bias értékeire.
Értsd meg a visszafelé haladást
Grant Sanderson egy számjegyfelismerő kívánt kimeneti változásaiból indul ki, és rétegenként halad visszafelé. A 2017-es magyarázat az egyes tanítópéldákat kapcsolja össze a paraméterek módosításával, majd bevezeti az átlagolást és a kisebb tanítócsomagokat. Az előrehaladó számítás és a gradiensmódszer ismerete segíti a követést.
Ismerd meg a tanítás nehézségeit
A Google tanítási jegyzete az eltűnő és a túl nagy gradiensekkel, valamint az inaktív ReLU egységekkel egészíti ki a témát. Azt is elmagyarázza, hogy elterjedt programkönyvtárak automatizálják a backpropagation számításait. Ezek további tanítási szempontok; az okok hibakereséséhez általában kalkulusismeret szükséges.
A hangsúly a szemléleten van. Az ajánló az alkotó részletes írásos leckéjét követi.
