Microsoft AI Red Teaming 101: prompt injection és értékelés
A Microsoft Developer saját tanfolyama közvetlen és közvetett prompt injectionről, kockázatcsökkentésről és PyRIT-alapú automatizált vizsgálatokról.
Kezdd a prompt injection magyarázatával
A Microsoft Developer AI Red Teaming 101 tanfolyama megkülönbözteti a közvetlen utasításokat a külső tartalomba rejtett támadásoktól. Fejezetlistája 13:29-nél jelzi a közvetlen, 19:06-nál a közvetett prompt injection kezdetét. Később védekezésről és PyRIT-alapú automatizált tesztelésről szól. A kérdésedhez illő fejezetet válaszd; ez teljes tanfolyam, nem rövid termékdemó.
Használd a kísérő tananyagot
A Microsoft kapcsolódó oktatási oldala ismerteti a tíz részt, és diákat, gyakorlólaborokat is hivatkozik. Fejlesztőknek és engedélyezett vizsgálatot tervező biztonsági szakembereknek hasznos. Elkülönített tesztrendszerrel és kitalált adatokkal kezdj. A tananyag gyengeségek vizsgálatához ad módszereket; az elvégzése nem igazolja egy éles rendszer biztonságát.
