Promptfoo
Fejlesztői eszköz AI-értékeléshez és biztonsági red team vizsgálathoz, konkrét tesztesetekkel, ellenőrzésekkel és beállítható célrendszerekkel.
Hivatalos weboldal
Mit segít értékelni?
A Promptfoo nyílt forrású fejlesztői eszköz AI-alkalmazások értékeléséhez és támadási helyzeteket kereső red team tesztekhez. A konfiguráció promptokat, célmodelleket vagy végpontokat, példákat és ellenőrzéseket kapcsol össze. A kezdő útmutató bemutatja a beállítást és a hibás esetek vizsgálatát. Olyan csapatnak való, amely csatlakoztatni és karbantartani is tudja a tesztelendő rendszert.
Biztonsági vizsgálat előtt
Tesztkörnyezettel, kitalált rekordokkal és korlátozott jogosultságokkal indulj. Telepítés előtt olvasd el az aktuális előfeltételeket. A tesztgenerálás és értékelés használhat felhős szolgáltatást; a saját gépen futó program nem jelent teljesen helyi adatkezelést. Belső anyag bevitele előtt ellenőrizd az adatáramlást. A sikeres eredmény kizárólag a lefuttatott esetekre és feltételekre vonatkozik.
