Az AWS Wordle-útmutatója külön kezeli a tanítás és a használat eredményeit

Az AWS bemutatója a Wordle szójátékot oktatási példaként használja, és megkülönbözteti a tanítás közbeni validációt a használati beállításokkal végzett értékeléstől. A gondolkodási erőfeszítés módosításához az értékelés előtt át kell írni az ágens környezeti változóit, majd újra telepíteni kell. Ennek fontos korlátja van: a szerzők óvnak az újratelepítéstől futó tanítás közben, mert a futtatókörnyezet újraindítása megszakítja a folyamatban lévő próbálkozásokat, és a tanítás hibáját okozhatja.

A módszer leírása szerint a többfordulós megerősítéses tanulás egymásra épülő döntéseket tanít. Az ágens cselekszik, visszajelzést kap, majd a megváltozott helyzetből folytatja; a cél az összesített jutalom, nem egyetlen válasz értékelése. Egy epizód a teljes feladatot jelenti, egy forduló pedig egy cselekvést és a környezet válaszát foglalja össze. A megközelítés akkor lehet releváns, ha a későbbi eszközhívások korábbi eredményektől függenek, vagy az egyes lépések működnek, de a teljes feladat nem sikerül.

Az összevetéshez az értékelési dokumentáció a kiinduló és a betanított modell vizsgálatát javasolja a tanításból kihagyott feladatokon. Az értékelőkészlet maradjon azonos az ismétlések során, a feladatleírás formátuma egyezzen a tanításéval, és szerepeljenek benne eszközkombinációk, valamint korábbi hibák. Az MLflow felületén a rögzített cselekvéssorokat és a jutalmak eloszlását is vizsgáld meg a fordulók száma mellett. Sok forduló ismétlődő körökre vagy túlzott újrapróbálkozásra utalhat; a darabszám önmagában nem bizonyítja az okot. A nyers értékelési állományok a beállított S3 kimeneti helyen érhetők el.