Az AWS döntési modellekkel ellenőriz ügynököket

Az AWS mintája saját AWS Lambda-függvényeken keresztül kapcsolja a Jev és a Strands Decider modelljét az AgentCore Evaluations rendszerhez. Ezek a külön bekapcsolható ellenőrzések előre megadott válaszokat választanak, és valószínűséget adnak, írásos magyarázat helyett. A meglévő értékelők mellettük megmaradnak. Mielőtt egy ellenőrzés az ügynök kiadásáról döntene, az AWS saját forgalomból vett, emberek által címkézett példákon javasol ellenőrzést, majd annak megismétlését a kérdés vagy a modell változásakor.

A TypeSafe leírásában a Jev strukturálatlan állapotot fogad, de meghatározott típusú döntéseket és valószínűségeket ad vissza. A lehetséges kimeneti szerkezetet a fejlesztő előre megadja. Ez más felület, mint amikor egy bekezdésből utólag kell kinyerni a döntést. A vállalat az osztályozást, az útvonalválasztást, a pontozást és a program elágazásainak eldöntését sorolja a felhasználások közé. A kimeneti sémára tett garanciája a válasz formátumáról szól; nem olvasható minden egyes döntés helyességének függetlenül megmért garanciájaként.

A Strands csapata a Decider 2B-t helyi, CPU-n vagy GPU-n végzett kísérletezésre szánja. A modell megadott lehetőségek közül választ vagy számszerű értékelést ad; a kiadás súlyokat, tanítóadatokat és szkripteket is tartalmaz. A választáshoz a korlátai is hozzátartoznak: nem képes szöveget generálni, ezért chatbothoz, programozáshoz vagy dokumentumok összefoglalásához nem alkalmas. A csapat szerint ez a megközelítés az összetett problémákat is gyengébben kezeli, mint a következtető modellek.