Az AWS bemutatja a Bedrock-költések csapatszintű kezelését
Egy költségkezelési útmutató kapcsolja össze a költések hozzárendelését, a kérések átláthatóságát, a költségkeretek érvényesítését és a rendszeres működési felülvizsgálatot.
Az AWS útmutatója közös működési sorrendet ad a felhőköltségekkel foglalkozó szakembereknek és a platformmérnököknek a Bedrockhoz: költések hozzárendelése, kérések megfigyelése, költségkeretek érvényesítése, alapbeállítások optimalizálása és működési felülvizsgálat. A költségszakemberek vezetik a hozzárendelést és a rendszeres felülvizsgálatot; a mérnökök a köztes szakaszokat. Az AWS az optimalizálás elé helyezi a hozzárendelést és a megfigyelést, hogy a csapatok megértsék, mely munkafolyamatok okozták a költést.
A naplózási dokumentáció konkrétan leírja a kérések átláthatóvá tételét. A modellhívások naplózása alaphelyzetben ki van kapcsolva. Bekapcsolás előtt a csapatnak ugyanabban a fiókban és régióban kell beállítania egy S3- vagy CloudWatch Logs-célhelyet. A támogatott hívások kérési adatokat, válaszokat és metaadatokat szolgáltathatnak. Ez a lehetőség a bedrock-runtime végpontot fedi le, beleértve annak OpenAI-kompatibilis Responses és Chat Completions API-jait. A bedrock-mantle hívásai kimaradnak, akkor is, ha azonos nevű API-kat használnak.
A bedrock-mantle esetében a Projects több modellen át biztosít alkalmazásszintű költség-hozzárendelést. A projekt azonosítóját a kliens inicializálásakor kell megadni; ezután annak kérései ehhez a projekthez tartoznak. Az azonosító nélküli kérések a fiók alapértelmezett projektjét használják. A projektcímkéket aktiválni kell költségfelosztáshoz, és ezt követően akár 24 órába is telhet a megjelenésük. Korábbi költségeket visszamenőleg nem címkéznek. Az így kapott számlázott összegek összesítettek: a legrészletesebb bontás használati típusonként és naponként érhető el, nem egyedi kérésenként vagy promptonként.