Az OGX egyetlen modellcsaládon túl viszi tovább a Llama Stacket
A nyílt forráskódú szerver cserélhető szolgáltatókhoz kapcsolja az AI-klienseket, és beépített dokumentumkeresést kínál.
Mi változott a névvel?
Az OGX csapatának 2026. április 28-i bejelentése tisztázza a Llama Stack átnevezését: HTTP-szerverről van szó, nem egyetlen modellcsaládhoz kötött programkönyvtárról. A csomag, a parancssori eszköz, a környezeti változók és a fejlécek neve változott; a csapat szerint maga a szerver API-ja változatlan maradt.
A projekt adattára az alkalmazások és modellszolgáltatók közötti kapcsolódási felületet ír le, OpenAI-kompatibilis kliensek, valamint az Anthropic és a Google fejlesztői készleteinek támogatásával. A cserélhető háttérrendszerek között a helyi Ollama, a vLLM és felügyelt szolgáltatások is szerepelnek. A projekt fájlokat és vektortárakat is kezel dokumentumtároláshoz és kereséshez, a modellválaszokat és eszközöket összehangoló Responses felület mellett.
A beépített fájlkeresés egy vektortárból, vagyis dokumentumtartalom visszakeresésére használt kereshető gyűjteményből emel ki releváns részleteket. A bejelentés ezt a visszakeresést a szerver válaszkészítési folyamatán belül helyezi el.
Ahol továbbra is az alkalmazás cselekszik
A KDnuggets útmutatója konkrét dokumentumasszisztenst mutat be: fájlokat tölt fel, vektortárat hoz létre, majd annak azonosítójára hivatkozik egy fájlkeresési kérésben. A bemutatott kódban nem szerepel külön lépés az indexelés befejezésének kivárására.
A teendők mentésekor az útmutató Python-ciklusa megvizsgálja a visszakapott kimenetet, felismeri a megfelelő függvényhívást, értelmezi az argumentumokat, majd futtat egy helyi mentési függvényt. Ez a függvény egy fájlhoz fűzi hozzá a teendőt: a modell kérése és az alkalmazás végrehajtása két külön lépés.
Források(3)
- TutorialEllenőrizve:
- MigrationEllenőrizve:
- RepositoryEllenőrizve: