A LEANN saját fájlokban tesz lehetővé dokumentumkeresést
A projekt külön kezeli a dokumentumindex létrehozását, a releváns részletek keresését és a válaszadást. A fejlesztő megválaszthatja a folyamat mögötti modelleket.
A MarkTechPost ismertetője a LEANN-t a saját adatok keresésére szolgáló projektként mutatja be.
A kutatási tanulmány második változata 2025 novemberéből származik, és a működés alapját magyarázza el. A beágyazások számszerű leírások, amelyekkel kapcsolódó tartalmak kereshetők. Az index építésekor a LEANN kapcsolatokat hoz létre az elemek között, majd bizonyos kapcsolatokat eltávolít, és a vektorok tömör közelítését tartja meg. Lekérdezéskor először közelítő távolságokkal választ ígéretes jelölteket, majd újraszámítja a pontos beágyazásokat. A megoldás a tárolt vektoradatok egy részét keresés közben végzett számításra cseréli; ezt a munkát nem szünteti meg.
A projekt parancssori példái külön műveletekre bontják a feladatot. A fejlesztő először elnevezett indexet épít egy dokumentumkönyvtárból, majd ebben keres releváns részleteket. A válasz előállításához külön kérdés-válasz parancs használ szöveggeneráló modellt. A dokumentumos példák PDF-, szöveges és Markdown-fájlokat fogadnak. Az anyagok megtalálása és a válasz megírása tehát a folyamat két külön része.
A beállítási útmutató kezdetben kis gyűjteményt javasol, majd az ellenőrzés után fokozatos bővítést. A szolgáltató kiválasztása továbbra is számít: az OpenAI beágyazási lehetősége adatot küld a rendszeren kívülre, és fizetős API-kapcsolatot igényel. Az Ollamával végzett helyi válaszadáshoz viszont szükség van az alkalmazásra, letöltött modellekre és helyi számítási erőforrásokra. Attól, hogy maga az index egy laptopon marad, még nem következik, hogy minden modellművelet is ott történik.
