Ollama
Letöltött nyelvi modellek helyi futtatója, külön választható felhőszolgáltatással. Parancssoros munkamenetet és alkalmazásokhoz használható API-t kínál.
Hivatalos weboldal
Mit kapcsol össze?
Az Ollama gyorsindítója végigvezet az alkalmazás letöltésén, a helyi modell kiválasztásán és a beszélgetés elindításán. Alkalmazásokból a helyi API is hívható. Akkor lehet kiindulópont, ha saját felület mögött szeretnél nyílt modellel kísérletezni. A jegyzeteidben különítsd el a futtatót, a kiválasztott modellt és az alkalmazást: ezek a rendszer külön részei.
Ellenőrizd a futtatás útját
Az Ollama felhőmodelleket is kínál. A GYIK leírja a kizárólag helyi működés beállítását, és azt, hogy a szerver alapból a gép saját visszacsatolási címén figyel. Adatok bekötése vagy egy végpont hálózati megnyitása előtt vizsgáld meg a beállításokat. A helyi modell próbájával kis, kitalált feladatot ellenőrizhetsz; ez a profil nem tartalmaz sebességmérést vagy modellminőségi tesztet.
