Továbbtanítási alapként érkezik a Baidu ERNIE modellje

Kiindulópont a további munkához

A Baidu modellkártyája az ERNIE 5.5 Flash Base változatot az előtanítás utáni, további tanítási szakaszokat megelőző mentett állapotként azonosítja. Szakterületi alkalmazkodáshoz, utasításkövető finomhangoláshoz és megerősítéses tanulási kutatáshoz szánják kiindulópontnak. A kizárólag szöveggel dolgozó modell súlyai FP8 és BF16 formátumban érhetők el. A fejlesztők a működés alakításához kapnak alapot, nem pedig olyan ígéretet, hogy saját alkalmazásuk tanítása már befejeződött.

A kiadott modell futtatása

A Baidu kiszolgálási útmutatója külön kezeli a szöveget folytató, már kiadott Base modellt és a később érkező, következtetést és eszközhívást kínáló chatváltozatot. A bővítmény módosítatlan vLLM 0.32.0 mellett, kizárólag NVIDIA GPU-kon fut. A Base nem kapott csevegésre irányuló tanítást. Bemenetei a szövegkiegészítési végpontra kerülnek. A mintaként megadott szerverparancsok hitelesítés nélkül minden hálózati interfészen figyelnek; az útmutató API-kulcsot vagy csak helyi elérést javasol, kivéve megbízható hálózaton. Ez figyelembe veendő dokumentált telepítési ajánlás, nem bizonyíték arra, hogy egy letöltött modell automatikusan védett szolgáltatás lenne.

Miért számít a különbség

A beszámoló úgy értelmezi a kiadást, hogy jelentős alkalmazkodási munka marad a fejlesztőkre. Ez a beszámoló értelmezése az ajánlatról: a hasznos kiindulópont mellett továbbra is a csapatnak kell eldöntenie, mit szeretne felépíteni, és hogyan akarja tanítani a modellt az adott feladatra szabott, saját elképzelésének megfelelően.