Hat METR-kutató kap alkalmazotti szintű hozzáférést az Anthropic független biztonsági vizsgálatához
A beágyazott csapat belső rendszereket vizsgálhat és az Anthropic vétója nélkül publikálhat, de meghatározott bizalmas adatokat kitakarhatnak.
Ebben a cikkben
Mit jelent az alkalmazotti szintű hozzáférés?
Az Anthropic hat kutatót fogadott a nonprofit METR-től, vállalati eszközöket, irodahelyet és a saját kockázati csapataiéhoz nagyjából hasonló belső eszközhozzáférést adva nekik. A munkatársakat releváns információk megosztására ösztönzik, kivéve meghatározott kategóriákat, például ügyféladatot, jogilag védett anyagot és modellarchitektúrára vonatkozó információt. A METR kockázatokat, incidenseket és gyakorlatokat vizsgál. A védett kategóriák alkalmazásáról végül maga az Anthropic dönt.
A konstrukció megelőzte a mostani megállapodást
Dario Amodei, az Anthropic vezérigazgatója szeptemberben belső eszközökhöz hozzáférő, publikálni jogosult beágyazott értékelőket javasolt, a védett információk szűk körű kitakarásával. Szerinte a biztonsági vállalások ellenőrzéséhez működési rálátás kell, nem elég a cég által kiválasztott közlés.
Az eredményt a nyilvánosság számára látható bizonyíték mutatja meg
A METR saját meghatározása szerint a fejlett AI-rendszerek képességeiről és kockázatairól tájékoztatja a nyilvánosságot, és nem fogad el fizetséget a határmodellek kockázati vizsgálatáért. Korábban Anthropic-kockázati jelentéseket ellenőrzött és belső megfigyelőrendszereket tesztelt. A METR szerint az Anthropic és más cégek ugyanakkor hozzáférést és tokeneket adtak az értékelésekhez, kutatáshoz és mérnöki munkához.
A beágyazott kutatók egy kész modell külső vizsgálatánál mélyebben láthatják a folyamatot, a környezetet és az incidenseket. Nyilvános értékét az dönti majd el, mit tud közzétenni ez a beágyazott csapat, mit fednek el a kitakarások, és mennyire ellenőrizhetők az állításai.
