Az Anthropic emberi ellenőrzés nélküli AI-hibajelentéseket kínál nyílt forrású projekteknek

Az Anthropic október 8-i bejelentése az OSS Scanner révén a vállalat legerősebb modelljeivel végzett, ismétlődő vizsgálatokat kínál nyílt forrású projekteknek. A részvétel önkéntes. A jelentések emberi ellenőrzés és előzetes értékelés nélkül érkeznek, ezért egy találat téves vagy érvénytelen is lehet. A vállalat külön folytatja az ember által igazolt sérülékenységek bejelentési eljárását, többek között olyan projekteknek, amelyek nem tudják maguk feldolgozni a nyers jelentéseket.

A szolgáltatás tájékoztatója feltételekhez köti a részvételt: a fő karbantartók a kódtárhoz benyújtott módosítási kérelemmel jelentkeznek, a projekteket pedig egyedileg értékelik az infrastruktúra és a felhasználók biztonságában betöltött szerepük alapján. Ember ellenőrzi a jelentkező karbantartói azonosságát és a projekt biztonsági kapcsolattartóját; az eredmények elküldése előtt ismét ellenőrzik a jogosultságot. Egy választható fenyegetésmodell-dokumentum leírhatja a nem megbízható bemeneteket, a kizárt kódot és a projekt súlyossági besorolását. Így érthetőbb, mit kell vizsgálnia a rendszernek, ahelyett, hogy minden határ kimondatlan maradna.

A jelentkezési kódtár leírja az elfogadás és beolvasztás utáni folyamatot: a projekt hálózati hozzáféréssel épül fel, majd a vizsgálat internet nélkül fut. A buildhibákról az elsődleges kapcsolattartó e-mailt kap. A találatok reprodukálási lépéseket és – ha rendelkezésre áll – javítási javaslatot tartalmaznak. A konfigurációban megadott kapcsolattartói címek nyilvánosak, ezért közzétehető címet, például biztonsági levelezési álnevet célszerű használni.

A MarkTechPost áttekintése október 25-én jelent meg Michal Sutter tollából. Összefoglalja az Anthropic jelentkezési dokumentációját, és hivatkozik a projektsablonra. Ezt a beszámolót a szolgáltatás másodlagos bemutatásaként kezeljük.