METR: bizonytalan az Anthropic gyorsulásértékelése

A METR értékelése szerint elképzelhető, hogy az Anthropic 2026. július 15-ig átlépte a kutatás gyorsulásának figyelmeztetési küszöbét. Mindkét szervezet érintett kutatóinak többsége mégis inkább arra hajlik, hogy ez nem történt meg. A METR egyetért azzal, hogy az akkor elérhető modellek közvetlen katasztrofális kockázata alacsony volt. A kritika az augusztusi nyilvános jelentés magabiztos következtetését érinti: az értékelők szerint az alulhangsúlyozta a gyorsulás bizonyítékait és a bizonytalanságot. Egy korai figyelmeztetési küszöb átlépése önmagában nem bizonyítaná, hogy a feltételezett veszély már bekövetkezett.

A külön októberi vizsgálat azt elemzi, hogyan segíti az AI jobb AI-rendszerek fejlesztését. A METR szerint a fő hozzájárulás a kutatók segítése, nem a teljesen önálló kutatás. A korábbi és jelenlegi növekedés megfigyelhető, az AI nélküli növekedés viszont becslés. A teszteredmények gyorsabb javulása nem feltétlenül jelent ugyanilyen változást a valós hatásban. A csapat közvetítőkön keresztül kapott belső adatokat, de nem kért és nem kapott hozzáférést kiadatlan modellek kipróbálásához. Az Anthropic fontos bizonyítékokat törölt a nyilvános változatból, korlátozva a következtetések külső ellenőrizhetőségét. Ez a munka elkülönült a későbbi, munkatársi szintű hozzáférést ígérő projekttől; annak tágabb hozzáférési feltételei nem erre a vizsgálatra vonatkoztak.

The Decoder.