Anthropic je započeo dublju saradnju sa nezavisnom istraživačkom grupom METR, čijim je šestoro zaposlenih obezbedio pristup delu svojih internih sistema, alata, kancelarijskog prostora i službene opreme. Nivo pristupa je, prema navodima kompanije, približno jednak onome koji imaju njeni sopstveni timovi za procenu rizika.
Namera je da spoljni evaluatori mogu direktno da ispituju rad kompanije i njene bezbednosne procese, umesto da se analize zasnivaju samo na javno objavljenim informacijama ili ograničenim testiranjima. Anthropic je svojim zaposlenima poručio da sa istraživačima iz METR-a dele relevantne informacije kao sa kolegama koji rade na proceni rizika.
METR neće dobijati naknadu od Anthropica za ovaj angažman. Grupa ne prihvata donacije od kompanija koje razvijaju napredne modele, niti od njihovih zaposlenih. Njeno finansiranje dolazi od individualnih i filantropskih donacija, kao i od javnih tela, među kojima je i Britanski institut za bezbednost.
Istraživači će moći samostalno da objave svoje nalaze, a Anthropic nema pravo da spreči objavljivanje analize. Ipak, kompanija može da zatraži uklanjanje informacija koje spadaju u određene zaštićene kategorije, poput podataka o korisnicima, materijala zaštićenih advokatskom poverljivošću i detalja o arhitekturi modela.
Saradnja sa METR-om dolazi u periodu kada Anthropic nastoji da jasnije predstavi svoje bezbednosne mere investitorima. Kompanija je ove nedelje značajan deo prezentacija za investitore posvetila upravo ovim praksama, uoči očekivanog izlaska na berzu uz procenu vrednosti veću od 2 biliona dolara.
Anthropic nastavlja da radi i sa Accenture, sa kojim je prošlog meseca najavio partnerstvo za nove zaštitne mehanizme. Dve strane su se obavezale na najmanje milijardu dolara za ovu namenu. Odvojeno, SecureBio za kompaniju razmatra rizike povezane sa hemijskim i biološkim oružjem.
METR je ranije učestvovao i u istrazi upada u Hugging Face, pri čemu je dobio pristup hiljadama zapisa i službenim laptopovima.