Anthropic je iskoristio svoj debi na berzi Nasdaq da ponovo istakne nameru da pažljivo tempira razvoj i puštanje svojih najmoćnijih sistema. Izvršni direktor Dario Amodei poručio je da kompanija neće popustiti pred poslovnim ili političkim pritiscima ako nema dovoljno sigurnosti da je tehnologija bezbedna i da ostaje pod ljudskom kontrolom.
Nastup dolazi u trenutku kada je Anthropic izašao na Volstrit sa najvećom javnom ponudom akcija do sada. Prema Amodeiju, snažnija finansijska pozicija ne treba da znači ubrzavanje po svaku cenu, već mogućnost da kompanija ostane dosledna sopstvenim principima bezbednosti.
Kao primer potencijalne koristi naveo je medicinu. Amodei, koji je karijeru započeo u biologiji, ocenio je da savremeni sistemi mogu pomoći istraživačima u oblastima kao što su savijanje proteina, razvoj lekova, genetika raka i organizacija kliničkih ispitivanja. Ipak, naglasio je da je reč o ranim rezultatima i da će eksperimenti i klinička ispitivanja i dalje zahtevati vreme.
Istovremeno, Anthropic upozorava na zloupotrebu od strane pojedinaca i država, moguće ekonomske potrese i rizik od gubitka kontrole nad složenim sistemima. Kompanija smatra da ove opasnosti nisu neizbežne, ali zahtevaju zaštitne mehanizme i veću pažnju onih koji razvijaju tehnologiju.
Amodei je najavio nastavak rada na usklađivanju, testiranju i metodama za bolje razumevanje ponašanja sistema. Poseban akcenat biće na dodatnim proverama pre obuke i uvođenja novih mogućnosti.
U septembru je već predložio zajedničke bezbednosne standarde među vodećim kompanijama, kao i uključivanje nezavisnih ocenjivača koji bi proveravali da li se ispunjavaju preuzete obaveze. Podršku tom stavu tada su izrazili Sem Altman iz OpenAI, Demis Hasabis iz Google DeepMind i Ilon Mask iz xAI, ali za sada nema mnogo konkretnih zajedničkih koraka.
Suosnivačica Danijela Amodei takođe je ukazala da kompanija ostaje posvećena smanjenju rizika, iako je pred njom još značajan posao.
