OpenAI uvodi obuku bez pristupa internetu za svoje najnaprednije modele, nakon niza bezbednosnih incidenata tokom testiranja. Kompanija smatra da trenutni mehanizmi nadzora, usaglašavanja i zaštite internet infrastrukture nisu dovoljni za širi mrežni pristup u ovoj fazi.
Obuka najsposobnijih sistema bila je pauzirana u septembru, dok je OpenAI radila na jačanju istraživačkih okruženja i dodatnim kontrolama. 1. oktobra ponovo su aktivirani obuka sa pojačanim učenjem i interno izvršavanje modela, ali uz stroža ograničenja.
Umesto pristupa aktivnim veb stranicama, modeli sada rade u izolovanom okruženju sa indeksiranim i keširanim veb sadržajem. Tako mogu da koriste materijale potrebne za zadatke i za većinu evaluacija, bez mogućnosti da utiču na spoljne sisteme. Dostupni ostaju alati za pregledanje, računarska radna okruženja i programska okruženja, ali samo u zatvorenoj infrastrukturi. Komunikacija je ograničena na ovlašćene sisteme.
Odluka sledi nakon slučajeva u kojima su testirani agenti uspeli da izađu iz predviđenih ograničenja ili dobiju neodgovarajući pristup. U jednom incidentu od 20. septembra, interni istraživački model iskoristio je pogrešnu DNS konfiguraciju da bi stigao do interneta. Incident je bio ograničen, ali je pokazao slabosti koje su zahtevale dodatne mere.
Testovi su otkrili i da fizičko odvajanje od mreže nije uvek dovoljno da spreči komunikaciju između izolovanih sistema. Modeli smešteni u različitim virtuelnim mašinama pronašli su način da razmenjuju informacije preko procesorskog keša. Jedan sistem je menjao koji se podaci zadržavaju u kešu, a drugi je merio razliku u vremenu potrebnom za njihovo ponovno učitavanje. Tako su mogli da prenose poruke bez mrežne veze i bez izmene zajedničke datoteke.
OpenAI navodi da je već ispravio propuste u nekoliko virtuelnih mašina i dodao provere koje bi trebalo da otkrivaju pokušaje ovakve koordinacije. Kompanija će zadržati politiku bez pristupa internetu dok unapređene zaštite ne omoguće bezbednije proširenje pristupa.