Izvršni direktor OpenAI, Sem Altman, smatra da velika količina RAM memorije u kućnim računarima nije najefikasniji način za raspodelu ograničenih zaliha DRAM memorije. U razgovoru za YouTube-kanal Cheeky Pint, osporio je pretpostavku da će korisnici u budućnosti masovno pokretati modele otvorenog koda direktno na svojim računarima.
Altman je istakao da memorija u personalnim uređajima najčešće nije u potpunosti angažovana. Prema njegovom stavu, veliki deo DRAM kapaciteta u desktop računarima i laptopovima ostaje neiskorišćen tokom većeg dela vremena, dok u data-centrima isti resurs može da se koristi mnogo intenzivnije.
Njegova argumentacija zasniva se na trenutnoj ograničenoj ponudi memorije. Umesto da svaki korisnik ima veće količine RAM memorije za povremeno lokalno pokretanje modela, Altman smatra da je efikasnije da kapacitet bude koncentrisan u cloud sistemima, gde može neprekidno da radi i da ga koristi mnogo korisnika.
Tema je važna za budući razvoj personalnih računara, posebno u periodu kada proizvođači sve češće ističu lokalno pokretanje softverskih modela kao prednost novih procesora i laptopova. Takav pristup podrazumeva moćnije čipove i više RAM memorije, ali nudi mogućnost da se deo obrade odvija bez stalne zavisnosti od udaljenih servera.
OpenAI, s druge strane, uglavnom radi sa modelima koji se pokreću u data-centrima. Kompanija ima i modele otvorenog koda, ali je njen glavni posao povezan sa uslugama koje su dostupne preko centralizovane infrastrukture.
Altmanova izjava otvara širu debatu o tome gde bi računarska moć trebalo da se nalazi u budućnosti: u ličnim uređajima korisnika ili u velikim cloud sistemima. Dok data-centri mogu da obezbede visoku iskorišćenost hardvera, lokalni pristup ostaje relevantan za korisnike koji žele da njihov računar samostalno obrađuje zadatke, pored svakodnevnog rada, pregledanja interneta i igranja igara.
