Entuzijasta za kućne servere uspeo je da izvršava model Kimi K3 sa 2,8 biliona parametara na sistemu bez grafičke kartice, oslanjajući se na ukinutu Intel Optane Persistent Memory 200 memoriju i 40-jezgarni procesor Xeon Scalable treće generacije.
Projekat je objavljen na Redditu i pokazuje kako polovna serverska memorija može da ponudi kapacitet koji bi inače bio preskup za kućnu konfiguraciju. Prema objavljenim informacijama, čak i najmanje dostupne verzije modela zahtevaju najmanje 610 GB memorije. Autor navodi da je Optane module nabavio za znatno manji iznos od odgovarajućeg kapaciteta DRAM-a.
Ipak, sistem nije namenjen za interaktivan rad. Sa 1-bitnom kvantizacijom, konfiguracija dostiže oko 0,85 tokena u sekundi. Pri 3-bitnoj kvantizaciji brzina pada na 0,75 tokena u sekundi. Takvim tempom, zadatak od 50.000 tokena mogao bi da traje približno 13 sati, iako bi ovakve performanse mogle biti prihvatljive za serije zadataka koje se obrađuju preko noći.
Intel je predstavio seriju Optane PMem 200 2020. godine, sa modulima od 128 GB, 256 GB i 512 GB. Ona je namenjena za Xeon Scalable platforme treće generacije i može da radi u Memory Mode režimu, gde DRAM služi kao keš, ili u App Direct Mode režimu, gde softver direktno koristi poseban trajni memorijski prostor. U ovom slučaju upotrebljen je App Direct Mode, koji omogućava precizniju raspodelu podataka u memoriji.
Najveći praktičan problem je temperatura. Autor upozorava da je aktivno hlađenje DIMM modula neophodno pri produženom opterećenju. Zbog toga su postavljena dva ventilatora od 12 W usmerena direktno ka memoriji, jer toplota iz Optane modula može da utiče i na susedne DRAM module.
Prema specifikacijama kompanije Intel, svaki modul troši 12 ili 15 W i zahteva prinudni protok vazduha, kao u serverskom centru. Moduli počinju da ograničavaju rad na 83 stepena Celzijusa, a isključuju se na 85 stepeni. Autor planira da dodatno optimizuje konfiguraciju, doda grafičke kartice i koristi DRAM kao brži sloj uz Optane memoriju.
