Kupci novih laptopova će sve češće nailaziti na naziv NPU u specifikacijama. Reč je o Neural Processing Unit, odnosno specijalizovanom delu čipa namenjenom obradi zadataka sa neuronskim mrežama. Iako je već uobičajen kod modela srednje i više klase, za veliki deo korisnika njegovo iskorišćenje za sada ostaje veoma malo.
Glavna prednost NPU-a je energetska efikasnost. On je napravljen za operacije kao što su množenje matrica i nelinearne aktivacije, koje su ključne pri izvršavanju gotovih modela. Procesor i grafički čip mogu da obrađuju iste zadatke, ali uz znatno veću potrošnju, više toplote i veći uticaj na bateriju.
Praktičan primer je zamućivanje pozadine tokom video-poziva. Kada ovakva funkcija radi preko CPU-a ili GPU-a, može da poveća potrošnju i aktivira ventilatore. NPU može da je održava aktivnom uz mnogo manju potrošnju. Isto važi za suzbijanje buke u razgovorima, prevod u realnom vremenu, efekte za veb-kameru i lokalno indeksiranje za pretragu.
Razlog za brzo širenje ove komponente je i sertifikacija Copilot+ PC kompanije Microsoft. Za nju laptop mora da ima NPU sa najmanje 40 TOPS, 16 GB RAM-a i 256 GB prostora za skladištenje. TOPS je mera brzine kojom čip izvršava ovakve matematičke operacije, a potreban rezultat mora da dolazi upravo od NPU-a, a ne od grafičkog procesora.
Qualcomm je prvi ponudio 45 TOPS sa Snapdragon X Elite i X Plus, nakon čega su usledili Intel Lunar Lake sa do 48 TOPS i AMD Ryzen AI 300 sa 50 TOPS. Intel Core Ultra Series 3, poznat i kao Panther Lake, takođe dostiže 50 NPU TOPS, dok Snapdragon X2 Elite ide do 85 TOPS.
Ipak, broj programa koji zaista koriste ovaj hardver je mali. Među njima su Windows Studio Effects, Live Captions, Recall, Click to Do, funkcije u Teams i Zoom, kao i deo alata u Adobe Creative Cloud. NPU nije zamena za moćnu diskretnu grafiku pri treniranju modela ili za velike lokalne modele, ali može da oslobodi resurse za ostale zadatke laptopa.