Snowflake smatra da kompanije ulaze u novu fazu korišćenja naprednih jezičkih modela: umesto da se svaki zadatak izvršava najmoćnijim i najskupljim modelom, izbor bi trebalo da zavisi od konkretnog posla, očekivanog kvaliteta, brzine i raspoloživog budžeta.
Kompanija ističe problem sve većeg broja dostupnih modela, koji imaju različite sposobnosti, cene i performanse. Za organizacije, prema navodima Snowflake-a, ovo može da preraste u značajan operativni teret, jer stalno treba da procenjuju koji je model najpogodniji za svaku vrstu zahteva.
Rešenje koje Snowflake predlaže je dinamičko usmeravanje zadataka preko Cortex AI Gateway. Sistem bi automatski birao model koji nudi najbolji odnos između kvaliteta, vremena odgovora i troška za konkretnu namenu. Jednostavniji zadaci, poput klasifikacije, sumiranja ili izvlačenja podataka iz dokumenata, mogu da se obrađuju efikasnijim modelima. Složeniji zahtevi koji traže dublje zaključivanje usmeravali bi se ka moćnijim modelima.
Iz Snowflake-a kažu da takav pristup ne bi trebalo da znači odstupanje od bezbednosnih pravila. Politike upravljanja i kontrole, uključujući maskiranje podataka, primenjuju se bez obzira na izabrani model. Kompanije istovremeno mogu da ograniče koji su modeli i dobavljači dostupni njihovim korisnicima, što je važno za organizacije sa regionalnim ili regulatornim zahtevima.
Trošak je drugi ključni deo ove strategije. Snowflake navodi da su interna testiranja sa dinamičkim usmeravanjem postigla do tri puta bolju efikasnost u potrošnji tokena pri izradi dbt-procesa, uz zadržan kvalitet u poređenju sa pristupom koji koristi samo jedan napredni model.
Platforma nudi i praćenje upotrebe, performansi, kašnjenja i troškova na jednom mestu, uključujući povezana rešenja trećih strana. Organizacije mogu da postavljaju limite potrošnje, kvote i raspodelu troškova po timovima.
Umesto da se velika upotreba sama po sebi smatra uspehom, Snowflake preporučuje merenje prema poslovnim rezultatima: brže završenim projektima, smanjenom riziku, boljim maržama ili novim prihodima. Cilj je da korisnici rade sa jednostavnim alatima, dok se izbor modela i kontrola troškova obavljaju u pozadini.