Snowflake optymalizuje koszty AI dzięki dynamicznemu wyborowi modeli

Snowflake zaprezentowało nowe funkcje platformy Cortex AI Gateway, które automatycznie dopasowują modele językowe do konkretnych zadań biznesowych. Nowe rozwiązanie pozwala na automatyczną optymalizację kosztów oraz wydajności bez konieczności ręcznego sterowania zapytaniami przez programistów. Dodatkowo baza dostępnych narzędzi powiększyła się o nowoczesne modele oprogramowania open source.

Automatyzacja wyboru modeli i redukcja wydatków

Wprowadzona w lipcu 2026 roku platforma Cortex AI Gateway zyskała funkcję dynamicznego kierowania zapytań. System automatycznie analizuje stopień skomplikowania danego zadania i kieruje proste, powtarzalne operacje do mniejszych, bardziej ekonomicznych modeli, natomiast trudniejsze wyzwania wymagające głębokiej analizy przesyła do zaawansowanych systemów. Rozwiązanie to zintegrowano z głównymi produktami dostawcy, takimi jak Snowflake CoCo oraz Snowflake CoWork, a także udostępniono zewnętrznym agentom. Zmiany te pozwalają zapobiegać marnowaniu mocy obliczeniowej drogich modeli w sytuacjach, gdy nie jest to uzasadnione poziomem trudności zadania.

Lepsza kontrola nad budżetem i realne oszczędności

Nowe narzędzia dają administratorom pełną kontrolę nad budżetem przeznaczanym na rozwój sztucznej inteligencji. Mogą oni monitorować zużycie tokenów, ustalać limity wydatków dla poszczególnych zespołów lub aplikacji, a także decydować, które modele są dostępne dla konkretnych użytkowników. Jak wskazuje Sridhar Ramaswamy, dyrektor generalny Snowflake, firmy podchodzą dziś znacznie bardziej rygorystycznie do ekonomii tych rozwiązań. Pytanie nie dotyczy już ilości wykorzystywanej technologii, lecz jej przełożenia na realną wartość rynkową. Badania wewnętrzne producenta potwierdzają, że elastyczne żonglowanie modelami przynosi duże oszczędności. W testach inżynierskich budowanie rurociągów dbt dało trzykrotny wzrost efektywności zużycia tokenów przy zachowaniu pełnej jakości.

Poszerzenie biblioteki o zaawansowane modele otwarte

Baza modeli obsługiwanych przez platformę powiększyła się o pozycje open source, takie jak DeepSeek-V4-Flash 0731 oraz GLM-5.3. Dołączyły one do rozwiązań dostarczanych przez liderów rynku, w tym OpenAI, Anthropic, Google, Meta oraz Mistral. Testy przeprowadzone przez badaczy Snowflake dowiodły, że DeepSeek-V4-Flash osiągnął aż 74,4 procent skuteczności w zadaniach związanych z inżynierią danych, wyprzedzając pod tym względem część płatnych modeli komercyjnych. Z kolei GLM-5.2 osiągnął wynik 62,8 procent, zużywając najmniej tokenów spośród wszystkich badanych systemów. Pokazuje to, że otwarte oprogramowanie staje się wydajną i bezpieczną alternatywą, pomagającą przedsiębiorstwom budować rozwiązania dopasowane do ich potrzeb bez nadmiernych obciążeń finansowych.