Nowy model od Databricks ogranicza koszty i opóźnienia w firmowym wyszukiwaniu AI

Firma Databricks zaprezentowała model Adaptive Instructed-Retriever, który ma na celu usprawnienie wyszukiwania informacji w firmowych systemach sztucznej inteligencji. Rozwiązanie dynamicznie decyduje o liczbie kroków potrzebnych do przetworzenia zapytania, dzięki czemu skraca czas odpowiedzi przy prostych zadaniach i zwiększa precyzję przy bardziej skomplikowanych problemach. Pozwala to przedsiębiorstwom lepiej kontrolować koszty infrastruktury oraz opóźnienia w działaniu aplikacji.

Jak działa technologia elastycznego wyszukiwania?

Tradycyjne systemy wyszukiwania w sztucznej inteligencji stosują jednolitą strategię dla każdego zapytania, co generuje zbędne koszty lub obniża jakość odpowiedzi. Nowy model opiera się na wcześniejszych badaniach nad Instructed-Retriever-1, łącząc wyszukiwanie równoległe z sekwencyjnym, wieloetapowym gromadzeniem danych. System został wytrenowany przy użyciu syntetycznych środowisk oraz uczenia ze wzmocnieniem, co pozwala mu oceniać, czy kolejny krok wyszukiwania przyniesie realną poprawę wyników. W wewnętrznych testach wydajności rozwiązanie osiągnęło jakość wyszukiwania dorównującą lub przewyższającą modele Claude Sonnet 5, GPT-5.6 Luna oraz DeepSeek-V4-Flash, uzyskując czas odpowiedzi na poziomie 5,8 sekundy, czyli ponad dwukrotnie szybciej.

Korzyści dla programistów i kontrola wydatków w przedsiębiorstwie

Dzięki wbudowanemu mechanizmowi decyzyjnemu programiści nie muszą już ręcznie projektować złożonej logiki sterowania procesem wyszukiwania.

Problem z agentową sztuczną inteligencją wdrażaną na dużą skalę polega na tym, że trudno przewidzieć poziom jej wykorzystania. Agenci wielokrotnie wyszukujący informacje powodują kumulowanie się trudnych do przewidzenia kosztów i opóźnień, a zespoły finansowe nie są zadowolone ze zmiennych rachunków. Świadomość, że agenci będą przeprowadzać wyszukiwanie w ramach określonego limitu, który można ustawić dla poszczególnych obciążeń, sprawia, że wyszukiwanie agentowe można bezpiecznie stosować na dużą skalę, zamiast pozwalać, by koszty rosły bez kontroli – zauważył Ashish Chaturvedi.

Modele dostępne są w różnych konfiguracjach, co umożliwia ich precyzyjne dopasowanie do specyfiki konkretnych aplikacji firmowych. Stephanie Walter z HyperFRAME Research podkreśla, że automatyzacja logiki wyszukiwania ułatwia dostęp do zaawansowanych funkcji zespołom o mniejszych zasobach.

Wyzwania wdrożeniowe i ograniczenia danych źródłowych

Mimo usprawnień technologia ta nakłada na zespoły IT nowe obowiązki związane z monitorowaniem i wyborem odpowiednich ustawień wydajnościowych. Mike Leone, analityk w Moor Strategy and Insights, zwraca uwagę, że niewiele firm posiada dobrze uporządkowane bazy wiedzy, co w praktyce może prowadzić do pozostawiania domyślnych konfiguracji bez ich optymalizacji. Ponadto inteligentny algorytm wyszukiwania nie zastąpi odpowiedniego przygotowania danych ani strukturyzacji pojęć w organizacji. Analitycy wskazują również, że deklaracje wydajnościowe pochodzą z wewnętrznych testów Databricks i wymagają weryfikacji w rzeczywistych warunkach operacyjnych.