Polskie modele sztucznej inteligencji PolDense rzucają wyzwanie globalnym rozwiązaniom AI

Ośrodek Przetwarzania Informacji opracował rodzinę sześciu modeli PolDense przeznaczonych do wyszukiwania informacji w języku polskim. Największy z nich zajął pierwsze miejsce w benchmarku PIRB, wyprzedzając modele wielojęzyczne dysponujące nawet kilkukrotnie większą liczbą parametrów.

Modele PolDense powstały w AI Lab Ośrodka Przetwarzania Informacji, Państwowego Instytutu Badawczego. Rodzina obejmuje sześć wariantów mających od 17 mln do 1 mld parametrów. Wszystkie bazują na architekturze ModernBERT oraz technologii ettin-encoders i mogą analizować teksty o długości do 8192 tokenów.

Nie są to jednak modele generatywne podobne do ChatGPT, Claude, Qwen czy DeepSeek. Ich zadaniem jest wyszukiwanie właściwych informacji w dużych zbiorach dokumentów, między innymi na potrzeby wyszukiwarek, chatbotów, asystentów AI oraz systemów wykorzystujących RAG.

– Są to specjalistyczne modele językowe, których celem jest wsparcie wyszukiwania informacji. Trzeba być świadomym, że nie są one porównywalne z modelami typu ChatGPT, Claude czy chińskie Qwen i DeepSeek, ponieważ nie są to modele generatywne – powiedział dr inż. Marek Kozłowski, kierownik AI Lab w OPI-PIB.

W systemach RAG model generatywny otrzymuje informacje znalezione wcześniej w zewnętrznych źródłach, na przykład w firmowej bazie wiedzy, dokumentacji technicznej czy repozytorium dokumentów. Jakość odpowiedzi zależy więc nie tylko od samego modelu językowego, ale również od tego, czy mechanizm wyszukiwania odnajdzie właściwe dane.

Miliard parametrów wystarczył do pokonania większych modeli

Największy PolDense 1B zdobył 64,11 pkt w Polish Information Retrieval Benchmark. Według OPI dało mu to pierwsze miejsce w zestawieniu. Dla porównania Llama-Embed-Nemotron-8B uzyskał 63,73 pkt, a BGE-Multilingual-Gemma2-9B 63,26 pkt. Oba konkurencyjne rozwiązania mają po kilka razy więcej parametrów.

Mniejsze modele również mają być istotnym elementem projektu. Warianty liczące 68 mln, 32 mln i 17 mln parametrów zaprojektowano z myślą między innymi o procesorach CPU, urządzeniach mobilnych i przetwarzaniu na brzegu sieci. Pozwala to ograniczyć zapotrzebowanie na kosztowne akceleratory GPU.

– Jeśli mamy model dziesięciokrotnie mniejszy od modeli międzynarodowych, to jest dziesięciokrotnie tańszy w utrzymaniu, zajmuje mniej pamięci i jest szybszy na naszej infrastrukturze – powiedział Kozłowski.

To istotna cecha zwłaszcza dla przedsiębiorstw i administracji chcących uruchamiać systemy AI lokalnie, bez przesyłania własnych zbiorów dokumentów do zewnętrznych usług chmurowych.

Modele OPI uzupełnią działanie LLM

Modele PolDense zostały publicznie udostępnione na platformie Hugging Face. OPI określa je jako rozwiązania open source, natomiast oficjalne karty modeli na Hugging Face wskazują licencję Gemma. Największy wariant miał w ostatnim miesiącu ponad 2 800 pobrań.

Dla firm praktyczna wartość PolDense nie polega więc na zastąpieniu dużych modeli językowych. Modele OPI mogą stać się ich uzupełnieniem, odpowiadając za jeden z najważniejszych etapów działania firmowych systemów RAG, czyli znalezienie właściwej informacji w lokalnych danych przy możliwie niskich kosztach obliczeniowych.