Microsoft prezentuje BitNet: AI, którą uruchomisz na zwykłym PC

Microsoft wprowadza BitNet b1.58 2B4T – model AI, który zmienia zasady gry. Teraz sztuczna inteligencja jest w zasięgu zwykłego użytkownika, bez potrzeby inwestowania w specjalistyczny sprzęt.

Nowy model od Microsoftu działa nawet na standardowym laptopie czy desktopie. To prawdziwy przełom w porównaniu z innymi rozwiązaniami AI, które zwykle wymagają drogich kart graficznych lub dostępu do mocy obliczeniowej w chmurze. Sekret BitNetu tkwi w jego wyjątkowej architekturze – model zużywa do 80% mniej pamięci dzięki temu, że każdy jego element może przyjmować tylko trzy wartości: -1, 0 lub +1.

Uruchomienie BitNetu jest stosunkowo proste. Wystarczy skorzystać z dostępnego na GitHubie frameworka bitnet.cpp. Proces instalacji obejmuje pobranie repozytorium, zainstalowanie niezbędnych zależności (przez conda lub pip) i ściągnięcie modelu z platformy Hugging Face. Kompletne instrukcje znajdziesz w dokumentacji projektu. Warto dodać, że model najlepiej sprawdza się oczywiscie na nowszych procesorach i obecnie nie obsługuje jeszcze kart graficznych.

Co ważne, BitNet jest w pełni otwartoźródłowy i dostępny bezpłatnie na licencji MIT. Dzięki temu społeczność programistów może swobodnie rozwijać i dostosowywać model, co z pewnością przyspieszy wprowadzanie ulepszeń, w tym obsługi różnorodnych platform sprzętowych.

Mimo prostszej architektury, BitNet wciąż zachęca swoimi możliwościami. Wytrenowany na ogromnych zbiorach danych, w testach dorównuje, a czasem nawet przewyższa popularne modele jak LLaMa czy Gemma. Na pełną wydajność BitNetu możesz liczyć, jeśli Twój procesor spełnia wymagania frameworka. Na szczęście społeczność programistów już pracuje nad poszerzeniem wsparcia na kolejne platformy, co tylko zwiększy dostępność tego innowacyjnego rozwiązania.