Była CTO OpenAI rzuca wyzwanie gigantom. Debiutuje potężny, otwarty model Inkling

Mira Murati, była dyrektor technologiczna OpenAI, wprowadziła na rynek swój pierwszy autorski model sztucznej inteligencji o nazwie Inkling. Opracowany przez jej nowy zespół Thinking Machines Lab system posiada aż 975 miliardów parametrów, co czyni go największym otwartoźródłowym rozwiązaniem tego typu stworzonym dotychczas w Stanach Zjednoczonych.

Potężne parametry i wymagania sprzętowe

Inkling to model klasy frontier, który ma wypełnić lukę na rynku zdominowanym w ostatnim czasie przez chińskie laboratoria badawcze. Ogromna liczba parametrów przekłada się na wysokie zapotrzebowanie na moc obliczeniową – uruchomienie pełnej wersji o 16-bitowej precyzji wymaga ponad dwóch terabajtów pamięci graficznej. W praktyce oznacza to konieczność wykorzystania zasobów odpowiadających ośmiu akceleratorom Nvidia B300 lub szesnastu jednostkom H200. Dla organizacji dysponujących skromniejszym zapleczem technicznym twórcy przygotowali wersję kwantyzowaną NVFP4, która pozwala na pracę przy użyciu o połowę mniejszej liczby procesorów graficznych.

Architektura MoE i efektywne rozumowanie

Pod względem technicznym Inkling bazuje na architekturze Mixture of Experts (MoE), która wykazuje pewne podobieństwa do rozwiązań znanych z modelu DeepSeek-V3. System składa się z 256 ekspertów rutowalnych oraz dwóch współdzielonych, przy czym podczas generowania każdego kolejnego znaku aktywuje się sześciu z nich, co odpowiada około 41 miliardom aktywnych parametrów. Model został przeszkolony na ogromnym zbiorze 45 bilionów tokenów obejmujących nie tylko tekst, ale również obrazy, dźwięk oraz materiały wideo. Dzięki zastosowaniu zaawansowanego uczenia przez wzmacnianie Inkling potrafi prowadzić złożone procesy myślowe, osiągając w testach Terminal Bench 2.1 wyniki zbliżone do modelu Nemotron 3 Ultra przy wykorzystaniu znacznie mniejszej liczby danych wejściowych.

Dostępność i swoboda modyfikacji dla programistów

Twórcy zdecydowali się na udostępnienie modelu na bardzo liberalnej licencji Apache 2.0, co daje użytkownikom pełną swobodę w zakresie dostosowywania narzędzia do własnych potrzeb biznesowych. Inkling obsługuje okno kontekstowe o rozmiarze miliona tokenów, co znacząco ułatwia zarządzanie rozbudowanymi bazami kodu lub odnajdywanie konkretnych informacji w obszernych dokumentach. Obecnie dostęp do technologii jest możliwy za pośrednictwem platformy Tinker, jednak trwają już prace nad udostępnieniem modelu w zewnętrznych usługach API, takich jak Databricks czy TogetherAI. Równolegle z flagowym systemem zaprezentowano zapowiedź Inkling-Small – wersji o 276 miliardach parametrów, przeznaczonej dla projektów wymagających przede wszystkim szybkości działania i niskich opóźnień.