Projekt Frozen v2: Zespolenie architektury Gemini z warstwą sprzętową Google

Google opracowuje nową linię procesorów serwerowych o nazwie Frozen, w których architektura modelu sztucznej inteligencji Gemini zostanie na stałe wpisana w strukturę krzemu. Projekt ten ma na celu znaczące zwiększenie efektywności energetycznej oraz szybkości działania usług chmurowych giganta z Mountain View.

Technologia zamrożonej architektury krzemowej

Większość współczesnych układów do obsługi sztucznej inteligencji to jednostki o uniwersalnym charakterze, które ładują wybrany model do pamięci podręcznej i przetwarzają dane w standardowych cyklach. Projekt Frozen v2 stanowi odejście od tego schematu poprzez fizyczne utrwalenie struktury sieci neuronowej bezpośrednio w obwodach procesora. W praktyce oznacza to, że układ scalony zostaje zaprojektowany na wzór konkretnego modelu AI, co niemal całkowicie eliminuje konieczność przesyłania ogromnych ilości danych między rdzeniem a zewnętrzną pamięcią. Choć inżynierowie zachowają możliwość aktualizowania parametrów modelu, określanych jako wagi, to jego bazowa konstrukcja pozostanie niezmienna, czyli zamrożona.

Skok wydajności i redukcja opóźnień w usługach

Główną zaletą tak wysokiego stopnia specjalizacji sprzętu jest skokowy wzrost sprawności obliczeniowej. Z dostępnych informacji wynika, że nowy układ może pracować od 6 do nawet 10 razy wydajniej niż dotychczasowe jednostki TPU stosowane przez firmę, biorąc pod uwagę liczbę przetworzonych tokenów na jednostkę zużytej energii. Takie rozwiązanie umożliwia generowanie odpowiedzi z minimalnym opóźnieniem, co znajduje zastosowanie w systemach pracujących w czasie rzeczywistym. Przykładem mogą być asystenci głosowi, w przypadku których szybka reakcja bezpośrednio wpływa na komfort użytkownika i naturalność rozmowy.

Optymalizacja zasobów w centrach danych

Rozwój projektu Frozen v2 stanowi próbę rozwiązania problemów z ograniczoną przepustowością infrastruktury, z jakimi mierzy się obecnie Google Cloud. Wprowadzenie własnych, dedykowanych układów ma pomóc w ograniczeniu zależności od zewnętrznych dostawców procesorów graficznych i zmniejszyć ogromne wydatki związane z zasilaniem serwerowni. Chociaż prace nad technologią wciąż trwają, a jej wdrożenie przewiduje się najwcześniej na 2028 rok, sygnał wysłany do branży jest czytelny: przyszłość obliczeń może opierać się na ścisłym zespoleniu algorytmów z warstwą sprzętową.