Vera debiutuje w centrach danych. NVIDIA prezentuje układy pod autonomiczne AI

NVIDIA zaprezentowała procesor Vera, zaprojektowany specjalnie do obsługi agentów sztucznej inteligencji, który oferuje blisko dwukrotnie wyższą wydajność od tradycyjnych rozwiązań x86. Nowa technologia znalazła już zastosowanie u pierwszych dużych partnerów, w tym w firmie Perplexity, która odnotowała znaczące skrócenie czasu operacji programistycznych.

Architektura skrojona pod pętlę decyzyjną

Tradycyjne procesory serwerowe ewoluowały w stronę zwiększania liczby rdzeni kosztem wydajności pojedynczego wątku, co w przypadku nowoczesnych systemów autonomicznych staje się wąskim gardłem. NVIDIA Vera przełamuje ten schemat, oferując architekturę zoptymalizowaną pod tak zwaną pętlę agentyczną, czyli cykl operacji obejmujący rozumowanie modelu, wywoływanie narzędzi i analizę wyników. Dzięki zastosowaniu monolitycznej matrycy obliczeniowej z 88 autorskimi rdzeniami Olympus, system unika opóźnień typowych dla konstrukcji wielochipletowych, co przekłada się na o 40 procent niższe opóźnienia pod pełnym obciążeniem. Rozwiązanie to pozwala na płynną realizację procesów, które wymagają następujących po sobie kroków logicznych, gdzie wynik jednej operacji jest niezbędny do rozpoczęcia kolejnej.

Wydajność idzie w parze z oszczędnością energii

Nowa jednostka osiąga o 80 procent wyższą stałą wydajność na każdy rdzeń w porównaniu do standardowych procesorów x86 stosowanych w centrach danych. Kluczem do tak wysokich wyników jest przepustowość pamięci LPDDR5X wynosząca 1,2 TB/s oraz wewnętrzna magistrala przesyłająca dane między rdzeniami z prędkością 3,4 TB/s. Takie parametry pozwalają na błyskawiczne przetwarzanie dużych, nieregularnych zbiorów danych, zużywając przy tym mniej niż połowę energii potrzebnej tradycyjnym rozwiązaniom serwerowym. Pozwala to na lepsze wykorzystanie mocy układów graficznych, które nie muszą już długo czekać na zakończenie zadań pomocniczych przez procesor centralny. W praktyce oznacza to szybsze uczenie modeli poprzez wzmacnianie i sprawniejszą obsługę zapytań użytkowników w czasie rzeczywistym.

Pierwsze wdrożenia i perspektywy rynkowe

Firma Perplexity, twórca m.in. wyszukiwarki opartej na sztucznej inteligencji, już wdraża nowe procesory w swoich systemach produkcyjnych. Nate Kupp, wiceprezes do spraw infrastruktury w tej firmie, zauważył, że Vera idealnie odpowiada na ich potrzeby, przyspieszając zadania programistyczne o półtora raza w porównaniu do starszych rozwiązań. Z nowej technologii planują korzystać również tacy dostawcy jak OpenAI czy Anthropic, co ma pomóc producentowi w wygenerowaniu 20 miliardów dolarów przychodu z tego segmentu do końca roku fiskalnego. Jednocześnie zapowiedziano już kolejną generację procesorów o nazwie Rosa, która będzie wykorzystywać jeszcze nowsze rdzenie Rigel, zapewniając dalszy wzrost wydajności przy zachowaniu tej samej powierzchni układu.