DeepSeek ma wdrożyć 160 tys. układów Huawei Ascend 950DT w nowym centrum danych

DeepSeek zamierza zainstalować co najmniej 160 tysięcy zaawansowanych akceleratorów sztucznej inteligencji Huawei Ascend 950DT w nowym centrum danych w chińskim regionie Mongolia Wewnętrzna. Nowa instalacja ma pomóc w uniezależnieniu się od zachodnich dostawców, choć napotyka spore bariery produkcyjne po stronie producenta sprzętu. Całość systemu będzie służyć obsłudze gotowych modeli dla tysięcy klientów jednocześnie.

Techniczne szczegóły nowego superkomputera

Projektowany klaster w Mongolii Wewnętrznej będzie jednym z największych znanych wdrożeń sprzętu Huawei w obszarze sztucznej inteligencji. Układy Ascend 950DT posiadają po 144 GB autorskiej pamięci HBM, która gwarantuje przepustowość na poziomie niemal 4 terabajtów na sekundę. Każdy z nich osiąga wydajność rzędu jednego PetaFLOP-a przy obliczeniach FP8 oraz dwóch PetaFLOPS-ów w formacie FP4. Po zakończeniu prac instalacja ma dysponować mocą obliczeniową sięgającą 160 ExaFLOPS-ów dla precyzji FP8 oraz łączną pamięcią rzędu 23 petabajtów. Taka konfiguracja pozwoli na sprawne, masowe obsługiwanie zapytań od wielu użytkowników jednocześnie.

Podział zadań i rola amerykańskich rozwiązań

DeepSeek nie planuje wykorzystywać zakupionych akceleratorów do trenowania nowych modeli, chociaż Huawei projektował i promował swoje chipy właśnie z myślą o takich zadaniach. Przedsiębiorstwo planuje przeznaczyć chińskie układy wyłącznie do wnioskowania, czyli generowania odpowiedzi przez gotowe algorytmy. Do głównego procesu szkolenia modeli startup zamierza nadal wykorzystywać akceleratory marki NVIDIA. Wynika to z wcześniejszych prób uczenia modeli na podzespołach krajowych, które skłoniły inżynierów do powrotu do rozwiązań amerykańskich.

Ograniczenia produkcyjne i wysokie koszty projektu

Huawei boryka się z niedoborami komponentów, w tym zaawansowanych pamięci, co ograniczy tegoroczną produkcję modelu Ascend 950DT do poziomu kilkuset tysięcy sztuk. Ponieważ producent musi zaspokoić potrzeby innych krajowych odbiorców oraz dostarczyć część urządzeń za granicę, skompletowanie zamówienia DeepSeek potrwa prawdopodobnie ponad rok. DeepSeek prowadzi w międzyczasie dalsze rozmowy w celu pozyskania kilku miliardów dolarów na rozbudowę swojej infrastruktury.