IBM zbudował w ramach swojej chmury opłacalny superkomputer AI

21 lutego 2023

Odpowiedź IBM na ekonomiczny superkomputer działa już od kilku miesięcy, ale dopiero teraz firma ujawniła jakiekolwiek konkretne informacje na temat swojego projektu Vela. Korzystając ze swojego bloga, IBM ujawnił, że badania, których autorami jest pięciu pracowników firmy, dotyczą problemów z poprzednimi superkomputerami i ich braku gotowości do zadań związanych z AI.

W celu dostosowania superkomputera do tego typu obciążeń roboczych, firma rzuciła nieco światła na decyzje, jakie podjęła w zakresie wykorzystania niedrogiego, ale potężnego sprzętu. W pracy podkreślono, że:

„zbudowanie [tradycyjnego] superkomputera wiązało się z koniecznością zastosowania węzłów obliczeniowych, wysokowydajnego sprzętu sieciowego… równoległych systemów plików i innych elementów zwykle kojarzonych z obliczeniami o wysokiej wydajności (HPC)”.

Podczas gdy jasne jest, że te superkomputery mogą obsługiwać ciężkie obciążenia AI, w tym te zaprojektowane przez OpenAI, to brak optymalizacji oznaczał, że tradycyjnym superkomputerom mogło brakować czystej mocy obliczeniowej, a mieć nadmiar w innych obszarach prowadzący do niepotrzebnych wydatków.

„Po przeprowadzeniu znacznej ilości badań i odkryć, opracowaliśmy sposób na wyeksponowanie wszystkich możliwości węzła (GPU, CPU, sieci i pamięci masowej) w maszynie wirtualnej, dzięki czemu narzut wirtualizacji wynosi mniej niż 5%, co jest najniższym narzutem w branży, jaki znamy.”

Jeśli chodzi o konstrukcję pojedynczego węzła, Vela jest wyposażona w 80 GB pamięci GPU, 1,5 TB pamięci DRAM oraz cztery dyski NVMe o pojemności 3,2 TB.

The Next Platform szacuje, że gdyby IBM chciał umieścić swój superkomputer w rankingu Top500, dostarczyłby on około 27,9 petaflopów wydajności, co plasuje go na 15 miejscu według rankingów z listopada 2022 roku.

Podczas gdy dzisiejsze superkomputery są obecnie w stanie poradzić sobie z obciążeniami roboczymi związanymi z AI, ogromny rozwój sztucznej inteligencji w połączeniu z pilną potrzebą efektywności kosztowej podkreślają potrzebę stworzenia takiej maszyny.