Broadcom wypuszcza chip do łączenia superkomputerów AI

Firma Broadcom Inc wypuściła we wtorek nowy chip do łączenia superkomputerów w celu ulepszenia pracy ze sztuczną inteligencją (AI) przy użyciu technologii sieciowej, która jest już szeroko stosowana. 

Jak podaje Reuters, Broadcom jest głównym dostawcą układów scalonych do przełączników Ethernet, które stanowią podstawowy sposób łączenia komputerów w konwencjonalnych centrach danych. Jednak rozwój aplikacji AI, takich jak ChatGPT firmy OpenAI i Bard firmy Alphabet Inc, stworzył nowe wyzwania dla sieci w centrach danych.

We wtorek Broadcom zaprezentował nowy układ, Jericho3-AI, który może połączyć ze sobą do 32 000 układów GPU. Chip Jericho3-AI będzie konkurował z inną technologią sieciową superkomputera o nazwie InfiniBand. Największym producentem sprzętu InfiniBand jest obecnie Nvidia Corp, która kupiła lidera InfiniBand Mellanox za 6,9 miliarda dolarów w 2019 roku. Nvidia jest również liderem na rynku procesorów graficznych.

Podczas gdy systemy Nvidia-Mellanox są jednymi z najszybszych superkomputerów na świecie, wiele firm niechętnie rezygnuje z Ethernetu, który jest sprzedawany przez różne firmy, aby kupować zarówno swoje procesory graficzne, jak i sprzęt sieciowy od tego samego dostawcy, powiedział Ram Velaga, starszy wiceprezes i dyrektor generalny podstawowej grupy przełączania w firmie Broadcom.

„Ethernet można uzyskać od wielu dostawców – jest duża konkurencja” – powiedział Velaga. „Jeśli my nie stworzymy najlepszego przełącznika Ethernetu, zrobi to ktoś inny. InfiniBand to zastrzeżone, jednoźródłowe, pionowo zintegrowane rozwiązanie”.

Aby odpowiadać na pytania w sposób symulujący ludzką mowę, systemy muszą być szkolone przy użyciu ogromnych ilości danych. To zadanie jest zbyt duże, aby mógł obsłużyć je jeden układ komputerowy. Zamiast tego zadanie musi być podzielone na tysiące chipów zwanych procesorami graficznymi (GPU), które następnie powinny zadziałać jak jeden gigantyczny komputer, aby pracować nad zadaniem przez tygodnie, a nawet miesiące. To właśnie sprawia, że szybkość, z jaką poszczególne chipy mogą się komunikować, jest ważna.