Meta wprowadzi zestaw narzędzi dla programistów, które pozwoli na przełączanie się między różnymi GPU w data center.

Meta podała, że uruchomił nowy zestaw bezpłatnych narzędzi dla aplikacji wykorzystujących algorytmy sztucznej inteligencji, które mogą ułatwić programistom przełączanie się między różnymi bazowymi układami.

Nowa platforma AI typu open source firmy Meta jest oparta na platformie uczenia maszynowego open source o nazwie PyTorch i może pomóc w wykonywaniu kodu nawet 12 razy szybciej na flagowym układzie A100 firmy Nvidia lub do czterech razy szybciej na MI250 od AMD. Równie ważne, jak zwiększenie prędkości, jest elastyczność. A tę oprogramowanie Meta ma rzeczywiście zapewniać. W ekosystemie data center dla AI dominuje wykorzystanie rdzeni CUDA firmy Nvidia. Jednak gdy programiści dostosują swój kod do układów Nvidii, trudno jest uruchomić go na procesorach graficznych od konkurentów firmy, takich jak AMD. Meta podaje, że nowe oprogramowanie zostało zaprojektowane tak, aby łatwo przełączać się między chipami bez blokowania.

Oprogramowanie Meta jest stworzone do pracy z AI zwanej wnioskowaniem, czyli wtedy, gdy algorytmy uczenia maszynowego, które wcześniej były wytrenowane na ogromnych ilościach danych, są wzywane do szybkiego osądzania, na przykład decydowania, czy zdjęcie przedstawia kota, czy psa.

Od fabryki do klienta – Czyli jak w 2022 roku wygląda rzeczywista droga produktu – począwszy od fabryki, do odbiorcy końcowego?