NVIDIA PAIR połączy domowe komputery w jeden system do obsługi lokalnych modeli AI

NVIDIA udostępniła właśnie bezpłatne oprogramowanie w wersji testowej, służące do budowy lokalnych klastrów sztucznej inteligencji. Narzędzie Personal AI router, w skrócie PAIR, pozwala na wykorzystanie różnych komputerów działających w tej samej sieci. Cały proces obliczeniowy odbywa się prywatnie, a sterowanie systemem przebiega z poziomu jednego wspólnego interfejsu.

Wspólna praca wielu różnych systemów operacyjnych

Oprogramowanie PAIR zostało zaprojektowane z myślą o ułatwieniu lokalnego uruchamiania modeli sztucznej inteligencji. Narzędzie to potrafi sprawnie połączyć urządzenia wyposażone w karty graficzne z serii RTX, superkomputery biurkowe DGX Spark, a także wybrane komputery firmy Apple. Dla osób dbających o poufność kluczowy jest fakt, że przetwarzanie danych odbywa się w sieci lokalnej. Informacje nie są wysyłane do zewnętrznych chmur obliczeniowych.

Jak działa rozproszony system obliczeniowy od NVIDII?

Z technicznego punktu widzenia PAIR rozdziela zadania i pozwala poszczególnym urządzeniom w klastrze na równoległe wykonywanie obliczeń. Producent zaznacza przy tym wyraźnie, że oprogramowanie nie łączy fizycznie zasobów sprzętowych w jeden wirtualny procesor graficzny. Zamiast tego koordynuje ono przepływ zadań tak, aby optymalnie wykorzystać dostępną moc obliczeniową każdego podłączonego do sieci komputera.

Rozwiązanie nie tylko dla entuzjastów domowych

NVIDIA kieruje nowy produkt głównie do użytkowników domowych, ale rozwiązanie to może przynieść korzyści także w firmach. Przedsiębiorstwa mogą w ten sposób zagospodarować wolną moc obliczeniową na komputerach stacjonarnych, które aktualnie nie są w pełni obciążone pracą. Wersja beta programu jest już dostępna do pobrania bezpośrednio ze strony producenta. Aby móc płynnie korzystać z oprogramowania, potrzebować będziemy przynajmniej karty graficznej z serii RTX, DGX Spark/GB10 lub Mac M4, 8 GB pamięci RAM oraz 20 GB wolnej przestrzeni na dysku.