Nvidia przejmuje OmniML dla potrzeb przetwarzania AI na urządzeniach brzegowych

OmniML skupia się na miniaturyzacji aplikacji uczenia maszynowego, w tym dużych modeli językowych, aby umożliwić ich działanie na urządzeniach Edge.

Firma ogłosiła partnerstwo z Intelem zaledwie miesiąc przed przejęciem. Nie jest jasne, czy plany te zostały porzucone po przejęciu przez Nvidię, ale OmniML miało plany zoptymalizowania modeli uczenia maszynowego dla platformy Intela.

Podczas gdy Nvidia dominuje na rynku uczenia AI dla centrów danych dzięki swoim układom graficznym, rynek Edge nadal pozostaje dosyć otwarty, z wieloma konkurentami, którzy dążą do osiągnięcia pozycji lidera w tym sektorze.

„W dzisiejszych czasach sztuczna inteligencja jest tak ogromna, że urządzenia Edge nie są przystosowane do obsługi jej mocy obliczeniowej” – powiedział Di Wu, współzałożyciel i dyrektor generalny OmniML, gdy firma pozyskała 10 milionów dolarów w zeszłym roku.

„Jednak nie musi tak być. Nasz model kompresji uczenia maszynowego wypełnia lukę między aplikacjami AI a urządzeniami Edge, zwiększając możliwości tych urządzeń i umożliwiając wykorzystanie sztucznej inteligencji uwzględniającej sprzęt, która jest szybsza, dokładniejsza, bardziej opłacalna i łatwiejsza do wdrożenia na różnych platformach sprzętowych”.

Oprócz czołowych firm branżowych, takich jak Intel, Qualcomm i Nvidia, wiele startupów wprowadziło na rynek układy Edge AI, w tym SiMa.ai, Hailo, Mythic i Roviero.