Startup AI SambaNova wprowadza na rynek nowy chip

Startup zajmujący się chipami sztucznej inteligencji SambaNova Systems ogłosił we wtorek wprowadzenie na rynek nowego półprzewodnika, zaprojektowanego tak, aby umożliwić swoim klientom korzystanie z modeli AI wyższej jakości przy niższych kosztach całkowitych. 

Nvidia dominuje na rynku chipów AI, ale gwałtowny wzrost popytu wywołany zainteresowaniem oprogramowaniem generatywnym AI sprawił, że niektórym firmom trudno było zdobyć pożądane chipy. Intel, Advanced Micro Devices i start-upy takie jak SambaNova postanowiły wypełnić pustkę.

Jak podaje Reuters, nowy chip SambaNova jest w stanie obsłużyć model o 5 bilionach parametrów i zawiera dwie zaawansowane formy pamięci. Pamięć może czasami stanowić wąskie gardło w przetwarzaniu danych AI. Firma stwierdziła, że połączenie sprzętu umożliwia klientom uruchamianie większych modeli sztucznej inteligencji bez konieczności zmiany rozmiaru na rzecz dokładności.

Układ SN40L został zaprojektowany do obsługi modeli sztucznej inteligencji, które są ponad dwukrotnie większe niż zaawansowana wersja ChatGPT OpenAI, twierdzi firma z Palo Alto w Kalifornii.  Taiwan Semiconductor Manufacturing Company produkuje chip dla SambaNova.

„SN40L został stworzony specjalnie dla dużych modeli językowych obsługujących aplikacje korporacyjne – powiedział dyrektor generalny SambaNova, Rodrigo Liang. – Stworzyliśmy profil, który pozwolił nam naprawdę dobrze zrozumieć przypadek użycia w przedsiębiorstwie”.

Liang powiedział, że duże firmy, które chcą wdrożyć sztuczną inteligencję w nowatorski sposób, stoją przed innymi i bardziej złożonymi kwestiami niż oprogramowanie konsumenckie, takie jak ChatGPT. Bezpieczeństwo, dokładność i prywatność to obszary, w których technologia sztucznej inteligencji musi zostać zaprojektowana inaczej, aby była użyteczna dla klientów korporacyjnych.