Elon Musk: Grok 2 od xAI wymaga 20 000 procesorów graficznych Nvidia H100, Grok 3 może potrzebować 100 000 sztuk

Dyrektor generalny Tesli i SpaceX, Elon Musk, powiedział, że Grok, chatbot AI z jego startupu xAI, wymaga dziesiątek tysięcy procesorów graficznych do treningu.

W wywiadzie z dyrektorem generalnym norweskiego funduszu majątkowego Nicolai Tangenem na Twitterze/X, w którym występowało wiele awarii i usterek, Musk powiedział, że szkolenie modelu Grok 2 wymaga około 20 000 procesorów graficznych Nvidia H100. Z kolei Grok 3 potrzebowałby ich 100 000.

Jak donosi The Wall Street Journal, inwestorzy bliscy Elonowi Muskowi prowadzą rozmowy, aby pomóc xAI zebrać 3 miliardy dolarów w rundzie, która wyceniłaby start-up potentata sztucznej inteligencji na 18 miliardów dolarów.

xAI (która jest oddzielona od platformy mediów społecznościowych X, ale osadziła swoją sztuczną inteligencję w X) wykorzystuje Oracle do dużej części swoich potrzeb szkoleniowych.

„Dostaliśmy wystarczającą liczbę procesorów graficznych Nvidia dla firmy xAI Elona Muska, aby wprowadzić pierwszą wersję, pierwszą dostępną wersję ich dużego modelu językowego o nazwie Grok” – powiedział w zeszłym miesiącu Larry Ellison z Oracle.

W wywiadzie Musk powiedział, że niedobory chipów były jak dotąd największym ograniczeniem dla rozwoju sztucznej inteligencji, ale dodał, że wyzwania związane z dostawami energii elektrycznej będą kolejnym ograniczeniem w ciągu najbliższych kilku lat.