Chipy AI: AMD coraz bliżej do Nvidii
Według piątkowego raportu firmy zajmującej się oprogramowaniem sztucznej inteligencji chipy sztucznej inteligencji firmy AMD są w około 80% tak szybkie, jak te firmy Nvidia Corp.
Jak podsumowuje Reuters, Nvidia dominuje na rynku potężnych chipów używanych do tworzenia ChatGPT i innych usług AI, które przetoczyły się przez branżę technologiczną w ostatnich miesiącach. Popularność tych usług spowodowała, że wartość Nvidii przekroczyła 1 bilion dolarów i doprowadziła do niedoboru jej chipów, nad rozwiązaniem których Nvidia twierdzi, że pracuje.
Firmy technologiczne szukają alternatyw, mając nadzieję, że AMD będzie silnym pretendentem. To skłoniło MosaicML, startup AI nabyty za 1,3 miliarda dolarów na początku tego tygodnia, do przeprowadzenia testu porównującego chipy AI od AMD i Nvidii. MosaicML ocenił AMD MI250 i Nvidia A100, które są o jedną generację za flagowymi chipami każdej firmy, ale nadal cieszą się dużym zainteresowaniem. MosaicML odkrył, że układ AMD może uzyskać 80% wydajności układu Nvidii, głównie dzięki nowej wersji oprogramowania AMD wydanej pod koniec ubiegłego roku oraz nowej wersji oprogramowania open source wspieranego przez Meta Platforms o nazwie PyTorch, która została wydana w marcu.
MosaicML sprzedaje oprogramowanie, które ułatwia firmom tworzenie systemów sztucznej inteligencji w ich własnych centrach danych, zamiast płacić za dostęp do tych systemów od dostawców takich jak twórca ChatGPT OpenAI. Firma powiedziała, że przeprowadziła badania, aby pokazać, że jej klienci mają opcje chipów poza Nvidią.
„Wyniki Mosaic wzmacniają naszą strategię wspierania otwartego i łatwego do wdrożenia ekosystemu oprogramowania do szkolenia AI i wnioskowania na sprzęcie AMD”, powiedziała firma AMD w oświadczeniu, dodając, że będzie kontynuować współpracę w celu dostrojenia swojego oprogramowania.
Hanlin Tang, dyrektor ds. technologii MosaicML, powiedział, że firma uważa, że dalsze aktualizacje oprogramowania od AMD, które są w toku, powinny pomóc układowi MI250 dorównać wydajności A100 Nvidii.
„Dla większości firm zajmujących się uczeniem maszynowym oprogramowanie jest piętą achillesową” – powiedziała Tang, dodając, że AMD nie zapłaciło MosaicML za prowadzenie badań. „Tam, gdzie AMD radzi sobie naprawdę dobrze, jest oprogramowanie”. Tang powiedziała, że MosaicML wykorzystał swoje narzędzia, oprogramowanie PyTorch i AMD do trenowania dużego modelu językowego bez konieczności wprowadzania jakichkolwiek zmian w jego bazie kodu. Jeśli programiści mogą znaleźć chipy AMD w odpowiedniej cenie, „już teraz możesz się na nie przełączyć, są one zasadniczo wymienne” z chipami Nvidii, powiedział Tang.