Apple ujawnia szczegóły szkolenia swojego systemu sztucznej inteligencji

Apple poinformowało, że modele sztucznej inteligencji, które napędzają system Apple Intelligence, zostały wstępnie przeszkolone na procesorach zaprojektowanych przez Google. To znak, że wielkie firmy technologiczne szukają alternatyw dla Nvidii, jeśli chodzi o szkolenie zaawansowanych modeli AI.

Wybór przez Apple jednostek Tensor Processing Unit (TPU) od Google do szkolenia modeli został opisany w opublikowanej przez firmę pracy technicznej. Apple wypuściło również wersję zapoznawczą Apple Intelligence dla niektórych urządzeń. W swojej 47-stronicowej broszurze technicznej Apple nie wspomina bezpośrednio o Google ani Nvidii, ale zauważa, że modele Apple Foundation Model (AFM) i AFM server były szkolone na “klastrach TPU w chmurze”. Oznacza to, że Apple wynajęło serwery od dostawcy usług w chmurze do przeprowadzania obliczeń. “Ten system pozwala nam na efektywne i skalowalne szkolenie modeli AFM, w tym AFM na urządzeniu, AFM na serwerze oraz większych modeli” – napisało Apple w pracy technicznej.

W dokumencie Apple ujawniło, że AFM był szkolony na jednym pakiecie składającym się z 2048 chipów TPU v5p działających wspólnie. AFM na serwerze był szkolony na 8192 chipach TPU v4 skonfigurowanych do pracy razem w ośmiu “zestawach” przez sieć centrum danych. Najbardziej zaawansowane TPU Google kosztują mniej niż 2 dolary za godzinę użytkowania, gdy są zarezerwowane na trzy lata z góry. Google wprowadziło swoje TPU w 2015 roku do wewnętrznych zadań, a w 2017 roku udostępniło je publicznie. Są one teraz jednymi z najbardziej dojrzałych specjalistycznych chipów zaprojektowanych dla sztucznej inteligencji. Ich ostatnia iteracja była zaprezentowana podczas tegorocznego Google Cloud Next.

Apple natomiast ma pewien dystans do nadrobienia. Kalifornijska firma była bowiem spóźniona w obszarze AI w porównaniu do wielu swoich konkurentów, którzy głośno przyjęli generatywną AI zaraz po premierze ChatGPT od OpenAI pod koniec 2022 roku. W miniony poniedziałek Apple wprowadziło Apple Intelligence, który zawiera kilka nowych funkcji, takich jak odświeżona Siri, lepsze przetwarzanie języka naturalnego i generowane przez AI podsumowania w polach tekstowych. W ciągu następnego roku Apple planuje wprowadzić funkcje oparte na generatywnej AI, w tym generowanie obrazów, emoji i wzmocnioną Siri, która będzie miała dostęp do danych osobowych użytkownika i będzie mogła podejmować działania wewnątrz aplikacji.