Modele AI Facebooka na własnym serwerze – Dell i Meta udostępniają Llama 2 on-premise

Dell Technologies poinformował o zintegrowaniu modeli Llama 2 opracowanych przez Metę (spółka-matka Facebooka), dzięki czemu klienci producenta będą mogli wykorzystać je lokalnie we własnych centrach danych.

Llama 2 to udostępniony w lipcu na licencji open-source model językowy, który można wykorzystać do budowania własnych generatywnych sztucznych inteligencji, w tym m.in. czatbotów.

Stoimy u progu nowej ery generatywnej sztucznej inteligencji, która zmienia sposób, w jaki przedsiębiorstwa działają, wprowadzają innowacje i konkurują między sobą – powiedział Jeff Boudreau, dyrektor ds. sztucznej inteligencji w Dell Technologies. – Dzięki współpracy technologicznej firm Dell i Meta sprawiamy, że rozwiązania GenAI typu open source stają się łatwiej dostępne dla wszystkich klientów. Dzięki szczegółowym wskazówkom, połączonym z optymalną infrastrukturą oprogramowania i sprzętu dla wdrożeń każdej wielkości, klienci mogą łatwiej wdrażać bezpieczne modele GenAI lokalnie, aby pozyskiwać nowe informacje i insighty o dużym znaczeniu – dodał.

Model językowy Mety będzie dostępny w ramach Dell Generative AI Solutions. Uruchomienie własnej wersji modelu językowego lokalnie pozwoli w pełni wykorzystać możliwości jakie kryją się w technologii dużych modeli językowych (Large Language Model), na których oparte są takie usługi jak popularny ChatGPT, czy Google Bard. Z drugiej strony, umieszczenie silnika AI na brzegu sieci pozwoli zachować bezpieczeństwo firmowych danych.

Rozwiązanie Dell Validated Design for Generative AI to propozycja dla organizacji, które chcą sprawnie wdrożyć projekty oparte na sztucznej inteligencji i zachować niezbędną kontrolę. Usługa pozwala szybciej skonfigurować i uruchomić własną infrastrukturę GenAI. To dobra alternatywa dla firm, które z jednej strony chcą korzystać z nowoczesnych rozwiązań usprawniających pracę, a z drugiej obawiają się wycieku poufnych informacji.