Model Google Gemini Nano AI dostępny do testowania na urządzeniach Pixel 9

Gemini Nano, dostępny teraz do testów na urządzeniach Pixel 9, pozwoli programistom kontrolować kluczowe parametry za pomocą zestawu SDK AI Edge. 

Google twierdzi, że Gemini Nano zwiększa wydajność, jednocześnie zmniejszając zależność od serwerów w chmurze. Google otworzyło teraz Gemini Nano do eksperymentów na urządzeniach z Androidem, używając swojego zestawu SDK AI Edge za pośrednictwem AIcore. Model AI na urządzeniu twierdzi, że jest zoptymalizowany pod kątem zadań, takich jak generowanie tekstu i parafrazowanie. Po tym ogłoszeniu programiści będą mieli szansę przetestować funkcjonalności AI bez polegania w dużym stopniu na zasobach chmury.

Jednak początkowo ten model będzie dostępny tylko dla urządzeń z serii Pixel 9. Gemini Nano wyróżnia się szczególnie w przypadkach użycia AI opartych na tekście, takich jak podsumowywanie, korekta i inteligentne generowanie odpowiedzi.

AI Edge SDK pozwoli programistom kontrolować określone parametry, takie jak temperatura, próbkowanie top-K i długość wyjścia, aby dostroić odpowiedzi modelu. Próbkowanie top-K to metoda w modelach AI, która ogranicza liczbę potencjalnych następnych słów do najbardziej prawdopodobnych K, próbując osiągnąć równowagę między spójnością a losowością. To podejście pomaga generować bardziej trafny i mniej powtarzalny tekst, jednocześnie umożliwiając zmienność odpowiedzi – wszystko to przy jednoczesnym minimalizowaniu potrzeby korzystania z wydajnych serwerów.

Pod względem wydajności Gemini Nano ma wykazywać znaczną poprawę w stosunku do swojego poprzednika. Dokładność modelu w zadaniach takich jak parafrazowanie i problemy matematyczne wzrosła odpowiednio do 90% i 23%, jak podaje firma.

Google oferuje obecnie programistom dostęp eksperymentalny, umożliwiając im integrację wszystkich wyżej wymienionych funkcji ze swoimi aplikacjami. Aby rozpocząć, deweloperzy mogą zapoznać się z dokumentacją zestawu SDK, która zawiera przewodnik krok po kroku dotyczący korzystania z Gemini Nano w aplikacjach mobilnych.