NVIDIA i Microsoft tworzą Open Secure AI Alliance dla bezpieczeństwa modeli

NVIDIA wraz z grupą trzydziestu sześciu czołowych przedsiębiorstw technologicznych powołała do życia Open Secure AI Alliance. Celem tego zrzeszenia jest opracowywanie i udostępnianie otwartych narzędzi służących do zabezpieczania systemów autonomicznych oraz oprogramowania opartego na algorytmach uczenia maszynowego.

Przemysłowy front ochrony systemów inteligentnych

W skład nowej grupy weszli tacy liderzy rynku jak Microsoft, Adobe, Cisco, Dell Technologies oraz IBM. Działania organizacji skupiają się na tworzeniu fundamentów pod bezpieczne wykorzystanie technologii, które obecnie stanowią kluczowy element globalnej infrastruktury cyfrowej. Przedstawiciele formacji argumentują, że przejrzystość oferowana przez rozwiązania o otwartym kodzie jest niezbędna do skutecznej obrony przed nowoczesnymi zagrożeniami. Otwarty dostęp do modeli pozwala ekspertom na dokładne badanie i szybkie usuwanie podatności, co jest znacznie utrudnione w przypadku systemów zamkniętych i nieprzejrzystych.

NOOA czyli nowe podejście do programowania agentów

Istotnym elementem ogłoszonej współpracy jest wkład firmy NVIDIA w postaci projektu NVIDIA Labs Object-Oriented Agent, znanego jako NOOA. To nowatorskie środowisko badawcze traktuje agenta AI jak pojedynczą klasę w języku programowania Python, co upraszcza proces jego budowy i weryfikacji. Dzięki takiemu rozwiązaniu, zachowanie cyfrowych asystentów staje się łatwiejsze do śledzenia i audytowania przez ludzkie zespoły techniczne. Testy na wymagających zestawach danych wykazały, że NOOA pozwala osiągnąć wysoką skuteczność przy jednoczesnym obniżeniu kosztów operacyjnych i zużycia zasobów o blisko połowę.

Wspólna praca nad cyfrowym zaufaniem

Oprócz firmy NVIDIA, swoje technologie udostępniają także inni uczestnicy, w tym HPE z systemem weryfikacji tożsamości SPIFFE/SPIRE oraz Microsoft z rozwiązaniem MDASH do analizy wielu modeli jednocześnie. Wszystkie te działania mają doprowadzić do powstania standardów, które pomogą uniknąć nadmiernej zależności od nielicznych dostawców technologii. Grupa apeluje również do organów regulacyjnych, aby postrzegały otwarte systemy jako kluczowe narzędzia obronne, a nie potencjalne zagrożenie. Współpraca ta ma zagwarantować, że rozwój systemów inteligentnych będzie odbywał się w sposób jawny i bezpieczny dla wszystkich użytkowników.