Czy bezpieczne AI to otwarte AI?

20 grudnia 2024

W rozwijaniu technologii otwartego oprogramowania kluczową rolę odgrywają dwa elementy: przejrzystość, pozwalająca prześledzić i zweryfikować każdą zmianę w kodzie oraz współpraca społeczności, w której każdy wnosi swoją wiedzę i doświadczenie, pracując na rzecz wspólnego celu. Te cechy sprawiają, że rozwiązania open source mają potencjał, by zrewolucjonizować sposób tworzenia systemów AI i wdrażania ich.

Choć sztucznej inteligencji wciąż daleko do osiągnięcia stopnia osobliwości (czyli poziomu zaawansowania, w którym maszyny stają się bardziej inteligentne od ludzi), jej wpływ na przemysł i społeczeństwo w ostatnich latach jest niepodważalny. Ważną rolę w tym procesie odegrało pojawienie się dużych modeli AI, określanych jako modele bazowe. Mogą one być dość łatwo dostosowywane do wymagań konkretnego biznesu, co pozwala obniżyć koszty ich początkowego szkolenia i przyspiesza czas wdrożenia, czyniąc tę technologię dostępną także dla mniejszych firm, które nie posiadają rozbudowanej infrastruktury IT.

Trenowanie zaawansowanych modeli AI wymaga już ogromnych zasobów danych, potężnych centrów przetwarzania i znacznych nakładów finansowych. To rodzi ryzyko, że główny dostęp do ich rozwoju będą mieć jedynie najwięksi gracze technologiczni na rynku. Aby przeciwdziałać potencjalnej monopolizacji tej technologii, kluczowe jest zastosowanie podejścia znanego z tworzenia rozwiązań open source. Pozwala ono na większą przejrzystość procesu wytwórczego, zwiększa jego innowacyjność i podnosi poziom bezpieczeństwa.

Zaufanie dzięki transparentności

Otwarty kod ułatwia zrozumienie oraz weryfikację tego, jak działają algorytmy AI i z jakich źródeł danych korzystają do przedstawiania swoich rekomendacji. Ta transparentność wzmacnia zaufanie do technologii i jest kluczowa dla rozwoju sztucznej inteligencji w sektorach finansów czy opieki zdrowotnej. Nad większą przejrzystością AI pracują m.in. organizacje AI Alliance czy Open Source Initiative (OSI). Ta pierwsza zrzesza instytucje takie jak IBM, Intel, Red Hat czy Uniwersytet Techniczny w Monachium, które poprzez otwarty transfer wiedzy i technologii promują transparentne podejście do rozwijania sztucznej inteligencji. Z kolei OSI prowadzi prace nad stworzeniem wspólnej definicji otwartości w kontekście AI.

Innowacje dzięki współpracy

Otwarte modele AI pozwalają programistom tworzyć nowe rozwiązania, korzystając z istniejących struktur i komponentów. Przyspiesza to rozwój technologii oraz wprowadzanie kolejnych wersji narzędzi IT. Firmy mogą w ten sposób wdrażać innowacyjne aplikacje bez konieczności budowania wszystkiego od podstaw. Otwartość zasobów sprzyja kreatywności, umożliwiając realizację nowatorskich pomysłów. Wyobraźmy sobie scenariusz, w którym oprogramowanie open source staje się standardem w branży technologicznej. Przedsiębiorstwa rozwijają swoje produkty bazując na rozwiązaniach innych dostawców, a oni w zamian korzystają z usprawnień oferowanych przez te firmy. Taka współpraca napędza innowacje i konkurencję, wspierając jednocześnie mniejsze firmy w rozwijaniu nowych technologii.

Co dwie pary oczu, to nie jedna

Gwałtowny rozwój generatywnej sztucznej inteligencji (gen AI) otwiera dyskusje na temat potencjalnych zagrożeń, jakie niesie ona ze sobą. Może być wykorzystywana do szerzenia dezinformacji czy tworzenia zmanipulowanych treści, obrazów lub filmów. Pojawiają się także obawy, że wgląd do modeli AI bazujących na otwartym kodzie i ich algorytmów mogą mieć wszyscy. W tym osoby o złej woli, chcące np. zmieniać mechanizmy bezpieczeństwa.

Jak w przypadku każdej technologii, ktoś, kto chce zaszkodzić, znajdzie na to sposób niezależnie od tego, czy system jest otwarty czy zamknięty. Jednak warto pamiętać, że otwarte podejście pozwala zapewnić większą kontrolę nad AI i uczynić ją bardziej bezpieczną. Większa liczba osób testujących otwarte systemy może szybciej wykrywać potencjalne problemy i naprawiać je Dodatkowo współpraca społeczności programistów, naukowców i firm z różnych branż pomaga minimalizować ryzyko zagrożeń i ustanowić wytyczne wspierające etyczny rozwój AI.

Alternatywa dla rozwiązań zamkniętych

Dzięki większej przejrzystości, innowacyjności i wyższemu poziomowi bezpieczeństwa, podejście open source przyczynia się do demokratyzacji sztucznej inteligencji oraz umożliwia uczestnictwo w jej rozwoju szerokiej grupie użytkowników z różnych środowisk społeczno-ekonomicznych. Udostępnianie narzędzi i zasobów wszystkim zainteresowanym przy zachowaniu ograniczonego dostępu do danych treningowych sprawia, że każdy może z nich skorzystać. Dotyczy to także firm nieposiadających dużych budżetów czy wewnętrznych ekspertów. W świecie, gdzie AI wpływa na niemal każdy aspekt życia, władza nad tą technologią nie powinna być skupiona w rękach nielicznych. Podejście open source buduje fundamenty powszechnie dostępnej sztucznej inteligencji.