Zwiększenie zaufania do sztucznej inteligencji, może być kluczem do jej szerszego zastosowania – W jaki sposób budujemy zaufanie do AI?

16 października 2018

Sztuczna inteligencja (SI) – największy trend technologiczny roku – staje się coraz bardziej zaawansowana i rozpowszechniona. Choć SI jest już używana w wielu sektorach przemysłu, wciąż nie osiągnęła jeszcze pełnego potencjału i oferuje ogromne możliwości firmom każdej wielkości. W rzeczywistości, według raportu PwC, wkład SI w globalną gospodarkę do 2030 r. może wynosić 15,7 bilionów dolarów.

Sztuczna inteligencja (SI) staje się coraz bardziej zaawansowana, ale systemy „czarnej skrzynki” oznaczają, że końcowy użytkownik zwykle nie wie, jak ona działa.
Wytłumaczalna SI może budować zaufanie przez przekonanie firm do wyjaśnienia sposobów i przyczyn podejmowania decyzji przez ich systemy AI.
Kwestia ta jest jednak złożona i istnieje wiele przeszkód do przezwyciężenia.

Jednak im więcej SI włącza się do biznesu i do życia codziennego, tym większa jest potrzeba jej zrozumienia. Chociaż nagłówki zawierające koszmarne scenariusze, w których zabójcze roboty i autonomiczna broń zwracają się przeciwko ludziom mogą być lekko alarmistyczne, kwestia zaufania jest podstawowym zagadnieniem dotyczącym przyszłości sztucznej inteligencji. Zgodnie z badaniem PwC, około 67 procent prezesów największych firm uważa, że SI i automatyzacja będą miały negatywny wpływ na poziom zaufania podmiotów w ich branży w ciągu najbliższych pięciu lat.

Podkreśla to potrzebę większej przejrzystości w zakresie technologii i to tu pomocą może służyć wytłumaczalna SI. Wytłumaczalna SI, znana również jako XAI lub przejrzysta SI, opisuje system, w którym działania SI mogą być łatwo zrozumiane przez człowieka. Celem jest zrozumienie, w jaki sposób i dlaczego SI podejmuje pewne decyzje. Wytłumaczalna SI sprawia, że technologia jest bardziej przejrzysta, co niewątpliwie jest krokiem w dobrym kierunku.

W wielu systemach opartych na SI użytkownicy końcowi nie wiedzą, w jaki sposób i dlaczego podjęto decyzję. To podejście „czarnej skrzynki” nie tylko niekoniecznie przyczynia się do budowania zaufania, ale może również utrudniać, a nawet uniemożliwiać, przestrzeganie przepisów dotyczących prywatności, takich jak RODO. Zgodnie z tymi przepisami, przedsiębiorstwa potrzebują SI podejmującej wytłumaczalne decyzje, które można powielać. Firmy mogą być również zobowiązane do ujawnienia, skąd pochodzą dane, które napędzają ich SI. Na szerszą skalę zachęca to do dobrych praktyk, oferując możliwość zwiększenia odpowiedzialności systemów decyzyjnych. Wytłumaczalna SI jest również ważna w wykrywaniu wad i błędów w danych, które mogą prowadzić do niewłaściwych lub niesprawiedliwych decyzji.

Niezbędne jest budowanie większego zaufania w zakresie stosowania SI. Tylko w przypadku zaufania do technologii, można ją szeroko wdrożyć w całej organizacji. Jednak chociaż wytłumaczalna SI może być rozsądnym celem, wiążą się z tym poważne wyzwania.

Kontekst będzie ważnym czynnikiem – na przykład zrozumienie algorytmów odpowiadających za rekomendacje telewizyjne i filmowe w serwisie Netflix* nie jest istotne dla większości ludzi, ponieważ ich wpływ jest minimalny. Jednak zrozumienie SI w sytuacjach, w których wpływ jest znacznie poważniejszy, budzi większe obawy. Podejmowanie decyzji diagnostycznych w opiece zdrowotnej lub podejmowanie działań wojskowych za pomocą systemu opartego na SI wymaga dokładnego zrozumienia, w jaki sposób podjęto decyzję. To dlatego stopień, w jakim firma musi wyjaśnić działania kryjące się za stosowaną przez nią SI, może zależeć od związanej z nią powagi konsekwencji i poziomu autonomii.

Jednak wpływ wytłumaczalnej SI nie zawsze jest pozytywny. Jeśli firmy są zmuszone ujawnić funkcjonowanie swojej technologii, może to oznaczać, że w rzeczywistości muszą ujawniać swoje pomysły i własność intelektualną. Co więcej, pojawiają się pytania o to, co dokładnie rozumiemy przez określenie „wytłumaczalny”. Wiele algorytmów SI wykracza poza ludzką wyobraźnię i z pewnością znacznie wykracza poza zrozumienie większości użytkowników końcowych, zatem jest mało prawdopodobne, aby wyjaśnienie miało dla nich sens.

Co więcej, istnieje kompromis między wydajnością a możliwością wyjaśnienia. Jeśli każdy etap w systemie SI musi zostać udokumentowany i wyjaśniony, proces ten nieuchronnie staje się wolniejszy. Może to nie tylko ograniczyć prędkość systemu i ograniczyć jego zastosowania, ale także może powstrzymać dalsze innowacje.

W nadchodzących miesiącach i latach przedsiębiorstwa będą narażone na zwiększenie nacisku na wdrażanie przejrzystych systemów SI. Wyjaśnienie będzie kluczem do budowania zaufania potrzebnego do szerszego zastosowania SI. Jednakże dojście do powszechnie przyjętej definicji tego, czego dokładnie powinna dotyczyć wytłumaczalna SI, może zająć trochę czasu.

Źródło: Intel