Kto będzie sprawował kontrolę – człowiek czy sztuczna inteligencja? Raport fundacji Centrum Cyfrowe „Człowiek vs AI”.

Sztuczna inteligencja, SI, AI – jakkolwiek nie nazwiemy samego zjawiska już teraz jest ono faktem, chociaż, póki co, w dość ograniczonej formie. Coraz częściej jednak poddawane są w rozważanie kwestie związane z dalszym rozwojem tej technologii. Próbę wyjaśnienia przyszłych relacji człowiek-maszyna podejmują autorzy najnowszego raportu fundacji Centrum Cyfrowe. 

Raport został opublikowany 9 grudnia 2019 roku i wskazuje na przykłady zastosowań, zarówno ze świata jak i z naszego kraju. Odpowiada na pytanie o to, jak zautomatyzowane podejmowanie decyzji może wpływać na społeczeństwo kluczowych obszarach: prewencji przestępstw, sądownictwie rynku pracy, opiece społecznej i medycznej, edukacji, dostępie do kultury i informacji, finansach i sądownictwie.

– Zautomatyzowany sposób podejmowania decyzji jest ważnym trendem w ramach rozwoju sztucznej inteligencji, który dociera do Polski. Algorytmy jeszcze nie rządzą Polakami, ale coraz częściej przejmują kontrolę i odpowiedzialność za nasze zachowania – mówią eksperci fundacji Centrum Cyfrowego i Klubu Jagiellońskiego.

 

– Mamy szansę, aby zapobiec temu, co dzieje się już w Stanach Zjednoczonych. Tamtejsi obywatele coraz częściej nie mają wiedzy i wpływu na to, jak algorytm ocenia ich w kluczowych obszarach życia – w pracy, w szkole, na uczeni, w sądzie czy u lekarza. Mają wysokie PKB kraju, ale oddalają się od modelu zdrowego społeczeństwa – alarmuje dr Alek Tarkowski, prezes fundacji Centrum Cyfrowe, która wraz z Klubem Jagiellońskim opublikowała raport o tym, co robić, aby to algorytmy służyły społeczeństwu, a nie na odwrót.

Paradoksalnie innowacyjne zapóźnienie jest szansą dla Polski. Zdaniem autorów raportu, którzy przez kilka miesięcy analizowali przykłady wdrożeń oraz analizy kluczowych organizacji monitorujących to, jakie są skutki zautomatyzowanego podejmowania decyzji, nie musimy popełnić tych samych błędów, które popełniono na tzw. Zachodzie. W Polsce wdraża się mniej systemów ADM niż w innych państwach europejskich i innych rozwiniętych gospodarkach.

– Skala wdrożenia technologii cyfrowych w społeczeństwie i gospodarce w Polsce jest wciąż dużo niższa niż na Zachodzie. Z jednej strony to martwi, bo odbija się na PKB kraju i pozostawia nas na końcu rankingów innowacyjności. Z drugiej takie opóźnienie to szansa na to, aby zadbać o kondycję społeczną i zasady, na których chcemy wdrożyć sztuczną inteligencję w naszym kraju. Z korzyścią zarówno dla gospodarki, jak i społeczeństwa – komentuje Tarkowski z fundacji Centrum Cyfrowe.

Autorzy raportu wskazują na większe znaczenie ADM (Automated Decision Making, ang. zautomatyzowanego podejmowania decyzji) niż AI jako takiego. Podkreślają oni, że to właśnie procesy podejmowania decyzji przez algorytm mają potencjał do zmiany życia tak jednostek, jak i całych społeczeństw.

– Eksperci wskazują, w wyniku wprowadzenia sztucznej inteligencji obywatele zostają pozbawieni wiedzy o tym, według jakich kryteriów technologie cyfrowe podejmują o nich decyzje. Zdarza się również, że niesprawiedliwa decyzja bywa wynikiem wadliwie skonstruowanego algorytmu. – Ktoś nie dostał kredytu w banku, ktoś nie może zapisać dzieci do wymarzonej szkoły, ktoś nie dostaje zleceń – każdy chciałby dowiedzieć się, dlaczego tak się dzieje – przekonuje dr Alek Tarkowski.

Kwestia poprawności decyzji podejmowanych przez maszynę jest dość złożonym tematem. Błąd ludzki przy podejmowaniu decyzji uznajemy za coś naturalnego, podczas gdy od systemów zautomatyzowanych oczekujemy bezbłędności – ta natomiast jest niemożliwa do osiągnięcia. Konieczna jest więc, zdaniem autorów raportu, pewna transparentność w podejmowaniu zautomatyzowanych decyzji. Wskazuje na to także dr Tarkowski. Jego zdaniem, wszystko byłoby w porządku, gdybyśmy mieli wgląd w zautomatyzowane procesy decyzyjne podejmowane przez sztuczną inteligencję. Moglibyśmy zweryfikować to, czy są sprawiedliwe. – Doświadczenia z innych krajów pokazują, że obywatele stają się ofiarami zautomatyzowanych procesów decyzyjnych, które prowadzą także do pogłębiania nierówności społecznych, nasilają rasizm czy mogą pogłębiać ubóstwo – dodaje Tarkowski.

https://itreseller.pl/itrnewprojekty-korzystajace-z-internetu-rzeczy-wspieranych-sztuczna-inteligencja-sa-bardziej-efektywne-niz-bez-ai-wynika-z-badania-idc-pod-patronatem-firm-sas-deloitte-oraz-intel/