Banki chcą powierzyć decyzje sztucznej inteligencji, nawet jeśli nie rozumieją, jak są one podejmowane

Banki zmierzają w kierunku przyszłości, w której sztuczna inteligencja nie będzie już jedynie wspierać kluczowych decyzji odnośnie kredytów, zarządzania finansami i ryzykiem, lecz samodzielnie je podejmować. Jak wynika z najnowszego badania dotyczącego ryzyka związanego z AI, przeprowadzonego przez FT Longitude oraz firmy SAS i Microsoft, rozwój mechanizmów nadzoru nad AI nie nadąża za tempem wdrażania tej technologii.

Choć ponad trzy czwarte banków przewiduje, że do 2031 roku sztuczna inteligencja będzie autonomicznie podejmować decyzje kredytowe i dotyczące ryzyka na szeroką skalę, wyniki badania pokazują, że:

• Tylko 18% banków posiada obecnie w pełni operacyjne i zintegrowane z działalnością organizacji mechanizmy nadzoru nad sztuczną inteligencją.
• Zaledwie 19% monitoruje dryf AI w czasie rzeczywistym.
• 42% nie posiada zdefiniowanych mechanizmów awaryjnego wyłączania (tzw. kill switch), które przekraczają ustalone wcześniej granice.
• Jedynie 36% banków regularnie ponownie trenuje lub aktualizuje modele.

Zagrożenia te nie są wyłącznie teoretyczne. Kiedy systemy AI podejmują błędne decyzje, konsekwencje odczuwają zarówno klienci banków i lokalne społeczności, jak i same instytucje w postaci strat finansowych oraz utraty reputacji. Samo szybkie wdrażanie AI nie wystarczy. Utrzymanie pozycji lidera wymaga odpowiednio zaprojektowanych procesów biznesowych, skutecznych mechanizmów nadzoru oraz wykorzystania godnej zaufania sztucznej inteligencji na szeroką skalę. Dopiero połączenie tych elementów pozwala osiągać oczekiwane wyniki biznesowe, budować odporność organizacji, zapewniać zgodność z regulacjami i odpowiedzialność, których wymaga współczesna bankowość – powiedział Anselmo Marmonti, Vice President of Risk, Fraud and Compliance Solutions w SAS.

AI rozwija się szybciej niż mechanizmy nadzoru

82% przedstawicieli kadry zarządzającej banków deklaruje, że ich organizacje wykorzystują już generatywną sztuczną inteligencję do podejmowania decyzji, a 41% korzysta z agentowej. Jeśli uwzględnić również tradycyjne rozwiązania predykcyjnej sztucznej inteligencji, takie jak uczenie maszynowe, technologia ta jest już niemal powszechnie stosowana. Spośród 300 banków objętych badaniem aż 299 wykorzystuje AI w procesach podejmowania decyzji kredytowych i zarządzania ryzykiem.

Sukces odniosą te banki, które będą rozwijać innowacje technologiczne równolegle z mechanizmami nadzoru. Pozwoli im to podejmować decyzje szybciej, bez rezygnowania z przejrzystości, kontroli czy zaufania organów regulacyjnych.

Ryzykowne modele typu black box?

Badanie ujawniło również niepokojące napięcie między skutecznością a przejrzystością działania sztucznej inteligencji. 63% przedstawicieli kadry zarządzającej banków zadeklarowało gotowość do korzystania z modeli typu black box, czyli takich, których proces podejmowania decyzji jest w niewielkim stopniu przejrzysty lub całkowicie nieprzejrzysty, jeśli oferowałyby one lepsze wyniki, wyższą rentowność lub większą płynność niż modele umożliwiające wyjaśnienie podejmowanych decyzji.

Nieefektywne mechanizmy nadzoru mogą skłaniać niektóre banki do poszukiwania sposobów ich obejścia i dróg na skróty. Wiąże się to jednak z realnym zagrożeniem. Szybka poprawa wyników dzięki modelowi AI typu black box może wydawać się atrakcyjna w krótkiej perspektywie, ale brak przejrzystości, powtarzalności i możliwości wyjaśnienia jego działania stwarza poważne problemy z punktu widzenia regulacji i zarządzania ryzykiem. Wraz ze wzrostem autonomii AI i przejmowaniem przez nią coraz bardziej odpowiedzialnych zadań, muszą ewoluować również mechanizmy nadzoru. Szansą dla banków jest wdrożenie odpowiednich zabezpieczeń, monitoringu i kontroli ze strony człowieka. Dzięki temu mogą szybciej wykorzystywać potencjał AI, zachowując jednocześnie zaufanie i odpowiedzialność, których wymaga sektor usług finansowych – powiedział Tyler Pichach, Global Head of Payments, AI Strategy and Go-to-Market w Microsoft.

Coraz bliżej autonomicznych decyzji 

Choć sztuczna inteligencja już dziś wpływa na codzienne funkcjonowanie banków, niewiele instytucji pozwala jej samodzielnie działać. Zaledwie 10% respondentów deklaruje, że AI autonomicznie podejmuje decyzje kredytowe lub dotyczące ryzyka na szeroką skalę.

Prognozy na nadchodzące lata rysują się jednak zgoła inaczej. Aż 76% badanych zakłada, że w perspektywie pięciu lat sztuczna inteligencja przejmie samodzielne rozstrzyganie kluczowych procesów na masową skalę. Natomiast 25% respondentów spodziewa się wdrożenia takich rozwiązań już w ciągu najbliższych 24 miesięcy.

Raport Why AI at Scale Needs Governance at Speed powstał na podstawie globalnego badania przeprowadzonego wśród 300 przedstawicieli kadry zarządzającej banków z 31 krajów. Wyniki wskazują na pogłębiającą się lukę między ambicjami banków w zakresie wykorzystania AI a mechanizmami kontroli i zabezpieczeniami niezbędnymi do bezpiecznego i odpowiedzialnego wdrażania agentów AI oraz innych autonomicznych modeli i narzędzi sztucznej inteligencji.