AI zaczyna rządzić w finansach, a regulacje… próbują nadążyć za kodem

Sektor usług finansowych przechodzi głęboką transformację, rezygnując z dominującej roli człowieka na rzecz zaawansowanych systemów sztucznej inteligencji zdolnych do samodzielnego działania. Brytyjski organ nadzoru finansowego, Financial Conduct Authority (FCA), opublikował raport wskazujący na konieczność dostosowania przepisów do nowej rzeczywistości, w której technologia przestaje jedynie doradzać, a zaczyna realnie zarządzać operacjami klientów.

Samodzielne systemy zastępują tradycyjne doradztwo

Banki coraz częściej wdrażają tak zwanych agentów AI, czyli oprogramowanie zdolne do wykonywania skomplikowanych zadań w imieniu użytkowników. Przykładem są działania banku BNY, który korzysta już z setek cyfrowych pracowników do optymalizacji procesów, czy TD Bank analizujący potencjał autonomicznych asystentów. Dane organizacji Cloud Security Alliance potwierdzają skalę tego zjawiska – już ponad sześćdziesiąt procent firm finansowych wdrożyło takie rozwiązania, przy czym zdecydowana większość z nich pozwala maszynom na samodzielne podejmowanie decyzji. Transformacja ta obejmuje również zmiany personalne na najwyższych szczeblach, co widać po nominacjach dyrektorów do spraw sztucznej inteligencji w takich instytucjach jak Commonwealth Bank of Australia czy Lloyds Banking Group.

Nowe wyzwania dla nadzoru finansowego

Według raportu opracowanego pod kierownictwem Sheldona Millsa z FCA, rosnąca samodzielność maszyn zmienia charakter ryzyka dla całego rynku. O ile wcześniej błędy dotyczyły zazwyczaj pojedynczych instytucji, o tyle teraz usterka w powszechnie stosowanym modelu może zagrozić stabilności całego systemu finansowego. Sheldon Mills zauważa w dokumencie, że w miarę jak systemy przechodzą od rekomendowania do działania, a firmy i konsumenci delegują im coraz więcej uprawnień, zagrożenia ewoluują w stronę szkód o zasięgu ogólnokrajowym. Regulator wskazuje, że głównym zadaniem będzie znalezienie równowagi między pozwalaniem na automatyzację a utrzymaniem kontroli nad procesami, które stają się coraz mniej przejrzyste.

Odpowiedzialność i zarządzanie zewnętrznymi dostawcami

Kluczowym aspektem bezpiecznego korzystania z nowoczesnych narzędzi pozostaje odpowiednie zarządzanie i nadzór nad dostawcami zewnętrznymi, w tym twórcami samych modeli językowych. Instytucje finansowe muszą precyzyjnie określić zasady, na jakich systemy zewnętrzne uzyskują dostęp do wrażliwych danych oraz uruchamiają przepływy pracy wewnątrz banku. Zdaniem Millsa, znalezienie równowagi między ułatwianiem delegowania zadań a zarządzaniem autonomią maszyn to główne wyzwanie, przed którym stoi obecnie nadzór. Wymaga to budowy zupełnie nowych metod inspekcji, które same będą wykorzystywać sztuczną inteligencję do monitorowania rynku.