Raport Axence: Firmy sprawdzają ludzi tygodniami, a AI wpuszczają w minutę

Przedsiębiorstwa skrupulatnie weryfikują nowych pracowników, jednak często wykazują się brakiem podobnej ostrożności wobec narzędzi opartych na sztucznej inteligencji. Brak jasnych procedur dotyczących korzystania z algorytmów generatywnych otwiera drogę do wycieku wrażliwych informacji oraz ułatwia przestępcom przeprowadzanie wyrafinowanych ataków.

Paradoks weryfikacji i zjawisko Bring Your Own AI

Proces sprawdzania kompetencji człowieka przed dopuszczeniem go do zasobów organizacji trwa średnio 38 dni, podczas gdy nowa aplikacja może pojawić się w firmowej infrastrukturze niemal natychmiast. Raporty rynkowe Microsoft i LinkedIn wskazują na masową skalę zjawiska, w którym aż 78 procent użytkowników sztucznej inteligencji przynosi do pracy własne, nieautoryzowane narzędzia. Dzieje się to zazwyczaj bez wiedzy działów IT oraz bez jasnych wytycznych, co powoduje, że technologia wyprzedza oficjalne procedury bezpieczeństwa. Skala tego procesu jest ogromna, gdyż według danych McKinsey prawie 9 na 10 organizacji korzysta już z algorytmów w codziennej działalności, mimo że wiele z nich znajduje się wciąż na etapie niespójnych wdrożeń.

Niekontrolowany przepływ danych i brak procedur

Poważnym wyzwaniem dla współczesnego biznesu nie jest samo wykorzystanie nowoczesnych technologii, lecz brak zasad określających, jakie informacje mogą trafiać do modeli publicznych. Obecnie jedynie 37 procent organizacji posiada wdrożone procesy oceny bezpieczeństwa narzędzi przed ich uruchomieniem, mimo że większość spodziewa się ich istotnego wpływu na ochronę cyfrową. Robert Posłajko z firmy Axence zauważa, że o ile sprawdzamy doświadczenie i dopasowanie pracownika do roli, o tyle w przypadku algorytmów narzędzie często zaczyna być używane, zanim firma ustali, jak kontrolować jego wyniki. Powstająca w ten sposób luka sprawia, że do ogólnodostępnych baz mogą trafiać fragmenty dokumentów, dane klientów czy wewnętrzne tajemnice handlowe.

Ewolucja ataków i nowa twarz phishingu

Zagrożenia związane z automatyzacją mają również swój wymiar zewnętrzny, wynikający z działań cyberprzestępców. Wykorzystanie modeli generatywnych pozwala oszustom na tworzenie komunikatów pozbawionych błędów językowych i literówek, które dotychczas ułatwiały rozpoznanie manipulacji. W praktyce oznacza to, że pracownicy otrzymują wiadomości idealnie dopasowane do kontekstu firmy, napisane profesjonalnym stylem przypominającym prawdziwą korespondencję biznesową. Taka personalizacja ataków phishingowych sprawia, że tradycyjna ochrona musi zostać rozszerzona o nowe scenariusze, w których technologia staje się narzędziem wyrafinowanej manipulacji i źródłem błędnych decyzji.