Cztery krytyczne punkty zapalne w bezpieczeństwie firm. Nowy raport od Gartner

Analitycy z firmy Gartner zidentyfikowali cztery kluczowe obszary zagrożeń cyfrowych, które obecnie wymagają od przedsiębiorstw natychmiastowej uwagi. Raport wskazuje przede wszystkim na ryzyka związane z rozwojem sztucznej inteligencji, takie jak przejęcia aplikacji, manipulowanie poleceniami oraz coraz doskonalsze próby podszywania się pod pracowników.

AI pod stałym ostrzałem przestępców

Głównym problemem staje się rosnąca popularność generatywnej sztucznej inteligencji, która znacząco powiększa obszar potencjalnego ataku na zasoby organizacji. Firmy narażone są na przejęcie kontroli nad własnymi agentami cyfrowymi oraz wycieki danych wynikające z nieszczelnych integracji z rozwiązaniami zewnętrznych dostawców. Eksperci sugerują, aby organizacje wprowadziły rygorystyczne zasady zarządzania dostępem oparte na konkretnych potrzebach oraz stale monitorowały działanie wszystkich systemów opartych na modelach uczących się.

Pułapki w kodzie i manipulacja treścią

Kolejnym poważnym wyzwaniem jest zjawisko określane jako prompt injection, czyli wprowadzanie złośliwych instrukcji do systemów językowych w celu obejścia barier ochronnych lub wydobycia poufnych informacji. Zagrożenie to narasta wraz z atakami na łańcuch dostaw oprogramowania, gdzie słabości w komponentach o otwartym kodzie źródłowym są coraz częściej wykorzystywane przez hakerów. Aby temu przeciwdziałać, niezbędne staje się wymaganie od kontrahentów szczegółowych wykazów wszystkich elementów składowych aplikacji oraz wzmacnianie procesów ich bezpiecznego wdrażania.

Realistyczne fałszerstwa jako skuteczne narzędzie oszustwa

Rozwój technologii deepfake sprawił, że tworzenie wiarygodnych materiałów wideo oraz nagrań głosowych stało się znacznie prostsze i powszechnie dostępne. Przestępcy wykorzystują te techniki do omijania procedur rekrutacyjnych oraz weryfikacji tożsamości, co bezpośrednio uderza w bezpieczeństwo finansowe przedsiębiorstw. Według analityków same mechanizmy technologiczne do wykrywania fałszerstw nie są już wystarczającą barierą, dlatego firmy muszą pilnie przebudować swoje procesy wewnętrzne i zasady uwierzytelniania użytkowników.