Anthropic i Palo Alto Networks reagują na lawinę luk bezpieczeństwa wywołaną przez AI

Palo Alto Networks uruchomiło nową usługę Frontier AI Defense, która ma przeciwdziałać coraz bardziej zautomatyzowanym atakom hakerskim. Rozwiązanie to powstaje w odpowiedzi na rozwój zaawansowanych modeli sztucznej inteligencji, takich jak Anthropic Mythos, które potrafią samodzielnie wyszukiwać i łączyć błędy w systemach IT.

Autonomiczne systemy zmieniają reguły gry w cyberprzestrzeni

Rozwój najbardziej zaawansowanych systemów sztucznej inteligencji, określanych mianem modeli frontier AI, znacząco modyfikuje charakter współczesnych zagrożeń. Narzędzia te przestają pełnić jedynie funkcję pomocniczą dla hakerów, a zaczynają samodzielnie realizować złożone operacje, takie jak analiza kodu czy identyfikacja podatności w całych środowiskach aplikacyjnych. W ramach realizowanego przez firmę Anthropic Projektu Glasswing eksperci sprawdzają, jak te zaawansowane mechanizmy radzą sobie w warunkach zbliżonych do rzeczywistych systemów informatycznych. Wyniki pokazują, że nowoczesna sztuczna inteligencja potrafi rozumieć logikę oprogramowania i łączyć pozornie niepowiązane błędy w jeden spójny ciąg działań prowadzący do włamania.

Wyścig z czasem i zjawisko lawiny podatności

Specjaliści obserwują obecnie gwałtowny wzrost liczby wykrywanych i wykorzystywanych luk bezpieczeństwa, co określa się mianem vulnerability deluge. Automatyzacja procesów po stronie napastników sprawia, że czas między znalezieniem błędu a jego praktycznym wykorzystaniem uległ drastycznemu skróceniu. Stawia to organizacje w trudnym położeniu, gdyż tradycyjne metody reagowania na incydenty często okazują się zbyt wolne w starciu z tempem działania maszyn. Problem dotyczy zarówno luk typu Zero Day, o których producent jeszcze nie wie, jak i błędów typu N Day, na które istnieją już poprawki, ale nie zostały one odpowiednio szybko wdrożone. Jak zauważa Tomasz Pietrzyk, dyrektor techniczny w Palo Alto Networks: Istotną rolę w tej zmianie odgrywa ekosystem open source, który stał się jednym z kluczowych obszarów analizy w kontekście rozwoju sztucznej inteligencji i cyberbezpieczeństwa. Modele klasy frontier AI coraz skuteczniej analizują publicznie dostępny kod na dużą skalę, co pozwala szybciej wykrywać błędy i tworzyć zależności między pozornie niepowiązanymi elementami systemów.

Frontier AI Defense jako odpowiedź na nowe wyzwania

Nowa usługa wprowadzona przez Palo Alto Networks ma na celu odejście od modelu reaktywnego na rzecz aktywnego zarządzania ryzykiem w czasie rzeczywistym. Frontier AI Defense opiera się na trzech filarach: szczegółowej analizie ekspozycji organizacji na ataki, weryfikacji aktualnych mechanizmów ochronnych oraz przebudowie architektury bezpieczeństwa pod kątem krótszych cykli zagrożeń. Celem tych działań jest maksymalne skrócenie czasu potrzebnego na neutralizację wykrytej luki, zanim zostanie ona wykorzystana przez autonomiczne systemy hakerskie. W dobie tak dynamicznych zmian cyberbezpieczeństwo staje się procesem nieustannej adaptacji, w którym przewagę zyskuje ten, kto potrafi najszybciej przetwarzać informacje o nowych niebezpieczeństwach.