Tradycyjne zapory nie zatrzymają agentów AI. F5 wskazuje na nowe podejście

Wdrożenie agentów sztucznej inteligencji wymaga od organizacji przewartościowania dotychczasowych metod ochrony danych. Jak wskazuje firma F5, tradycyjne sprawdzanie uprawnień i pojedynczych żądań przestaje gwarantować bezpieczeństwo, gdy autonomiczny system samodzielnie tworzy dynamiczne ścieżki działania. Nowym standardem w branży staje się bieżące zarządzanie zachowaniem i wyznaczanie jasnych granic dla realizowanych zadań.

Dynamiczne ścieżki działania stawiają nowe wyzwania przed architekturą ochrony IT

Lori MacVittie, Distinguished Engineer i Chief Evangelist w firmie F5, zwraca uwagę na specyfikę funkcjonowania agentów AI. W odróżnieniu od klasycznych aplikacji działających według z góry zaprogramowanych schematów, autonomiczne systemy otrzymują cel i same dobierają narzędzia oraz sekwencje kroków. Pojedyncza operacja wykonywana przez agenta może w pełni odpowiadać polityce bezpieczeństwa, jednak zestawienie wielu poprawnych kroków może prowadzić do nieprzewidzianego i niebezpiecznego rezultatu. Jak wyjaśnia Lori MacVittie:

W przypadku agentów AI pojedyncze żądanie może być całkowicie poprawne: tożsamość jest prawidłowa, uprawnienia się zgadzają, a polityka bezpieczeństwa pozwala na wykonanie operacji. Ryzyko pojawia się wtedy, gdy wiele takich poprawnych działań zostaje połączonych w sekwencję, której nikt wcześniej nie przewidział.

Zjawisko to potwierdzają również analizy OWASP Agentic Top 10, wskazujące na zagrożenia związane z przejmowaniem celu agenta czy wieloetapowym wykonywaniem zadań.

Kontrola pojedynczych zapytań ustępuje miejsca zarządzaniu zachowaniem całego systemu

Eksploracja struktury plików czy przeszukiwanie baz danych przez agenta jest często niezbędne do wykonania powierzonego mu zadania. Zapewnienie pełnej swobody rodzi jednak niebezpieczeństwo niekontrolowanego dostępu do zasobów, do których agent nie powinien mieć wglądu. Ekspertka F5 zaznacza, że rozwiązaniem nie jest całkowite blokowanie działania, lecz przejście na model ciągłego zarządzania zachowaniem, czyli tzw. behavioral governance. Ekspertka dodaje:

Nie musimy przewidywać każdej możliwej ścieżki działania agenta. Musimy natomiast zdefiniować granice jego działania i stale sprawdzać, czy jego zachowanie wciąż mieści się w tych granicach.

Istotne staje się więc ustalenie limitów budżetowych, ograniczenie liczby dozwolonych operacji, zakaz modyfikacji środowisk produkcyjnych czy wprowadzenie wymogu dodatkowej autoryzacji przy zadaniach wysokiego ryzyka.

Infrastruktura sieciowa zyskuje nowe zadania w zakresie analizy kontekstu i korelowania zdarzeń

Transformacja podejścia do ochrony wymusza również ewolucję roli tradycyjnych elementów infrastruktury IT, takich jak bramki API, service mesh czy platformy orkiestracji. Narzędzia te mogą analizować całe sekwencje ruchów agenta, oceniać ich kontekst oraz automatycznie reagować w momencie zbliżania się do określonych wartości granicznych. Reakcja systemu nie musi przy tym sprowadzać się do natychmiastowej blokady operacji – dopuszczalne jest spowolnienie tempa pracy agenta, zwężenie uprawnień lub skierowanie go do odizolowanego środowiska. W efekcie nową miarą i jednostką w systemach bezpieczeństwa staje się kompletne zachowanie programu. Jak podsumowuje Lori MacVittie:

Jednostką bezpieczeństwa przestaje być pojedynczy request. Staje się nią zachowanie. Nie wystarczy już pytać, czy konkretne żądanie jest dozwolone. Trzeba oceniać, czy zachowanie, które ono reprezentuje, nadal powinno być dozwolone.