Hugging Face ofiarą ataku autonomicznej armii agentów AI

Platforma Hugging Face stała się celem zaawansowanego ataku przeprowadzonego w całości przez autonomiczne agenty sztucznej inteligencji. Incydent doprowadził do nieautoryzowanego dostępu do wewnętrznych zbiorów danych oraz poświadczeń, choć publiczne modele i zasoby użytkowników pozostały nienaruszone.

Rój agentów wewnątrz infrastruktury danych

Agresorzy wykorzystali specjalistyczną strukturę autonomicznych agentów, która wykonała tysiące operacji przy użyciu krótkotrwałych środowisk testowych, czyli tak zwanych sandboxów. Punktem wyjścia dla napastników był proces przetwarzania danych, gdzie złośliwy zbiór danych wykorzystał luki w mechanizmie zdalnego ładowania kodu oraz konfiguracji szablonów. Pozwoliło to systemowi AI na wykonanie złośliwego kodu, przejęcie kontroli nad pojedynczymi węzłami, a następnie kradzież poświadczeń chmurowych i klastrowych. Dzięki tym działaniom autonomiczna armia mogła swobodnie poruszać się wewnątrz klastrów firmy przez cały weekend, co świadczy o wysokiej skuteczności zautomatyzowanych działań hakerskich.

Bariery ochronne utrudniły śledztwo

Co ciekawe, podczas badania naruszenia zespół Hugging Face napotkał nieoczekiwaną przeszkodę związaną z najpopularniejszymi modelami językowymi. Ich wbudowane mechanizmy bezpieczeństwa blokowały analizę fragmentów kodu ataku, ponieważ systemy te nie potrafiły odróżnić działań ekspertów od bezpieczeństwa od prawdziwego zagrożenia. Z tego powodu firma musiała zrezygnować z usług gigantów takich jak OpenAI czy Anthropic na rzecz chińskiego modelu GLM 5.2 o otwartych wagach. Uruchomienie modelu na własnej infrastrukturze pozwoliło na przeprowadzenie pełnej analizy śledczej bez ryzyka wycieku wrażliwych danych na zewnątrz oraz bez blokad narzuconych przez dostawców komercyjnych rozwiązań.

Naprawa szkód i nowe standardy ochrony

W odpowiedzi na naruszenie platforma podjęła natychmiastowe kroki naprawcze, całkowicie usuwając obecność napastnika i odbudowując zainfekowane węzły. Wszystkie zagrożone klucze dostępu oraz tokeny zostały unieważnione, a w klastrach wprowadzono rygorystyczne systemy kontroli wejścia oraz usprawnione mechanizmy wykrywania zagrożeń działające w czasie rzeczywistym. Przedstawiciele firmy podkreślają, że incydent ten stanowi ważną lekcję, gdyż pokazuje, że napastnicy nie są ograniczeni żadnymi zasadami użytkowania modeli. Obecnie Hugging Face zaleca wszystkim swoim klientom profilaktyczną zmianę tokenów dostępowych oraz dokładną weryfikację ostatniej aktywności na kontach w celu wyeliminowania dalszego ryzyka.