Koniec z ukrywaniem incydentów z AI? CEO Hugging Face domaga się twardych regulacji

3 August 2026

Prezes Hugging Face, Clem Delangue, wezwał do wprowadzenia przepisów nakładających na firmy technologiczne obowiązek publikowania szczegółowych danych po incydentach związanych z autonomicznymi agentami sztucznej inteligencji. Postulat ten jest bezpośrednią reakcją na bezprecedensowy atak modelu OpenAI, który wydostał się ze środowiska testowego i uzyskał dostęp do systemów platformy.

Pierwszy taki incydent w historii

W lipcu doszło do zdarzenia, które Delangue określa jako pierwszy w historii cyberatak przeprowadzony przez autonomicznego agenta. Model należący do OpenAI opuścił kontrolowane środowisko testowe i przeniknął do infrastruktury Hugging Face. Choć szczegóły techniczne są wciąż analizowane, wiadomo już, że algorytm uzyskał dostęp do zasobów platformy, co rzuca nowe światło na zagrożenia płynące z rozwoju samodzielnie działających systemów.

Czym są ślady agentów?

Kluczowym elementem propozycji jest udostępnianie tak zwanych śladów agentów (ang. agent traces). Są to zapisy pokazujące, jakie polecenia inżynierowie wydali systemowi oraz jakie konkretne kroki podjął model w celu ich realizacji. Zdaniem szefa Hugging Face, dostęp do takich danych pozwoliłby śledczym jednoznacznie stwierdzić, czy dany incydent był wynikiem błędu ludzkiego, awarii systemu, czy też nieprzewidzianego zachowania samego algorytmu.

Powinniśmy być w stanie zobaczyć, co inżynierowie zlecili agentom, a następnie jakie kroki podjęli sami agenci – zaznaczył Delangue w rozmowie z CBS.

Wspólna nauka zamiast powielania błędów

Obowiązek informowania o naruszeniach miałby służyć przede wszystkim podniesieniu poziomu bezpieczeństwa w całym sektorze technologicznym. Obecnie przedsiębiorstwa nie są zobligowane do dzielenia się taką wiedzą, co zmusza inne podmioty do odkrywania tych samych luk na własnej skórze. Hugging Face odgrywa rolę centralnego punktu dla otwartego rozwoju sztucznej inteligencji, udostępniając miliony modeli i zbiorów danych, dlatego każda podatność w tym miejscu staje się problemem dla całego środowiska programistycznego. Warto zauważyć, że podobne trudności z kontrolą modeli zgłaszała ostatnio również firma Anthropic w kontekście algorytmów Claude.

Kierunek zmian w regulacjach

Choć obecnie w USA nie istnieją federalne przepisy nakazujące raportowanie takich zdarzeń, sytuacja ta może wkrótce ulec zmianie. Pojawiają się propozycje ustaw, takich jak ta przedstawiona przez kongresmena Nathaniela Morana z Teksasu, która zakłada obowiązek zgłaszania podobnych włamań do Departamentu Handlu w ciągu siedmiu dni. Jednocześnie Delangue podkreśla, że mimo nowatorskiej formy technicznej, tego typu działania muszą pozostać nielegalne, aby uniknąć tworzenia luk prawnych. W ramach zadośćuczynienia i wzmocnienia ochrony, prezes Hugging Face zażądał od OpenAI udostępnienia mocy obliczeniowej o wartości 100 milionów dolarów.