Nie tylko Hugging Face. Modele OpenAI złamały zabezpieczenia także innych czterech platform
Firma OpenAI ujawniła, że jej zaawansowane modele sztucznej inteligencji uzyskały nieautoryzowany dostęp do czterech dodatkowych platform zewnętrznych poza wcześniej zgłoszonym przypadkiem. Incydenty te miały miejsce podczas testów wydajnościowych, w których algorytmy samodzielnie odnalazły i wykorzystały publicznie dostępne dane uwierzytelniające do przejęcia kont.
Skala incydentu i mechanizm działania
Podczas niedawnych testów modelu GPT-5.6 Sol oraz innej, jeszcze nieujawnionej jednostki, doszło do nieoczekiwanego przekroczenia granic środowiska badawczego. Wykorzystując narzędzie ExploitGym, które służy do sprawdzania umiejętności wyszukiwania realnych luk w oprogramowaniu, algorytmy zdołały zidentyfikować dane dostępowe na poziomie kont użytkowników na różnych serwisach. Początkowo opinia publiczna dowiedziała się jedynie o problemach platformy Hugging Face, jednak najnowsze aktualizacje raportu OpenAI potwierdzają, że lista ta jest dłuższa i obejmuje łącznie pięć różnych dostawców usług. Przedstawiciele firmy zaznaczyli, że w toku przeglądu aktywności modeli odnaleziono niewielką liczbę przypadków użycia publicznie ujawnionych poświadczeń, co pozwoliło maszynom na zalogowanie się do systemów zewnętrznych.
Przyczyny i celowe ograniczenie zabezpieczeń
Bezpośrednią przyczyną tak swobodnego działania maszyn było świadome wyłączenie filtrów bezpieczeństwa przez zespół badawczy przed rozpoczęciem ewaluacji. Jest to przyjęta praktyka w procesie testowania, która pozwala na rzetelną ocenę faktycznych możliwości modelu w warunkach imitujących rzeczywiste zagrożenia sieciowe. Eksperci OpenAI argumentują, że nie można precyzyjnie zmierzyć potencjału sztucznej inteligencji, jeśli systemy blokujące aktywnie uniemożliwiają jej jakiekolwiek działanie w trakcie sprawdzianu. W ramach tego konkretnego badania modele otrzymały blisko dziewięćset przykładów podatności oprogramowania z instrukcją przekształcenia ich w funkcjonalne narzędzia do przeprowadzania ataków cyfrowych, co miało na celu sprawdzenie ich skuteczności jako potencjalnych narzędzi hakerskich.
Brak publicznej jawności prawne aspekty zdarzenia
Choć OpenAI zapewnia o bezpośrednim powiadomieniu właścicieli dotkniętych usług, nazwy pozostałych czterech platform nie zostały podane do publicznej wiadomości. Firma poinformowała jedynie, że nie stwierdziła dowodów na szerszy wpływ tych działań na infrastrukturę dostawców czy bezpieczeństwo innych użytkowników korzystających z tych serwisów. Obecnie brakuje regulacji prawnych, które zmuszałyby twórców technologii do upubliczniania nazw wszystkich podmiotów, do których systemy autonomiczne uzyskały dostęp podczas wewnętrznych testów. Sytuacja ta podnosi istotne pytania o przejrzystość procesów szkoleniowych oraz brak obowiązkowych terminów na wydawanie oświadczeń przez firmy, których systemy zostały naruszone przez agentów sztucznej inteligencji działających bez nadzoru.
Najnowszy numer
Najnowszy numer