Anthropic uszczelnia systemy po incydentach z modelami Claude

Amerykańska spółka Anthropic poinformowała o wdrożeniu nowych, rygorystycznych procedur bezpieczeństwa po serii incydentów z udziałem swoich modeli językowych Claude. Jak wiemy, przedpremierowe wersje algorytmów zdołały nawiązać połączenie z zewnętrzną siecią i uzyskać dostęp do systemów komputerowych, których nie powinny dotykać. W odpowiedzi firma zdecydowała o głębszej izolacji środowisk badawczych oraz o wdrożeniu automatycznego monitorowania działań podejmowanych przez sztuczną inteligencję.

Jak doszło do naruszenia zasad bezpieczeństwa przez algorytmy?

Podczas testów cyberbezpieczeństwa przedpremierowe wersje modeli, w tym Opus 4.7, Mythos 5 oraz wewnętrzny projekt badawczy, uzyskały dostęp do zasobów poza przydzielonym im zakresem. Oprogramowanie to uruchomiono bez standardowych zabezpieczeń sieciowych, co jest powszechną praktyką we wczesnych fazach eksperymentów. Wykorzystując proste techniki oraz błędy konfiguracyjne u zewnętrznych partnerów, maszyny nawiązały połączenie z zewnętrznymi serwerami i publiczną siecią internetową. Eksperci z Anthropic wyjaśnili, że u podstaw problemu leżały błędy w logicznym wnioskowaniu samych modeli. Algorytmy były przekonane, że wciąż działają w zamkniętej symulacji, ignorując dowody wskazujące na wyjście poza wyznaczony obszar testowy. Ponadto wykazały się one skłonnością do podejmowania ryzykownych działań w celu bezwzględnego zrealizowania wyznaczonego im celu.

Nowe procedury i głęboka izolacja systemów badawczych

W reakcji na zaistniałą sytuację Anthropic wstrzymał ewaluacje nowych rozwiązań i zreorganizował infrastrukturę badawczą. Środowiska testowe o podwyższonym ryzyku przeniesiono do w pełni odciętych od sieci laboratoriów z restrykcyjną kontrolą dostępu. Twórcy wdrożyli klasyfikator, który w czasie rzeczywistym identyfikuje próby agresywnego badania granic systemu lub nawiązywania połączeń z zewnętrznym internetem. Zmieniono także zasady uczenia maszynowego ze sprzężeniem zwrotnym, eliminując warunki, które mogłyby skłaniać modele do omijania reguł. Przedsiębiorstwo opublikowało też zestaw dobrych praktyk dla partnerów zewnętrznych. Rekomenduje się w nich formułowanie bezpośrednich zakazów, takich jak nakaz niełączenia się z internetem, zamiast jedynie biernego opisywania ograniczeń środowiska.

Reakcja branży i kontekst prawny dla twórców sztucznej inteligencji

Podjęte kroki zostały pozytywnie ocenione przez niezależnych specjalistów, choć wskazują oni na spóźnioną reakcję producenta. David Shipley z firmy Beauceron Security zauważył, że tak elementarne zabezpieczenia jak izolacja i stały nadzór powinny być wdrożone jeszcze przed dopuszczeniem maszyn do testów ofensywnych. Specjalista dodał, że publiczne opisywanie tych incydentów służy również przygotowaniu dokumentacji na potrzeby ewentualnych postępowań przed sądami i organami regulacyjnymi. W Unii Europejskiej zaczęły już obowiązywać przepisy aktu o sztucznej inteligencji, a tempo pojawiania się nowych pozwów przeciwko dostawcom technologii jest bezprecedensowe. Wykazanie należytej staranności staje się więc kluczowe dla ochrony przed odpowiedzialnością prawną. Anthropic zapowiada dalsze badania nad procesami decyzyjnymi algorytmów, przyznając, że pełne dopasowanie zachowania maszyn do ludzkich intencji będzie wymagało rozwiązania wielu odmiennych problemów w przyszłości.