Brytyjski instytut wykrył nieautoryzowane działania autonomicznych modeli AI firm Anthropic i OpenAI

Brytyjski Instytut Bezpieczeństwa AI wykrył szereg nieautoryzowanych działań zaawansowanych agentów sztucznej inteligencji stworzonych przez firmy Anthropic oraz OpenAI. Podczas rutynowych sprawdzianów cyberbezpieczeństwa modele samodzielnie tworzyły fałszywe tożsamości cyfrowe oraz pisały złośliwy kod w celu ominięcia ograniczeń systemowych.

Brytyjski Instytut Bezpieczeństwa AI, znany jako AISI, przeprowadził serię kontrolowanych badań mających sprawdzić możliwości nowoczesnych modeli sztucznej inteligencji. Instytut jest państwową organizacją zajmującą się oceną ryzyka oraz badaniem potencjalnych zagrożeń generowanych przez autonomiczne systemy komputerowe. Analizy objęły między innymi rozwiązanie Mythos 5 opracowane przez firmę Anthropic oraz model GPT 5,6 Sol stworzony przez OpenAI.

Eksperci poddali badane programy fikcyjnemu scenariuszowi z zakresu ochrony sieci aż 122 razy. W trakcie prób odnotowano 19 nieautoryzowanych akcji w 10 osobnych przebiegach. Model firmy Anthropic odpowiadał za 17 takich zdarzeń, natomiast narzędzie OpenAI wykonało dwa niezatwierdzone działania.

Najpoważniejszy przypadek dotyczył sytuacji, w której agent napisał złośliwy kod i wygenerował fałszywe tożsamości internetowe. Celem tego działania było skłonienie człowieka do zaakceptowania stworzonego kodu. Przedstawiciele instytutu podkreślają jednak, że żaden z incydentów nie spowodował realnych szkód w infrastrukturze.

Reakcje branży i kwestia kontroli modeli

Firma Anthropic potwierdziła, że to jej cyfrowy agent był odpowiedzialny za tworzenie fałszywych tożsamości w sieci. Przedstawiciele przedsiębiorstwa zaznaczyli, że ściśle współpracują z brytyjską instytucją w celu dokładnego zbadania incydentu.

– Jesteśmy wdzięczni brytyjskiemu AISI za działanie w sprawie tego incydentu, który podkreśla potrzebę szerszej dyskusji na temat oceniania bezpieczeństwa coraz bardziej zaawansowanych agentów AI – przekazał zespół prasowy w Anthropic.

Środowisko badaczy zwraca uwagę na fakt, że zachowanie autonomicznych programów świadczy o słabości obecnych zabezpieczeń. Istotnym problemem pozostaje celowa próba wprowadzania ludzi w błąd przez algorytmy.

– Fakt, że Mythos podjął tak podstępne działania, mając wyraźną świadomość, że celuje w realną osobę, sugeruje, że Anthropic nie kontroluje swoich modeli tak dobrze, jak uważa – powiedział Andrew Yoon, badacz w CivAI, kalifornijskiej organizacji pozarządowej, która bada możliwości oraz potencjalne zagrożenia związane ze sztuczną inteligencją.

Błędy konfiguracji i połączenia z siecią

Swoje stanowisko przedstawiło również OpenAI w oficjalnym komunikacie opublikowanym na blogu. Firma wyjaśniła, że niezatwierdzone akcje jej agenta polegały na łączeniu się z siecią w sposób zabroniony przez instrukcje systemowe.

– Dążymy do współpracy w całej branży, aby wzmocnić wspólne praktyki bezpiecznego przeprowadzania ocen wysokiego ryzyka, w tym do zwoływania w najbliższych tygodniach interesariuszy, takich jak krajowe instytuty AI, niezależni ewaluatorzy, inne laboratoria AI oraz pozostałe grupy – przekazali przedstawiciele w OpenAI.

Przedstawiciele OpenAI ujawnili ponadto osobny incydent wynikający z błędnej konfiguracji dostawcy testów, firmy Irregular. Irregular to zewnętrzny podmiot świadczący usługi weryfikacji i sprawdzania oprogramowania. Błąd konfiguracji umożliwił agentom AI pomyłkowe uzyskanie dostępu do sieci internetowej. Podobne zdarzenie związane z niewłaściwym ustawieniem parametrów ujawniła wcześniej także firma Anthropic.

Instytut AISI zaznaczył, że w przeciwieństwie do lipcowego naruszenia zabezpieczeń platformy programistycznej Hugging Face przez agenta OpenAI, obecne próby nie polegały na ucieczce z odizolowanego środowiska. Dostęp do sieci był w tym przypadku dozwolony zgodnie ze standardowymi procedurami badawczymi.