Anthropic tłumaczy się z ukrytego kodu służącego do tropienia chińskich użytkowników

Amerykański startup Anthropic, pozycjonujący się dotychczas jako etyczny lider sektora sztucznej inteligencji, znalazł się w centrum poważnego skandalu wizerunkowego. Niezależny badacz bezpieczeństwa odkrył w modelu Claude Code ukryte fragmenty kodu działające w sposób charakterystyczny dla oprogramowania szpiegującego. Narzędzie potajemnie monitorowało aktywność użytkowników pod kątem ich powiązań z chińskim sektorem technologicznym.

Odkrycia dokonał specjalista do spraw cyberbezpieczeństwa posługujący się pseudonimem Thereallo. Ustalił on, że w instrukcjach systemowych narzędzia Claude Code zaszyto funkcje zbierające informacje o strefie czasowej oraz korzystaniu z serwerów proxy. Celem tej operacji było potajemne weryfikowanie, czy użytkownicy łączą się z określonymi chińskimi laboratoriami badawczymi zajmującymi się rozwojem sztucznej inteligencji.

Reakcja ze strony Anthropic była natychmiastowa, lecz wzbudziła wiele wątpliwości. Jeden z inżynierów odniósł się do zarzutów na platformie społecznościowej X, tłumacząc obecność mechanizmu wcześniejszymi testami.

– Właściwie od dłuższego czasu zamierzaliśmy to usunąć – napisał Thariq Shihipa.

Przedstawiciel korporacji dodał, że ten eksperymentalny tracker wdrożono w marcu. Jego zadaniem miało być zapobieganie nadużyciom ze strony nieautoryzowanych pośredników oraz ochrona przed procesem tak zwanej destylacji modeli.

Walka z nielegalną konkurencją i azjatyckimi resellerami

Wspomniana destylacja to powszechna w branży praktyka polegająca na trenowaniu słabszych modeli algorytmów na bazie odpowiedzi generowanych przez bardziej zaawansowane systemy konkurencji. Anthropic zarzuca takie działania azjatyckim podmiotom, wśród których wymienia startupy DeepSeek, Moonshot, rozwijające własne systemy sztucznej inteligencji. Amerykański producent oskarżył te podmioty o bezprawne wykorzystywanie własności intelektualnej, choć krytycy zauważają hipokryzję, gdyż sami twórcy Claude budowali technologię poprzez masowe skanowanie internetu oraz chronionych prawem autorskim książek.

Dodatkowym problemem dla firmy jest czarny rynek subskrypcji. Z raportów publikowanych przez dziennik The Washington Post wynika, że chińscy pośrednicy masowo odsprzedają dostęp do pakietów Pro Claude. Usługa wyceniana w Stanach Zjednoczonych na ponad 100 USD miesięcznie jest oferowana w Azji za równowartość około 12 USD.

Utrata zaufania i zagrożenia dla prywatności danych

Sytuacja ta mocno uderza w reputację korporacji, która dotychczas budowała swoją pozycję na transparentności. Klienci rezygnowali z konkurencyjnych rozwiązań takich jak ChatGPT na rzecz Claude po tym, jak Anthropic głośno sprzeciwił się Pentagonowi w kwestii wykorzystywania technologii do masowej inwigilacji obywateli. Choć w obecnym przypadku skala zbieranych informacji nie była drastycznie głęboka, sam fakt utajnienia procederu wywołał oburzenie ekspertów.

– Agenci kodujący już teraz znajdują się po niewłaściwej stronie przerażającej granicy, ponieważ mogą sprawdzać kod, przypadkowo podsumowywać poufne dane, uruchamiać polecenia, instalować pakiety, edytować pliki i przesyłać commity na lokalnym komputerze – zaznaczył Thereallo.

Specjalista podkreślił również, że tego typu narzędzia programistyczne posiadają ogromne uprawnienia w systemach operacyjnych użytkowników. Mogą one zarządzać plikami oraz wykonywać zaawansowane polecenia systemowe.

– Ukrywanie kodu w prompcie systemowym sprawia, że trudniej uwierzyć w jakiekolwiek inne zapewnienia o prywatności – dodał Thereallo.

Wdrożenie niewidocznych elementów filtrujących w strukturze promptów podważa wiarygodność wszelkich innych deklaracji dotyczących ochrony danych osobowych. Branża oczekuje teraz od producenta pełnego wyjaśnienia sprawy.

– Firmy mogą chronić swoje modele, jednak gdy narzędzie z dostępem do systemu plików i powłoki zaczyna ukrywać bity klasyfikacyjne wewnątrz niewidzialnej interpunkcji promptu, właściwą reakcją jest szczegółowa kontrola – podsumował Thereallo.