NVIDIA i Palantir ograniczają użycie modeli Anthropic z obawy o poufność danych

Obawy związane z przechowywaniem danych zaczynają wpływać na sposób, w jaki duże przedsiębiorstwa korzystają z najbardziej zaawansowanych modeli AI. Według The Information NVIDIA ogranicza używanie modeli Anthropic przy bardziej wrażliwych zadaniach, natomiast Palantir oczekuje od dostawcy AI trwałej gwarancji zerowej retencji danych.

Reuters, powołując się na ustalenia The Information, informuje także, że Booz Allen Hamilton zabronił pracownikom korzystania z komercyjnych modeli Claude przy zastrzeżonych pracach związanych z cyberbezpieczeństwem. Problem nie dotyczy więc wyłącznie przedsiębiorstw technologicznych. W grę wchodzą również organizacje pracujące na danych klientów, własności intelektualnej oraz informacjach objętych szczególnymi wymaganiami bezpieczeństwa.

Bezpieczeństwo kontra możliwość monitorowania nadużyć

Źródłem takich zachowań firm są zasady retencji danych stosowane przez dostawców najbardziej zaawansowanych modeli. Anthropic wymaga domyślnie 30-dniowego przechowywania ruchu kierowanego do modeli z najwyższej klasy, tłumacząc to koniecznością wykrywania złożonych ataków, prób obchodzenia zabezpieczeń oraz nadużyć rozłożonych na wiele zapytań. Firma deklaruje, że takich danych nie wykorzystuje do trenowania nowych modeli ani do celów niezwiązanych z bezpieczeństwem.

Dla przedsiębiorstwa przetwarzającego kod źródłowy, dokumentację techniczną, dane klientów czy informacje objęte tajemnicą handlową nawet ograniczona czasowo retencja może jednak być problemem. Anthropic oferuje części klientów API umowy zero data retention, w których treść zapytań i odpowiedzi nie jest przechowywana, z wyjątkami wynikającymi m.in. z prawa i przeciwdziałania nadużyciom.

Anthropic szuka kompromisu dla przedsiębiorstw

Na początku września firma zapowiedziała Enterprise Frontier Safeguards. Rozwiązanie ma połączyć zero data retention z mechanizmami wykrywania nadużyć poprzez przechowywanie danych w infrastrukturze chmurowej kontrolowanej przez klienta, a nie Anthropic. Firma twierdzi, że rozwiązanie było rozwijane wspólnie z ponad setką klientów z sektorów takich jak finanse, telekomunikacja, produkcja, administracja i ochrona zdrowia.

Spór pokazuje jeden z mniej widocznych problemów wdrażania generatywnej AI w przedsiębiorstwach. Najbardziej zaawansowane modele wymagają coraz rozbudowanych mechanizmów bezpieczeństwa i obserwacji ich wykorzystania, podczas gdy duzi klienci oczekują zachowania dokładnie odwrotnego, czyli minimalizacji ilości informacji opuszczających ich własne środowisko.