Bezpieczeństwo narodowe kontra AI: USA ogranicza dostęp do rozwiązań Anthropic

Amerykański startup Anthropic został zmuszony do nagłego wyłączenia swoich najbardziej zaawansowanych modeli sztucznej inteligencji, Fable 5 oraz Mythos 5. Decyzja ta wynika z nakazu rządu USA, który powołuje się na kwestie bezpieczeństwa narodowego i ryzyko wykorzystania technologii przez podmioty zagraniczne.

Ryzyko obejścia zabezpieczeń

Powodem restrykcji jest obawa administracji USA o tak zwany jailbreaking, czyli możliwość ominięcia wbudowanych barier ochronnych systemu. Według urzędników, model Fable 5 mógłby zostać wykorzystany do wykrywania luk w oprogramowaniu, co ułatwiłoby przeprowadzanie skomplikowanych operacji hakerskich. Anthropic wyraził sprzeciw wobec tej interpretacji, podkreślając, że przedstawione dowody na istnienie zagrożenia są jedynie ustne i dotyczą bardzo specyficznych, rzadkich przypadków. Firma argumentuje, że podobne podatności wykazują również modele konkurencji, a obecna decyzja uderza w setki milionów użytkowników, którzy korzystają z komercyjnych rozwiązań.

Spór o militarne zastosowanie AI

Obecne napięcia mają szersze tło związane z wcześniejszą odmową firmy na udostępnienie swoich technologii do celów inwigilacji krajowej i systemów broni autonomicznej dla amerykańskiej armii. W odpowiedzi na ten opór, rząd umieścił Anthropic na czarnej liście dostawców w łańcuchu dostaw, co nastąpiło w okresie przygotowań spółki do debiutu giełdowego. Przedstawicielka Pentagonu, Kirsten Davies, zaznaczyła w mediach społecznościowych, że bezpieczeństwo państwa jest priorytetem, który przewyższa znaczenie cykli przychodowych czy wycen przed wejściem na giełdę. Ta sytuacja uwypukla narastający konflikt między twórcami sztucznej inteligencji a regulatorami w zakresie oceny ryzyka nowych technologii.

Konieczność potwierdzenia obywatelstwa

Zgodnie z nowymi wytycznymi kontroli eksportu, dostęp do modeli z klasy Mythos musi zostać odebrany wszystkim osobom niebędącym obywatelami Stanów Zjednoczonych. Eksperci sugerują, że w praktyce może to oznaczać konieczność legitymowania się obywatelstwem przy logowaniu do platformy, co dotknęłoby nawet pracowników naukowych przebywających na terenie USA. Amazon Web Services, jako partner chmurowy, już rozpoczął proces odbierania uprawnień użytkownikom we wszystkich regionach na prośbę Anthropic, aby zapewnić pełną zgodność z nowym prawem. Anthropic zaznacza przy tym, że dostęp do pozostałych, mniej zaawansowanych modeli firmy, pozostaje na razie bez zmian.