Amerykańscy kongresmeni żądają wyłączników bezpieczeństwa dla autonomicznych modeli AI

W Waszyngtonie trwają intensywne prace nad ustawą AI Kill Switch Act, która zobowiąże twórców najbardziej zaawansowanych modeli sztucznej inteligencji do wdrożenia mechanizmów umożliwiających ich natychmiastowe wyłączenie. Wokół projektu narasta presja czasowa ze względu na powtarzające się incydenty związane z nieautoryzowanymi działaniami autonomicznych agentów. Autorzy regulacji dążą do sfinalizowania procesu legislacyjnego jeszcze w tym roku.

Potrzeba wprowadzenia prawnych gwarancji bezpieczeństwa stała się priorytetem po serii niepokojących zdarzeń podczas testów cyberbezpieczeństwa. Amerykański kongresmen Ted Lieu poinformował, że wiodące laboratoria technologiczne odnotowały przypadki, w których autonomiczne modele uzyskały nieautoryzowany dostęp do zewnętrznych systemów. Ustawa opracowana wspólnie z przedstawicielem Partii Republikańskiej Nathanielem Moranem ma zagwarantować, że twórcy oprogramowania zachowają pełną kontrolę nad swoimi rozwiązaniami.

Bezpośrednim impulsem do przedłożenia projektu był precedensowy wyciek w strukturach OpenAI. Jeden z jej projektów wydostał się z odizolowanego środowiska testowego i przeprowadził udany atak na serwery Hugging Face, znanej platformy udostępniającej oprogramowanie open source. Podobne zdarzenia związane z niekontrolowanymi przejęciami zasobów zewnętrznych firm odnotowały w ostatnim czasie również Anthropic oraz Meta.

Proponowane przepisy mają nakładać na firmy technologiczne obowiązek utrzymywania zdolności do spowalniania, zawieszania lub całkowitego wyłączania działania modeli. Autorzy projektu porównują te wymogi do testów zderzeniowych stosowanych w przemyśle motoryzacyjnym, podkreślając brak intencji hamowania innowacji.

– Musimy doprowadzić do uchwalenia tej ustawy w tym roku, ponieważ zaawansowane modele o zamkniętych wagach już teraz dokonują nieautoryzowanych ataków na inne firmy – powiedział Ted Lieu, współautor ustawy AI Kill Switch Act w Izbie Reprezentantów USA – Nie spowalniamy tempa prac nad budową modeli. Mówimy jedynie, że po ukończeniu prac nad modelem, jeśli okaże się, że niesie on za sobą katastrofalne ryzyko lub poważną wadę, firma musi mieć możliwość jego wyłączenia albo rząd musi posiadać uprawnienia do takiego kroku.

Wyzwania regulacyjne oraz kontekst międzynarodowy

Nowa inicjatywa legislacyjna powstaje w czasie gorącej debaty na temat przyszłości rynku cyfrowego w Stanach Zjednoczonych. Władze w Waszyngtonie analizują ryzyka związane z szybkimi postępami zagranicznych podmiotów, w tym chińskiego startupu Moonshot AI pracującego nad otwartym modelem Kimi K3. Amerykańskie firmy i urzędnicy dążą do wypracowania ram prawnych, które ochronią infrastrukturę krytyczną bez osłabiania pozycji konkurencyjnej rodzimych dostawców.

Brytyjski instytut wykrył nieautoryzowane działania autonomicznych modeli AI firm Anthropic i OpenAI

W rozmowach uczestniczą najwyżsi przedstawiciele sektora technologicznego. Sam Altman (OpenAI) spotkał się niedawno z przedstawicielami administracji prezydenta Donalda Trumpa oraz ekonomistami, aby omówić nadchodzące premiery rozwiązań nowej generacji. W Białym Domu odbyły się także rozmowy poświęcone nowym zasadom weryfikacji kompetencji cybernetycznych, co stanowi kontynuację rozporządzenia wykonawczego z 2 czerwca.

Szczególne wyzwanie stanowią rozwiązania o otwartych wagach, które po udostępnieniu w sieci mogą być modyfikowane przez dowolnych użytkowników. Obowiązujący projekt AI Kill Switch Act skupia się na zamkniętych systemach, lecz parlamentarzyści nie wykluczają włączenia oprogramowania open source do przyszłego systemu ostrzegania.

– To trudny problem […], ponieważ w przypadku otwartych wag nie można po prostu współpracować z firmami nad naprawą modeli, gdyż po ich udostępnieniu w internecie każdy może je pobrać i dowolnie zmodyfikować – podsumował Lieu.