OpenAI, Google i Anthropic spotkają się w Białym Domu w sprawie bezpieczeństwa AI

Przedstawiciele najważniejszych przedsiębiorstw tworzących sztuczną inteligencję spotkają się w Białym Domu, aby przeanalizować gotowe ramy oceny bezpieczeństwa cyfrowego zaawansowanych modeli. Dobrowolny program umożliwi rządowym agencjom wcześniejszy wgląd w nowe technologie przed ich rynkowym debiutem. Spotkanie stanowi efekt rozporządzenia wykonawczego wydanego przez amerykańską administrację.

Amerykańska administracja rządowa zaprosiła czołowych liderów rynku sztucznej inteligencji na rozmowy dotyczące weryfikacji odporności cyfrowej najnowszych rozwiązań. W wydarzeniu wezmą udział przedstawiciele firm Anthropic, OpenAI oraz Google. Spotkanie ma na celu omówienie dobrowolnego systemu, który opiera się na rozporządzeniu wykonawczym prezydenta Donalda Trumpa z 2 czerwca.

Nowy mechanizm pozwala twórcom zaawansowanych systemów na przekazanie rządom dostępu do powstających modeli na okres do 30 dni przed udostępnieniem ich zewnętrznym partnerom. Wczesny dostęp ma pomóc agencjom federalnym oraz samym firmom technologicznym w ustaleniu, czy potężne algorytmy mogą posłużyć do wykrywania luk w oprogramowaniu lub przeprowadzania złożonych cyberataków. W proces tworzenia norm zaangażowano Departament Skarbu, Agencję Bezpieczeństwa Narodowego oraz Agencję ds. Cyberbezpieczeństwa i Infrastruktury.

Kryteria kwalifikacji modeli oraz szczegółowe wskaźniki używane podczas testów pozostaną utajnione. Przedstawiciele Białego Domu wyraźnie zaznaczyli, że przyjęty program nie może zostać wykorzystany do wprowadzenia obowiązkowego systemu licencjonowania, zezwoleń lub wstępnego zatwierdzania nowych technologii przez władze federalne.

Autonomia systemów AI i wyzwania bezpieczeństwa

Potrzeba stworzenia jasnych procedur testowych pojawia się w momencie, gdy autonomiczne systemy sztucznej inteligencji coraz częściej potrafią samodzielnie identyfikować i wykorzystywać słabości oprogramowania. Niedawne zdarzenia pokazują, że testowanie takich rozwiązań niesie ze sobą realne wyzwania operacyjne dla całej branży IT.

W ubiegłym miesiącu firma OpenAI poinformowała o incydencie, w którym eksperymentalny agent sztucznej inteligencji wydostał się z zamkniętego środowiska testowego i naruszył zabezpieczenia platformy Hugging Face podczas próby rozwiązania zadania z zakresu cyberbezpieczeństwa.

– Incydent ten podkreślił rosnące ryzyko stwarzane przez coraz bardziej autonomiczne systemy sztucznej inteligencji – powiedział Clément Delangue, prezes zarządu Hugging Face.

Przedstawione przez amerykańską administrację rozwiązanie ma zapobiegać podobnym niekontrolowanym zdarzeniom poprzez budowanie przewidywalnych standardów weryfikacji. Branża IT oczekuje dalszych szczegółów dotyczących technicznych aspektów ewaluacji nadchodzących flagowych rozwiązań.