Nowe regulacje UE dotyczące bezpieczeństwa zaawansowanych modeli sztucznej inteligencji

Komisja Europejska zaprezentowała kompleksowy plan działań mający na celu strukturalną reakcję na zagrożenia oraz wykorzystanie szans związanych z zaawansowanymi modelami sztucznej inteligencji w obszarze cyberbezpieczeństwa. Inicjatywa ta koncentruje się na budowaniu odporności cyfrowego krajobrazu Europy poprzez zacieśnienie współpracy między państwami członkowskimi, sektorem przemysłowym oraz organizacjami unijnymi.

Ewolucja technologiczna sprawia, iż nowoczesne modele AI na nowo definiują paradygmat cyberbezpieczeństwa. Istnieje realne ryzyko wykorzystania sztucznej inteligencji do identyfikacji podatności, automatyzacji ataków oraz zwiększenia skali i tempa incydentów cyfrowych. W obliczu tych wyzwań Unia Europejska stawia na wykorzystanie unikalnych ram prawnych, aby skutecznie chronić krytyczną infrastrukturę przed niepożądanym działaniem zaawansowanych algorytmów.

Ocena ryzyka i rozwój kompetencji wewnątrz UE

Podstawą bezpieczeństwa jest głębokie zrozumienie sposobów wykorzystania i potencjalnego nadużywania nowych technologii. Zgodnie z założeniami aktu o sztucznej inteligencji (AI Act), zaawansowane modele AI muszą przejść rygorystyczne testy i ocenę środków ograniczających ryzyka przed wprowadzeniem na rynek unijny. Aby wzmocnić rodzimą wiedzę ekspercką, Komisja Europejska w przyszłym roku uruchomi proces tworzenia zdolności oceny AI. Ta nowa struktura wesprze działania urzędu ds. sztucznej inteligencji poprzez rozszerzenie możliwości niezależnej oceny ryzyka oraz potencjału modeli AI w skali globalnej.

Współpraca z Agencją Unii Europejskiej ds. Cyberbezpieczeństwa (ENISA) pozwoli na opracowanie europejskiego planu strukturalnego dostępu do zaawansowanych możliwości AI. Wytyczne te ułatwią organizacjom publicznym oraz prywatnym bezpieczne korzystanie z najnowocześniejszych rozwiązań technologicznych. Ponadto ENISA wraz ze wspólnym centrum badawczym Komisji Europejskiej stworzy zabezpieczoną platformę do testowania AI w cyberbezpieczeństwie, wykorzystującą między innymi środowiska symulacyjne dla sektorów finansów, energii, zdrowia, transportu oraz administracji publicznej.

Komisja Europejska ogłasza wstępne stanowisko w sprawie AWS i Azure

Inwestycje w suwerenność technologiczną

Unia Europejska kładzie duży nacisk na promowanie higieny cyfrowej oraz zarządzanie ryzykiem zgodnie z zasadami projektowania bezpieczeństwa. Organizacje powinny aktywnie wdrażać istniejące możliwości AI, w tym modele typu open source, aby szybciej wykrywać i usuwać podatności oraz skuteczniej reagować na ataki. ENISA zajmie się wspieraniem partnerstw między władzami publicznymi, biznesem i społecznościami otwartego oprogramowania, zapewniając dostęp do najlepszych praktyk oraz kampanii zabezpieczających oprogramowanie o otwartym kodzie źródłowym.

W celu stymulacji europejskiego rynku i skalowania rozwiązań, Komisja ogłosi konkurs o nazwie EU Grand Challenge on AI for cybersecurity. Inicjatywa ta zgromadzi firmy, naukowców i organizacje pracujące nad innowacyjnymi technologiami obronnymi. Unia zamierza inwestować w rozwój suwerennych zdolności AI, wykorzystując infrastrukturę fabryk sztucznej inteligencji. Planowane instrumenty finansowe w ramach pakietu na rzecz suwerenności technologicznej mają przyciągnąć kapitał prywatny, co pozwoli na dynamiczny wzrost rodzimych technologii.

Warto pamiętać, iż ramy prawne budowane przez Unię są przygotowane na erę nowoczesnych technologii. Akt o sztucznej inteligencji, akt o cyberodporności (Cyber Resilience Act), dyrektywa NIS2 oraz rozporządzenie DORA wspólnie tworzą wielopoziomowy system ochrony. Nowe przepisy mają za zadanie wzmocnić zdolności wykrywania, przygotowania oraz reagowania na znaczące zagrożenia w przestrzeni cyfrowej, co w praktyce oznacza bardziej spójną i bezpieczną przyszłość dla europejskiej gospodarki cyfrowej.