Unijny Akt o AI wchodzi w decydującą fazę. Oto nowe kary i wymogi

Unijne rozporządzenie AI Act wkracza w kluczowy etap wdrażania, nakładając na polskie przedsiębiorstwa i urzędy szereg nowych obowiązków prawnych oraz technicznych. Polska administracja kończy prace nad przepisami powołującymi wyspecjalizowany organ nadzoru, który będzie kontrolować bezpieczny rozwój algorytmów na krajowym rynku.

Nowy regulator i zakazane praktyki algorytmiczne

Rada Ministrów przyjęła projekt przepisów o systemach sztucznej inteligencji, który przewiduje powołanie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Ten organ nadzoru otrzyma szerokie uprawnienia kontrolne, w tym możliwość nakładania kar finansowych sięgających nawet 35 milionów euro za korzystanie z niedozwolonych technologii. Od lutego 2025 roku obowiązuje już bezwzględny zakaz stosowania systemów manipulacyjnych oraz narzędzi służących do oceny obywateli na podstawie ich zachowań społecznych. Regulator będzie również prowadził publiczny wykaz ukaranych systemów, co ma zwiększyć transparentność i dyscyplinę wśród podmiotów komercyjnych. Korzystanie z zakazanych praktyk uznawane jest za najpoważniejsze naruszenie nowego porządku prawnego.

Systemy wysokiego ryzyka pod szczególnym nadzorem

Zasadnicza część regulacji zacznie obowiązywać 2 sierpnia 2026 roku, skupiając się na systemach klasyfikowanych jako rozwiązania wysokiego ryzyka. Do tej kategorii należą algorytmy wykorzystywane w rekrutacji, medycynie, bankowości oraz w zarządzaniu infrastrukturą krytyczną. Dostawcy i użytkownicy takich narzędzi muszą wdrożyć systemy zarządzania ryzykiem, przygotować szczegółową dokumentację techniczną oraz zapewnić stały nadzór ludzki nad procesem decyzyjnym. Prace nad pakietem przepisów Digital Omnibus mogą jednak wpłynąć na przesunięcie niektórych terminów dla wybranych produktów, aby umożliwić rynkowi lepszą adaptację do surowych wymogów. Brak dostosowania się do tych wytycznych może skutkować sankcjami wynoszącymi do 3 procent rocznego obrotu firmy.

Obowiązkowe szkolenia i inwentaryzacja systemów

Ponadto, każda polska firma korzystająca z rozwiązań opartych na algorytmach ma obowiązek zapewnienia pracownikom odpowiedniego poziomu kompetencji w zakresie AI. Wymóg ten dotyczy nawet prostych narzędzi, takich jak chatboty czy systemy wspomagające pisanie maili, i musi być dostosowany do wiedzy technicznej zespołu. Przed pełnym wdrożeniem przepisów eksperci zalecają przeprowadzenie audytu wewnętrznego w celu identyfikacji wszystkich używanych systemów, w tym tak zwanego shadow AI. Co ważne, dokumentowanie działań edukacyjnych stanowi istotny dowód staranności w przypadku ewentualnej kontroli organów nadzorczych.