Badanie Red Hat pokazuje kryzys kontroli nad sztuczną inteligencją

Najnowsze badanie firmy Red Hat ujawnia rosnący rozdźwięk pomiędzy szybkim wdrażaniem sztucznej inteligencji a zdolnością przedsiębiorstw do jej kontrolowania. Choć biznes chętnie implementuje nowoczesne rozwiązania, to zaledwie niespełna jedna trzecia organizacji posiada dojrzałe mechanizmy nadzoru nad autonomicznymi agentami AI. Wyzwaniem staje się nie tylko ochrona danych, ale też zależność od dostawców technologii.

Przejście od fazy eksperymentów do dojrzałego wykorzystania sztucznej inteligencji wymaga od firm zbudowania silnej odporności operacyjnej. Badanie przeprowadzone na zlecenie Red Hat pokazuje, że 63% europejskich przedsiębiorstw posiada formalną strategię wyjścia umożliwiającą migrację do innego dostawcy. Jednak samo posiadanie planu nie gwarantuje bezpieczeństwa, ponieważ 29% organizacji z tej grupy przewiduje umiarkowany, a kolejne 10% znaczący wpływ zmiany dostawcy na ciągłość biznesową.

Sytuacja wygląda niepokojąco w przypadku podmiotów, które nie opracowały dotychczas żadnej strategii migracji, co dotyczy trzech na dziesięć badanych przedsiębiorstw. W tej grupie 14% respondentów zakłada, że ewentualna zmiana dostawcy byłaby łatwa, co może wynikać z niewielkiej skali obecnych wdrożeń. Zaledwie 4% ankietowanych bez planu awaryjnego dostrzega ryzyko poważnych zakłóceń w funkcjonowaniu firmy. Uzależnienie od dostawców modeli zaczyna przypominać wcześniejsze problemy z brakiem elastyczności w chmurze obliczeniowej.

Nadzór nad autonomicznymi agentami oraz bezpieczeństwo danych

Dynamiczny rozwój agentowej sztucznej inteligencji, która podejmuje decyzje i inicjuje procesy bez udziału człowieka, znacząco podnosi poziom ryzyka operacyjnego. Monitorowanie takich systemów zadeklarowało 64% przedsiębiorstw, ale tylko 31% określa swoje mechanizmy zarządzania jako silne i dojrzałe. Dodatkowo 32% organizacji dostrzega istotne luki w swoich procedurach, a jedna czwarta wdrożyła jedynie podstawowe reguły lub nie kontroluje tych systemów wcale. Skuteczny nadzór musi obecnie obejmować nie tylko kwestie zgodności prawnej, ale też weryfikację poprawności działania samych modeli.

Kluczowym elementem bezpiecznego skalowania technologii pozostaje pełna widoczność procesów związanych z przetwarzaniem informacji. Aż 92% uczestników badania deklaruje częściową wiedzę o miejscu przechowywania i regułach dostępu do danych zasilających algorytmy. Jednocześnie pełną kontrolę i stuprocentową widzialność potwierdza zaledwie 49% respondentów. Przedsiębiorstwa muszą zrozumieć dokładne przepływy informacji pomiędzy komponentami systemów, aby zachować niezależność rynkową.

Metodologia przeprowadzonego badania

Prezentowane dane pochodzą z badania zrealizowanego przez firmę badawczą Censuswide na zlecenie Red Hat. W ankiecie wzięło udział 500 osób odpowiedzialnych za decyzje informatyczne w dużych przedsiębiorstwach na rynkach europejskich. Badaniem objęto po 100 respondentów z Wielkiej Brytanii, Holandii, Francji, Niemiec oraz Włoch. Analiza skupiła się na zagadnieniach związanych z wdrażaniem mechanizmów sztucznej inteligencji, suwerennością cyfrową oraz zarządzaniem ryzykiem operacyjnym w nowoczesnym biznesie.