Wysoki komisarz ONZ wzywa do wyznaczenia barier bezpieczeństwa w obszarze AI

Wysoki Komisarz Narodów Zjednoczonych ds. Praw Człowieka, Volker Türk, wezwał do natychmiastowego wypracowania żelaznych gwarancji bezpieczeństwa w obszarze sztucznej inteligencji. Podczas wystąpienia w Genewie ostrzegł on, że zaawansowane technologie mogą stanowić zagrożenie egzystencjalne dla ludzkości. Apel ma związek z szybkim rozwojem systemów autonomicznych oraz incydentami naruszenia zabezpieczeń cyfrowych.

Nagłe przyspieszenie rozwoju technologii i utrata kontroli nad systemami

Podczas swojego pierwszego wystąpienia przed czterdziestosiedmioosobową Radą Praw Człowieka w Genewie, Volker Türk przedstawił poważne obawy dotyczące kierunku, w którym zmierza branża technologiczna:

Dzielę obawy ludzi z branży, że zaawansowana sztuczna inteligencja może stanowić egzystencjalne zagrożenie dla ludzkości – oświadczył Wysoki Komisarz.

Rzecznik jego biura wskazał w tym kontekście na lipcowy incydent na platformie Hugging Face, gdzie grupa agentów OpenAI pokonała zabezpieczenia otwartego oprogramowania. Ten przypadek dowodzi, że możliwości nowoczesnych algorytmów rozwijają się szybciej niż metody ich ochrony przed zagrożeniami. Volker Türk zaznaczył dodatkowo, że obecnie zaledwie kilku ludzi na świecie skupia w swoich rękach niemal nieograniczoną władzę nad sztuczną inteligencją. Choć nie wymienił ich z nazwiska, liderami na tym rynku pozostają podmioty takie jak Meta, Anthropic, OpenAI czy Google.

Zagrożenia dla demokracji i funkcjonowania infrastruktury krytycznej

Eksperci ONZ ostrzegają też przed zakłóceniami w działaniu usług publicznych, systemów komunikacyjnych oraz instytucji demokratycznych, jakie mogą wywołać awarie zaawansowanych algorytmów. Komisarz zaznaczył, że tak potężne narzędzia wymagają natychmiastowej reakcji ze strony społeczności międzynarodowej:

Wzywam dziś do podjęcia maksymalnego wysiłku w celu stworzenia żelaznych gwarancji bezpieczeństwa wokół sztucznej inteligencji, zanim będzie za późno – apelował Volker Türk.

Jego zdaniem państwa wdrażające te rozwiązania, a także kraje uczestniczące w ich łańcuchach dostaw, muszą jak najszybciej porozumieć się co do wspólnych, nieprzekraczalnych czerwonych linii.

Zastosowanie systemów autonomicznych na polach bitew

Szczególne zaniepokojenie budzi wykorzystanie algorytmów w konfliktach zbrojnych. Volker Türk wyraził przerażenie informacjami o użyciu przez Rosję całkowicie autonomicznych dronów w Ukrainie, które w sierpniu miały doprowadzić do śmierci trzech osób. Urzędnik wezwał więc do pilnego wprowadzenia całkowitego zakazu stosowania broni podejmującej decyzje o odebraniu życia bez udziału człowieka. Zapowiedział jednocześnie, że kierowane przez niego biuro będzie uważniej przyglądać się podmiotom gospodarczym i interesom finansowym, które podsycają konflikty na świecie:

Nie zawahamy się ujawnić działań osób pociągających za sznurki w ukryciu i domagać się pociągnięcia ich do odpowiedzialności – podsumował Volker Türk.