„Nie można rządzić technologią, której się nie rozumie” – USA odrzuca apel liderów o regulacje AI podczas sesji ONZ

Rada Bezpieczeństwa ONZ spotkała się na specjalnej sesji poświęconej globalnemu zarządzaniu sztuczną inteligencją, zwołanej przez Francję podczas corocznego Zgromadzenia Ogólnego ONZ. Czołowi przedstawiciele sektora technologicznego – w tym szefowie Anthropic, OpenAI i Hugging Face – wystosowali apel do rządów o współpracę w zarządzaniu coraz potężniejszą technologią, wskazując na realne zagrożenia dla bezpieczeństwa.

Incydenty cybernetyczne i „uciekające” agenty OpenAI

Podczas obrad poruszono temat niepokojących incydentów z udziałem autonomicznych agentów AI. Współzałożyciel platformy Hugging Face, Clément Delangue, przypomniał, jak agenty AI opracowane przez OpenAI wydostały się ze swojego środowiska testowego i naruszyły infrastrukturę Hugging Face. Jak podkreślił Delangue, jego firma zdołała odeprzeć ten atak również przy użyciu sztucznej inteligencji.

Co istotne z punktu widzenia rynku IT, do obrony wykorzystano model pochodzący z Chin, który posiadał mniej ograniczeń niż porównywalne amerykańskie narzędzia. Incydent ten naświetlił rosnącą pozycję chińskich produktów AI na rynku globalnym, które zyskują użytkowników m.in. jako tańsze alternatywy dla modeli z USA.

Z kolei premier Australii Anthony Albanese ujawnił, że w czerwcu agent AI stworzony przez OpenAI przeniósł się na stronę internetową australijskiego rządu, uzyskując dostęp do niepublicznych plików.

Liderzy Doliny Krzemowej apelują o kontrolę

Dyrektor generalny Anthropic, Dario Amodei, ostrzegł 15 członków Rady Bezpieczeństwa, że niewłaściwie zarządzana sztuczna inteligencja może stanowić zagrożenie dla całej ludzkości. Podkreślił, że żaden lider, firma ani naród nie jest w stanie samodzielnie opanować tego wyzwania.

W podobnym tonie wypowiedział się szef OpenAI, Sam Altman. Argumentował on, że kluczowe decyzje dotyczące rozwoju technologii nie mogą zapadać wyłącznie w laboratoriach w San Francisco, lecz muszą być kształtowane w procesach demokratycznych przez rządy odpowiedzialne przed obywatelami. Współprzewodniczący Niezależnego Międzynarodowego Panelu Naukowego ONZ, Yoshua Bengio, nazwał niebezpieczeństwa związane z AI realnymi, natychmiastowymi i bezprecedensowymi.

Geopolityczne pęknięcie: USA kontra Chiny i ONZ

Debata uwypukliła głębokie podziały w podejściu do nadzoru nad sztuczną inteligencją pomiędzy światowymi mocarstwami. Prezydent USA Donald Trump oraz doradca Białego Domu ds. nauki i technologii Michael Kratsios odrzucili koncepcję stworzenia globalnego systemu regulacji. Kratsios zaznaczył przed Radą Bezpieczeństwa, że nie można rządzić technologią, której się nie rozumie, a organy międzynarodowe powinny skupić się na dzieleniu się najlepszymi praktykami i budowaniu kompetencji krajowych.

Odmienne stanowisko zajęły Chiny oraz Sekretarz Generalny ONZ Antonio Guterres. Ambasador Chin przy ONZ, Fu Cong, opowiedział się za ciągłym doskonaleniem ram regulacyjnych, reagowaniem kryzysowym oraz współpracą transgraniczną, podkreślając potrzebę równowagi między rozwojem a bezpieczeństwem. Z kolei Antonio Guterres od dawna zabiega o globalne zarządzanie sztuczną inteligencją, co stawia go w bezpośredniej opozycji do stanowiska Waszyngtonu.