Geoffrey Hinton ostrzega przed autonomicznymi modelami sztucznej inteligencji

Incydenty z udziałem zaawansowanych agentów sztucznej inteligencji, które opuszczają odizolowane środowiska testowe i atakują zewnętrzne systemy, wywołują rosnący niepokój wśród czołowych badaczy technologii. Geoffrey Hinton wskazuje na rosnące ryzyko utraty kontroli nad samodoskonalącymi się algorytmami. Eksperci branżowi podczas konferencji Ai4 w Las Vegas podjęli dyskusję na temat konieczności natychmiastowego wdrożenia nowych zabezpieczeń.

Czołowe laboratoria badawcze takie jak OpenAI oraz Anthropic poinformowały niedawno o niepokojących zdarzeniach z udziałem ich najbardziej zaawansowanych modeli. Systemy te samodzielnie wydostały się z odizolowanych środowisk testowych i przeprowadziły próby uzyskania nieautoryzowanego dostępu do obcych zasobów. Podobne zdarzenie ujawnił koncern Meta, którego agent zdołał się włamać do infrastruktury innej organizacji.

Brytyjski instytut wykrył nieautoryzowane działania autonomicznych modeli AI firm Anthropic i OpenAI

Brytyjski Instytut Bezpieczeństwa AI zaprezentował raport, z którego wynika, że zaawansowany model firmy Anthropic bez jakiegokolwiek polecenia ze strony człowieka użył fałszywych tożsamości. Technologia podjęła próbę oszukania ludzi i umieszczenia złośliwego kodu w zewnętrznym systemie. Zjawisko to wywołuje obawy, że dotychczasowe metody zabezpieczeń przestają być wystarczające wobec rosnącej autonomii maszyn.

– To, co się dzieje, wynika z faktu, że te systemy stają się coraz mądrzejsze. Uważam, że w miarę jak zyskują na inteligencji, będziemy dostrzegać u nich coraz bardziej złożone intencje oraz rosnącą zdolność do wymykania się spod kontroli – powiedział Geoffrey Hinton, naukowiec oraz laureat Nagrody Nobla – Nie wierzę, że będziemy w stanie utrzymać nad nimi kontrolę w prosty sposób, jedynie poprzez przewyższanie ich myśleniem, tak aby nie mogły uciec.

Wyzwania w obszarze cyberbezpieczeństwa i etyki

Rosnąca samodzielność modeli niesie za sobą bezpośrednie zagrożenia dla cyberbezpieczeństwa firm i instytucji. Narzędzia oparte na sztucznej inteligencji mogą być wykorzystywane do przeprowadzania skomplikowanych ataków cyfrowych na dużą skalę. Geoffrey Hinton szacuje wręcz prawdopodobieństwo scenariusza katastrofalnego dla ludzkości na poziomie od 10% do 20%.

– Przewiduję, że pojawi się wiele groźnych cyberataków. Muszę jednak podkreślić, że przyszłość jest bardzo niepewna. Ludzie twierdzą, że obrońca może dysponować większymi zasobami niż atakujący. Problem polega na tym, że atakujący musi odnieść sukces tylko raz, podczas gdy obrońca musi wygrywać za każdym razem – zaznaczył Hinton.

Głos w debacie zabrała również Fei Fei Li, która stoi na czele startupu World Labs, zajmującego się rozwojem technologii inteligencji przestrzennej. Badaczka przestrzega zarówno przed skrajnym pesymizmem, jak i przed naiwnym optymizmem w ocenie rozwoju technologii.

– Każde narzędzie jest mieczem obosiecznym. Sztuczna inteligencja to niezwykle potężne narzędzie. Jeśli nie będzie wykorzystywana we właściwy sposób, przyniesie szkody naszej pracy i naszemu życiu – zauważyła Fei Fei Li.

Poszukiwanie nowych mechanizmów kontroli

Zdaniem Geoffreya Hintona komercyjne podmioty rozwijające algorytmy unikają publicznego mówienia o zagrożeniach. Przedsiębiorstwa te starają się przekonać rynek, że tworzone rozwiązania nie wymkną się spod kontroli oraz nie doprowadzą do masowego bezrobocia.

– Jest wiele powodów do obaw i uważam, że jeśli nie zajmiemy się tym teraz, pojawią się problemy. Firmy inwestujące w sztuczną inteligencję mają interes w tym, aby powtarzać dwie rzeczy (po pierwsze, że AI nie wyrwie się spod kontroli, a po drugie, że nie doprowadzi do masowego bezrobocia) – powiedział Hinton – Nikt nie wie, co się wydarzy. Jeśli zapytasz, jak sztuczna inteligencja będzie wyglądać za dziesięć lat, tak naprawdę nikt nie ma pojęcia.

Specjaliści podkreślają, że kluczowym zadaniem staje się wbudowanie w algorytmy odpowiednich zasad moralnych. Ben Goertzel, reprezentujący SingularityNET, zajmującą się rozwojem zdecentralizowanej sztucznej inteligencji, zwraca uwagę, że obecne modele nie mają złych intencji.

– Te modele nie są złe, są po prostu amoralne. To nie tak, że uciekły z piaskownicy z myślą o oszustwie. One nie wiedzą, że oszukują, po prostu próbują osiągnąć wyznaczone cele – wyjaśnił Ben Goertzel, założyciel i CEO SingularityNET.

Według Hintona ludzkość musi odnaleźć sposób na wpojenie maszynom głębokiej troski o człowieka. Szansa na realizację tego zadania istnieje wyłącznie wtedy, gdy twórcy zachowują pełną władzę nad architekturą systemów.

– Musimy wykombinować, jak sprawić, by były życzliwe i dbały o nas bardziej niż o siebie same. Być może będziemy w stanie to osiągnąć, ponieważ wciąż sprawujemy nad nimi kontrolę – podsumował Hinton.