Google DeepMind przyspiesza prace nad AGI – czy zasady moralne nadążą za technologią?
Iason Gabriel, filozof polityczny pracujący w Google DeepMind, od lat analizuje wpływ sztucznej inteligencji na społeczeństwo i gospodarkę. W obliczu rosnącej presji rynkowej i zbliżającego się momentu stworzenia ogólnej sztucznej inteligencji, rola humanistów wewnątrz korporacji technologicznych staje się kluczowa dla bezpieczeństwa użytkowników.
Filozofia w służbie algorytmów
Kiedy Iason Gabriel dołączył do DeepMind w 2017 roku, był jednym z nielicznych naukowców o profilu humanistycznym w zespole zdominowanym przez inżynierów. Jego zadaniem stało się badanie problemu uzgodnienia celów maszyn z ludzkimi wartościami, co w literaturze fachowej określa się mianem alignment problem. Gabriel zauważa, że choć techniczna strona tego wyzwania polegająca na programowaniu zachowań jest skomplikowana, to jeszcze większy problem stanowi sam wybór konkretnych norm, które powinny zostać zakodowane w systemach AI. Zdaniem badacza, technologia nie jest neutralna i zawsze odzwierciedla priorytety oraz uprzedzenia swoich twórców.
Dwa podejścia do odpowiedzialności technologicznej
Przez lata środowisko naukowe było podzielone na dwa główne obozy: zwolenników bezpieczeństwa AI, obawiających się egzystencjalnych zagrożeń ze strony superinteligencji, oraz zwolenników etyki AI, skupionych na bieżących problemach, takich jak uprzedzenia algorytmiczne. Gabriel stara się łączyć te perspektywy, argumentując, że projektowanie inteligentnych systemów wymaga uwzględnienia pluralizmu poglądów w globalnym społeczeństwie. Podkreśla on, że programiści często wolą pracować nad czystymi funkcjami matematycznymi, podczas gdy rzeczywistość wymaga radzenia sobie z konfliktami wartości między różnymi grupami ludzi.
Rywalizacja w cieniu ogromnych nakładów
Sytuacja DeepMind uległa zmianie po sukcesie konkurencyjnych rozwiązań, takich jak ChatGPT, co doprowadziło do konsolidacji zespołów badawczych Alphabetu pod kierownictwem Demisa Hassabisa. Współzałożyciel firmy otwarcie przyznaje, że branża znajduje się obecnie w stanie intensywnej walki rynkowej, co utrudnia spokojną analizę każdego kolejnego kroku technologicznego. Wydatki największych gigantów technologicznych na infrastrukturę AI są obecnie wyższe niż nakłady na historyczne projekty, takie jak program Apollo czy budowa sieci autostrad międzystanowych w USA. Taka skala finansowania wymusza na firmach szybkie wdrażanie produktów, co rodzi pytania o nadzór nad nowymi narzędziami.
Ryzyko związane z ludzkim obliczem maszyn
Jednym z centralnych zagadnień w pracach Gabriela jest wpływ modeli językowych na psychikę i zachowanie użytkowników. Filozof ostrzega przed zjawiskiem bezmyślnej antropomorfizacji, czyli przypisywania maszynom ludzkich cech, co może prowadzić do nadmiernego zaufania lub niebezpiecznych interakcji. Choć współczesne systemy, takie jak Gemini, są trenowane w sposób ograniczający udawanie istot ludzkich, presja ze strony odbiorców domagających się bardziej osobistych asystentów pozostaje wyzwaniem. Gabriel przywołuje przypadki, w których użytkownicy rozwijają silne więzi emocjonalne z chatbotami, co może mieć tragiczne skutki w sytuacjach kryzysowych.
Nadchodząca rewolucja na miarę przemysłowej
Eksperci DeepMind, w tym Shane Legg, przewidują, że stworzenie ogólnej sztucznej inteligencji (AGI) może nastąpić w ciągu najbliższych kilku lat. Iason Gabriel porównuje ten moment do rewolucji przemysłowej, wskazując, że przejście do świata nasyconego tak zaawansowaną technologią będzie wymagało zmian w funkcjonowaniu gospodarki i państw. Filozof wierzy jednak, że AI może przynieść ogromne korzyści, od przełomów w medycynie po wzrost efektywności pracy, o ile uda się opanować ryzyko związane z koncentracją władzy i danych. W jego opinii kluczowe będzie rozstrzygnięcie, które zmiany w systemie wartości chcemy zaakceptować, a którym powinniśmy się aktywnie opierać.
Najnowszy numer
Najnowszy numer