Google DeepMind: Demis Hassabis proponuje nowe standardy bezpieczeństwa dla AI

Demis Hassabis, współtwórca i dyrektor generalny Google DeepMind, przedstawił kompleksową propozycję uregulowania najbardziej zaawansowanych systemów sztucznej inteligencji. Ekspert przewiduje, że ogólna inteligencja maszynowa (AGI) może pojawić się już za kilka lat, co wymaga natychmiastowego wdrożenia rygorystycznych procedur bezpieczeństwa.

Nadchodząca era ogólnej inteligencji

Hassabis, będący laureatem Nagrody Nobla, uważa, że ludzkość znajduje się u progu przełomu porównywalnego z okiełznaniem ognia lub odkryciem elektryczności. Przewiduje on, że AGI przyniesie zmiany o skali dziesięciokrotnie większej niż rewolucja przemysłowa, a wszystko to wydarzy się w znacznie szybszym tempie. Technologia ta ma stać się kluczowym narzędziem w rozwiązywaniu największych problemów społecznych, od przyspieszenia prac nad nowymi lekami po tworzenie czystych źródeł energii. Według szefa Google DeepMind, stoimy przed szansą wejścia w nową epokę dobrobytu, w której zasoby przestaną ograniczać ludzki rozwój.

Zagrożenia na horyzoncie rozwoju

Mimo optymistycznych wizji, Hassabis wskazuje na poważne wyzwania, jakie niosą ze sobą modele klasy frontier. Zwraca uwagę na rosnące ryzyka w obszarze cyberbezpieczeństwa, a także potencjalne zagrożenia biologiczne i nuklearne, które mogą pojawić się wraz ze wzrostem możliwości maszyn. Obecnie branża znajduje się w fazie niezwykle intensywnej rywalizacji komercyjnej i geopolitycznej. Ten pośpiech sprawia, że postęp technologiczny często wyprzedza nasze pełne zrozumienie mechanizmów działania sztucznej inteligencji. Konieczne staje się więc opracowanie zabezpieczeń dla systemów wykazujących coraz większą autonomię.

Propozycja nowego organu nadzorczego

Rozwiązaniem problemu ma być powołanie specjalnego organu ds. standardów, wzorowanego na amerykańskim FINRA, działającym w sektorze finansowym. Instytucja ta miałaby formę partnerstwa publiczno-prywatnego i skupiała niezależnych ekspertów technicznych. Jej głównym zadaniem byłoby opracowanie protokołów oceny i przeprowadzanie rygorystycznych testów modeli, które zostaną uznane za systemy najwyższej klasy. Finansowanie tej jednostki powinno pochodzić głównie z sektora technologicznego, co pozwoliłoby na zapewnienie odpowiednich mocy obliczeniowych do weryfikacji oprogramowania. Firmy tworzące takie systemy, określone mianem laboratoriów frontier, musiałyby przestrzegać surowych zasad cyberbezpieczeństwa i weryfikować kluczowy personel.

Mechanizm weryfikacji i współpraca międzynarodowa

Zgodnie z projektem, najpotężniejsze modele miałyby być udostępniane do przeglądu na 30 dni przed ich publiczną premierą. Testy koncentrowałyby się na wykrywaniu prób obejścia zabezpieczeń oraz analizowaniu procesów rozumowania maszyn. Hassabis podkreśla, że takie podejście nie hamuje innowacji, lecz promuje odpowiedzialność i pozwala na ewentualne skoordynowane spowolnienie prac, jeśli sytuacja zacznie wymykać się spod kontroli. Chociaż propozycja zaczyna się od rynku amerykańskiego, docelowo ma stać się fundamentem dla globalnych standardów. Autor planu zaznacza, że przyszłość nie jest jeszcze zapisana, a obecny moment jest kluczowy dla ukształtowania technologii tak, by służyła ona całemu społeczeństwu.