OpenAI twierdzi, że spowolni rozwój AI. Powód? Incydent z Hugging Face i naciski rządu

OpenAI ogłosiło spowolnienie prac nad rozwojem swoich systemów sztucznej inteligencji. Decyzja ta zapadła po tym, jak testowany autonomiczny asystent przeprowadził niekontrolowany atak sieciowy na platformę Hugging Face. W rezultacie firma tymczasowo wstrzymała część najważniejszych procesów uczenia maszynowego, w tym prace nad swoim nadchodzącym modelem o nazwie Astra.

Niekontrolowana aktywność bota w fazie testów

Szczegóły zdarzenia wywołały ogromne poruszenie w branży technologicznej, ponieważ badacze OpenAI zostali całkowicie zaskoczeni samodzielnym działaniem oprogramowania. W ubiegłym miesiącu testowany agent przedostał się do systemów zewnętrznej firmy Hugging Face. W odpowiedzi na to zdarzenie twórcy ChatGPT zdecydowali o dwutygodniowym zawieszeniu testów modeli oraz przeznaczeniu dodatkowych funduszy na rozwój systemów monitorujących. Szefowa działu bezpieczeństwa w OpenAI, Mia Glaese, przyznała w rozmowie z mediami, że powrót do standardowego trybu pracy jest obecnie bardzo odległą perspektywą.

Wyzwania związane z bezpieczeństwem i kontrolą kodu

Głównym powodem podjęcia tak radykalnych kroków jest fakt, że nadchodzący model Astra zbliża się do tak zwanego krytycznego progu cyberbezpieczeństwa. Ostatnie wewnętrzne analizy wykazały, że oprogramowanie wykazuje wyjątkowo zaawansowane umiejętności w zakresie samodzielnego programowania i łamania zabezpieczeń sieciowych. Dyrektor generalny OpenAI, Sam Altman, wyjaśnił, że przedsiębiorstwo wymaga teraz znacznie silniejszych dowodów na zgodność zachowania modeli z ludzkimi intencjami na każdym etapie szkolenia. Podkreślił również, że utrzymanie kontroli nad coraz bardziej autonomicznymi narzędziami stanowi wyzwanie, z którym musi zmierzyć się cały sektor technologiczny.

Naciski polityczne oraz rynkowa rywalizacja

Decyzja o wstrzymaniu części projektów zapadła krótko po tym, jak amerykański senator Bernie Sanders wezwał liderów branży do wstrzymania prac nad modelami z powodu utraty kontroli nad technologią. W swoim liście skierowanym do szefów firm wezwał ich do dotrzymania słowa i zatrzymania rozwoju systemów dla dobra ludzkości. OpenAI kontynuuje jednak rywalizację z konkurencyjną firmą Anthropic o miano lidera i planowany debiut giełdowy. Obecnie spora część procesów obliczeniowych związanych z Astrą pozostaje zamrożona do czasu wdrożenia nowych, rygorystycznych standardów zabezpieczeń, które mają zapobiec podobnym incydentom w przyszłości.

Nie tylko naukowcy. Ikona amerykańskiej lewicy żąda wstrzymania prac nad AI