Twórcy Reinforcement Learning krytykują rozwój AI – To tylko maszynka do zarabiania pieniędzy

Richard Sutton i Andrew Barto, pionierzy Reinforcement Learning, skrytykowali sposób, w jaki wielkie firmy technologiczne wykorzystują ich dorobek naukowy. Ich zdaniem OpenAI, Google i inne korporacje wprowadzają na rynek niebezpieczne oprogramowanie bez odpowiednich zabezpieczeń.

Richard Sutton (nazywany ojcem Reinforcement Learning) wraz z Andrew Bartonem zostali w tym roku laureatami Nagrody Turinga – uznawanej za „Nobla w dziedzinie informatyki”. Wszystko to dzięki ich przełomowym osiągnięciom w dziedzinie uczenia maszynowego. Mimo tego, obaj naukowcy wyrażają niezadowolenie z kierunku, w jakim rozwija się sztuczna inteligencja.

Według Suttona i Barto, technologie AI rozwijane przez OpenAI, Google i inne firmy są wdrażane na masową skalę bez odpowiednich środków ostrożności. W rozmowie z Financial Times, Barto porównał działania gigantów technologicznych do budowy mostu, który testuje się na żywo, dopuszczając do niego miliony użytkowników. Jego zdaniem, solidne zasady inżynierii wymagają minimalizowania negatywnych skutków technologii – czego w przypadku AI nikt nie robi.

Naukowcy skrytykowali również ChatGPT i podobne modele, nazywając je „maszynkami do zarabiania pieniędzy”, które nigdy nie doprowadzą do stworzenia prawdziwej sztucznej inteligencji na poziomie człowieka (AGI). Sutton zauważył, że AGI to obecnie jedynie hasło marketingowe, a Barto dodał, że zanim firmy zaczną budować inteligentne systemy na poziomie człowieka, powinny najpierw lepiej zrozumieć sposób działania ludzkiego umysłu.

Mimo że ich odkrycia w dziedzinie Reinforcement Learningu są fundamentem nowoczesnej AI, Sutton i Barto obawiają się, że firmy technologiczne kierują się wyłącznie zyskami, a nie odpowiedzialnym podejściem do tworzenia zaawansowanych systemów sztucznej inteligencji.