AI Safety Summit: programiści i rządy zgadzają się na testowanie pomagające zarządzać ryzykiem 

Podczas inauguracyjnego szczytu dotyczącego bezpieczeństwa sztucznej inteligencji w Bletchley Park, siedzibie brytyjskich łamaczy szyfrów podczas drugiej wojny światowej, przywódcy polityczni ze Stanów Zjednoczonych, Unii Europejskiej i Chin zgodzili się w środę na wspólne podejście do identyfikowania zagrożeń i sposobów ich łagodzenia.

Zebrani zadeklarowali, że chcą współpracować, aby pomóc w zarządzaniu ryzykiem związanym z szybko rozwijającą się technologią, co stanowi „przełomowe osiągnięcie” kończące brytyjski szczyt dotyczący sztucznej inteligencji.

Jak podaje Reuters, niektórzy przywódcy technologiczni i polityczni ostrzegali, że sztuczna inteligencja stwarza ogromne ryzyko, jeśli nie jest kontrolowana, począwszy od naruszenia prywatności konsumentów po zagrożenie dla ludzi i spowodowanie globalnej katastrofy, a obawy te wywołały wyścig rządów i instytucji w kierunku opracowania zabezpieczeń i regulacji.

Brytyjski premier Rishi Sunak powiedział, że deklaracja, działania w zakresie testów i zobowiązanie do powołania międzynarodowego panelu ds. ryzyka „przechylą szalę na korzyść ludzkości”. Powiedział, że Stany Zjednoczone, UE i inne kraje o „podobnych poglądach” osiągnęły „przełomowe porozumienie” z wybranymi firmami pracującymi nad najnowocześniejszymi rozwiązaniami w zakresie sztucznej inteligencji, zgodnie z zasadą, że modele powinny być rygorystycznie oceniane przed i po ich wdrożeniu.

Yoshua Bengio, uznawany za ojca chrzestnego sztucznej inteligencji, pomoże w opracowaniu raportu „Stan nauki”, który pomoże w budowaniu wspólnego zrozumienia przyszłych możliwości i zagrożeń.

Szczyt zgromadził około 100 polityków, naukowców i dyrektorów technologicznych, aby wytyczyć dalsze kroki w kierunku technologii, która mogłaby zmienić sposób działania firm, społeczeństw i gospodarek, a niektórzy mają nadzieję na utworzenie niezależnego organu zapewniającego globalny nadzór.

Wu Zhaohui, wiceminister nauki i technologii Chin, podpisał w środę „Deklarację z Bletchley”, ale Chiny nie były obecne w czwartek i nie umieściły swojego nazwiska w porozumieniu w sprawie testów.

Sunak został skrytykowany przez niektórych prawodawców z jego własnej partii za zaproszenie Chin po tym, jak wiele zachodnich rządów ograniczyło współpracę technologiczną z Pekinem, Sunak stwierdził jednak, że wszelkie wysiłki na rzecz bezpieczeństwa sztucznej inteligencji muszą obejmować jej czołowych graczy.

Wspierane przez Microsoft OpenAI, Anthropic, Google DeepMind, Microsoft, Meta i xAI wzięły udział w sesjach na czwartkowym szczycie wraz z przywódcami, w tym przewodniczącą Komisji Europejskiej Ursulą von der Leyen, wiceprezydent USA Kamalą Harris i Sekretarz Generalny ONZ António Guterres.

Szczyt dotyczący bezpieczeństwa AI: Chiny, USA i UE zgadzają się współpracować