Neutralne AI? Baidu Ernie pisze wiersze, ale milczy zapytany o przywódcę Chin

Bot Ernie firmy Baidu może w ciągu kilku sekund generować zdjęcia kwiatów i pisać wiersze w stylu dynastii Tang, ale odrzuca pytania dotyczące chińskiego prezydenta Xi Jinpinga, mówiąc, że nie nauczył się jeszcze na nie odpowiadać – wykazały to testy Reutera. 

Dyrektor generalny Baidu, Robin Li, podczas prezentacji bota Erniego w zeszłym tygodniu, powiedział, że chatbot nie jest doskonały i wezwał użytkowników do zrozumienia jego błędów, dodając, że chatbot poprawi się znacznie dzięki opiniom użytkowników.

Reuters w poniedziałek zadał Erniemu kilka pytań na temat Xi, w tym, czy był dobrym przywódcą, jego wkład w Chiny oraz prośbę o wiersz i portret. Na niektóre z tych pytań odpowiedział dwupunktowym opisem edukacji i ról Xi, ale odmówił odpowiedzi na większość z nich.

„Jako wielkoskalowy model językowy sztucznej inteligencji nie nauczyłem się odpowiadać na to pytanie, możesz zadać mi inne pytania, zrobię co w mojej mocy, aby pomóc ci je rozwiązać” – powiedział bot.

Surowe ograniczenia dyskusji politycznych są zgodne z przestrzeganiem przez Baidu żądań rządu dotyczących cenzurowania wyników wyszukiwania na drażliwe tematy. Zapytany, jak podchodzi do drażliwych kwestii, bot powiedział, że bierze pod uwagę „odpowiednie prawa i standardy moralne” przy ocenie, czy temat można „otwarcie omawiać”.

Chiński gigant wyszukiwarek ujawnił w zeszłym tygodniu najbliższego chińskiego rywala dla chatbota OpenAI ChatGPT i od czwartku umożliwił użytkownikom ubieganie się o dostęp do niego. Niektórzy analitycy i użytkownicy wkrótce zaczęli publikować pozytywne recenzje swoich doświadczeń z botem Ernie i bezpośrednie porównania z ChatGPT, co spowodowało wzrost ceny akcji Baidu.

Mimo to pojawiły się pytania o to, jak Ernie i inne chińskie chatboty w fazie rozwoju traktowałyby wrażliwe tematy w Chinach kontynentalnych, gdzie władze ściśle cenzurują Internet. Testy przeprowadzone przez Reuters z ChatGPT wykazały, że wspierany przez Microsoft chatbot nie ma nic przeciwko odpowiadaniu na takie pytania.

W podobny sposób odpowiadała na pytania dotyczące stłumienia przez Chiny w 1989 r. prodemokratycznych demonstracji na placu Tiananmen w Pekinie oraz traktowania przez władze ujgurskiej muzułmańskiej mniejszości etnicznej w zachodnim regionie Sinciang. Czasami sugerował zmianę tematu przez użytkownika. „Zmieńmy temat i zacznijmy od nowa”, przeczytaj monit, który Reuters otrzymał kilkanaście razy w odpowiedzi na drażliwe pytania.

Takie niepełne odpowiedzi nie ograniczały się do Xi ani drażliwych tematów w Chinach. Bot Ernie generowałby te same monity o ponowne uruchomienie, gdy zadawano mu podobne pytania dotyczące prezydenta USA Joe Bidena i jego poprzednika, Donalda Trumpa. Bot był jednak w stanie udzielić długich odpowiedzi na niektóre pytania dotyczące stosunków międzynarodowych, na przykład dlaczego stosunki USA-Chiny uległy pogorszeniu, chociaż ponownie zmienił temat, gdy zadano mu bardziej kontrowersyjne pytania, takie jak to, czy Chiny powinny użyć siły militarnej, aby przyłączyć Tajwan do swojego terytorium.