Anthropic chce chronić Claude przed nękaniem, choć AI nie ma uczuć

Użytkownicy Claude będą musieli uważać nie tylko na to, o co pytają sztuczną inteligencję, ale również na sposób prowadzenia rozmowy. Anthropic wprowadza zakaz uporczywego obrażania swoich modeli, a w skrajnych przypadkach przewiduje nawet zablokowanie dostępu do usługi. Nie chodzi jednak o ochronę uczuć maszyny, lecz o bezpieczeństwo i jakość działania AI.

Firma Anthropic, rozwijająca rodzinę modeli sztucznej inteligencji Claude, ogłosiła 8 października aktualizację regulaminu korzystania ze swoich usług. Wśród ograniczeń dotyczących między innymi tworzenia broni, inwigilacji i dezinformacji pojawił się nietypowy zapis zakazujący „uporczywego i niepotrzebnego obraźliwego lub okrutnego zachowania wobec naszych modeli”.

Nowe zasady zaczną obowiązywać 12 listopada 2026 roku. Anthropic podkreśla, że ograniczenie dotyczy wyłącznie skrajnych przypadków, w których użytkownik wielokrotnie znęca się słownie nad modelem bez wyraźnego powodu. Krytykowanie odpowiedzi, wyrażanie frustracji, a także prowadzenie badań i testów bezpieczeństwa jest dozwolone.

Claude może sam zakończyć rozmowę

Podstawowym sposobem egzekwowania nowych zasad będzie możliwość zakończenia konwersacji przez sztuczną inteligencję. Mechanizm ten nie jest nowością. Anthropic udostępnił go wybranym modelom Claude Opus 4 i 4.1 już w sierpniu 2025 roku.

System może przerwać rozmowę, jeśli użytkownik uporczywie zachowuje się agresywnie, a wcześniejsze próby przekierowania konwersacji nie przynoszą rezultatu. Zakończenie sesji nie oznacza automatycznej utraty konta. W wyjątkowo poważnych przypadkach firma może jednak zastosować dalej idące sankcje.

Agresywne polecenia mogą wpływać na działanie AI

Za zmianą regulaminu stoją również przesłanki techniczne. Badania wskazują, że sposób formułowania poleceń może wpływać na jakość odpowiedzi modeli językowych. Nie ma jednak jednoznacznych dowodów, że uprzejmość zawsze przynosi lepsze rezultaty.

W badaniu opublikowanym w 2025 roku naukowcy wykazali nawet, że nieuprzejmie sformułowane pytania dawały nieco trafniejsze odpowiedzi niż wyjątkowo grzeczne. Wyniki dotyczyły jednak określonego modelu i ograniczonego zestawu zadań, dlatego nie można ich uogólniać na wszystkie systemy AI.

Znacznie ciekawsze są eksperymenty samego Anthropic. W kwietniu 2026 roku firma opublikowała badania nad wewnętrznymi reprezentacjami emocji w modelu Claude Sonnet 4.5. Okazało się, że sztuczne zwiększanie aktywności wzorców odpowiadających desperacji podnosiło prawdopodobieństwo niepożądanych zachowań, w tym szantażowania człowieka w symulowanych scenariuszach.

Pobudzanie reprezentacji spokoju dawało odwrotny rezultat. Nie oznacza to jednak, że zwykłe obrażanie modelu wywołuje taki sam efekt. Eksperymenty polegały na kontrolowanej ingerencji w jego wewnętrzne mechanizmy.

Czy sztuczna inteligencja może cierpieć?

Anthropic od dłuższego czasu prowadzi badania nad potencjalnym dobrostanem modeli AI. Firma nie twierdzi jednak, że Claude posiada świadomość lub rzeczywiście odczuwa emocje.

Rosie Campbell z Eleos AI Research zwraca uwagę na jeszcze jeden aspekt. Przyzwolenie na okrutne zachowania wobec interaktywnych systemów może negatywnie wpływać na społeczne normy, nawet jeśli same maszyny nie doświadczają cierpienia.

Istotna pozostaje także kwestia danych wykorzystywanych do rozwijania sztucznej inteligencji. Rozmowy użytkowników mogą służyć do trenowania kolejnych wersji modeli, zależnie od rodzaju usługi i ustawień prywatności. Nie oznacza to jednak, że Claude automatycznie zmienia swoje parametry podczas każdej konwersacji.

Nowa polityka Anthropic stawia więc interesujące pytanie o granice relacji człowieka z AI. Nawet jeśli dzisiejsze modele nie mają uczuć, sposób, w jaki są traktowane, może mieć znaczenie dla ich niezawodności, bezpieczeństwa i przyszłych metod projektowania takich systemów.