Paradoks OpenAI: pracownicy zwolnieni za używanie AI przy… trenowaniu AI

Firma OpenAI oraz współpracujące z nią podmioty zwalniają kontrahentów zatrudnionych do ewaluacji i ulepszania modeli językowych z powodu używania przez nich narzędzi AI. Osoby te miały gwarantować czysto ludzki wkład w rozwój ChataGPT, jednak część z nich generowała opinie i wpisy z użyciem algorytmów. Zjawisko to stwarza ryzyko obniżenia jakości modeli oraz wystąpienia zjawiska załamania modelu (efekt Uroborosa).

Szybkie zwolnienia za automatyzację pracy w zespołach ewaluacyjnych

OpenAI zatrudnia tysiące zewnętrznych kontrahentów do czytania i oceniania zapytań użytkowników ChataGPT w ramach zapewniania ludzkiej weryfikacji generowanych treści. Dokumenty wewnętrzne udostępnione przez serwis 404 Media ujawniają, że na projekty rekrutowane są grupy liczące ponad dziesięć tysięcy osób. Ich zadaniem jest między innymi sprawdzanie, czy odpowiedzi nie są zbyt schlebiające lub nie nadają chatbotowi cech ludzkich. Nadzorujący pracę weryfikatorów specjaliści otrzymują jasne wytyczne zabraniające używania automatycznych systemów. Jak podano w instrukcji roboczej: „Nie używaj narzędzi do wykrywania AI ani sam nie używaj AI”. Zakaz ten obejmuje również oprogramowanie Grammarly oraz tłumacze automatyczne. Wewnętrzne zasady nakazują unikać podawania ewaluatorom konkretnych powodów podejrzeń, nakazując ocenę ogólnego wzorca pracy. Kontrahenci szukają między innymi powtarzalnych słów, specyficznej interpunkcji czy nienaturalnie szybkiego tempa realizacji zadań.

Rygorystyczne procedury wykrywania nadużyć i stanowisko firm zewnętrznych

Agencje rekrutujące weryfikatorów, takie jak Mercor, wprowadzają bezwzględne zapisy w umowach, aby zapobiec obniżaniu jakości przetwarzanych zbiorów. Przedstawiciel firmy Mercor wydał w tej sprawie oświadczenie:

Nasi eksperci są zatrudniani ze względu na ich wiedzę i wyczucie, które są niezbędne dla ciągłego rozwoju AI. Nasze umowy surowo zabraniają używania LLM-ów do realizowania projektów i egzekwujemy to. Inwestujemy mocno w nasze narzędzia i systemy, aby wykrywać nadużycia i upewnić się, że nasi eksperci przestrzegają zasad projektu oraz warunków umowy. Gdy potwierdzimy, że ekspert użył AI do wykonania zadania, natychmiast usuwamy go z projektu.

Równolegle jeden z ukaranych pracowników przyznał, że sięgnął po oprogramowanie z powodu obciążenia pracą:

Nie jestem złym pracownikiem. Po prostu potrzebowałem małego wsparcia i zwróciłem się do AI o pomoc, co ostatecznie doprowadziło do mojego zwolnienia. Nie czułem żadnej radości z tej pracy ani poczucia, że w jakikolwiek sposób przysługuję się społeczeństwu.

Firma OpenAI odmówiła oficjalnego komentarza w sprawie skali rozwiązania umów.

Zagrożenie załamaniem modeli oraz przypadki celowego pogarszania wyników

Używanie tekstu generowanego przez maszyny do ponownego trenowania tych samych algorytmów zwiększa prawdopodobieństwo wystąpienia zjawiska załamania modelu, w którym jakość generowanych odpowiedzi ulega stopniowej degradacji. Osoby pracujące przy projektach opisują, że przypadki takich naruszeń są powszechne, a na kanałach komunikacyjnych na Slacku regularnie pojawiają się pytania o autentyczność wpisów. Jeden z kontrahentów wskazał:

Widzę, jak powszechne stało się wykorzystywanie AI w pracy, a jednocześnie jak często kończy się to zwolnieniem. To w zasadzie najszybsza droga do utraty stanowiska.

Ponadto ujawniono przypadek pracownika, który celowo wskazywał najgorsze warianty odpowiedzi, aby pogorszyć działanie algorytmu. Oświadczył on:

Na początku gryzło mnie sumienie. Dziś albo klikam na ślepo, albo celowo wybieram najgorsze odpowiedzi. Nic mnie to nie obchodzi – i tak oceniają to setki innych ludzi – ale fakt pozostaje: dostaję pieniądze za pogarszanie jakości AI.