Raport Gartnera: Koszty tokenów AI mogą zrównać się z pensjami programistów

Najnowsze analizy firmy Gartner wskazują na gwałtowny wzrost wydatków przedsiębiorstw związanych z wykorzystaniem sztucznej inteligencji w procesach tworzenia oprogramowania. Przewiduje się, że w ciągu najbliższych dwóch lat koszty zużycia tokenów przez asystentów AI mogą osiągnąć poziom porównywalny z miesięcznym wynagrodzeniem inżyniera oprogramowania.

Przyczyny finansowej zmiany

Eksperci zauważają, że rynek odchodzi od stałych opłat abonamentowych za każde stanowisko na rzecz modeli rozliczeniowych opartych na faktycznym zużyciu zasobów. Taka zmiana wynika z potrzeby równoważenia przez dostawców narzędzi wysokich nakładów na infrastrukturę z koniecznością zachowania rentowności. Nitish Tyagi z firmy Gartner zaznacza, że prognoza ta opiera się na globalnej średniej pensji wynoszącej 2000 dolarów miesięcznie, choć w regionach takich jak USA kwoty te mogą być znacznie wyższe. Zdarzały się już jednak przypadki, w których pojedynczy programista skonsumował zasoby o wartości 20 tysięcy dolarów w ciągu jednego miesiąca. Celem tych wyliczeń jest uświadomienie branży, jak duży wpływ na budżet mają koszty tokenów, jeśli nie zostaną one poddane odpowiedniemu nadzorowi.

Brak kontroli i pułapka wydajności

Głównym problemem pozostaje niska przejrzystość struktur kosztowych oraz brak dojrzałych mechanizmów optymalizacji wydatków wewnątrz samych narzędzi programistycznych. Przedsiębiorstwa często nie posiadają odpowiednich ram organizacyjnych, aby precyzyjnie mierzyć zwrot z inwestycji w asystentów AI, co utrudnia uzasadnienie rosnących nakładów. Co istotne, zwiększone zużycie tokenów nie przekłada się bezpośrednio na wyższą produktywność pracowników. Zjawisko określane jako nadmierne wykorzystywanie zasobów może prowadzić do nieuzasadnionego drenowania budżetów bez wymiernych korzyści dla jakości kodu. Zdaniem analityków, to optymalizacja konsumpcji, a nie jej maksymalizacja, stanowi klucz do uzyskania realnych zysków z nowej technologii.

Jak uniknąć finansowego chaosu

Aby zapanować nad rosnącymi rachunkami, firmy powinny wprowadzić rygorystyczne zasady zarządzania, w tym progi zużycia tokenów oraz automatyczny monitoring aktywności. Rekomendowane jest również delegowanie prostych zadań do mniejszych, tańszych modeli, rezerwując najbardziej zaawansowane systemy wyłącznie dla skomplikowanych i wartościowych problemów. Kluczową umiejętnością dla programistów staje się inżynieria kontekstu, polegająca na precyzyjnym selekcjonowaniu informacji przekazywanych maszynie. Zdaniem Tyagiego, rosnące koszty nie powinny być powodem do rezygnacji z asystentów AI, lecz sygnałem do wdrożenia lepszej dyscypliny w korzystaniu z tych narzędzi.