Ceny tokenów AI spadają, ale rachunki firm wciąż rosną. To cena agentyzacji

Koszt jednostkowy przetwarzania danych przez modele językowe spadł w ostatnim czasie drastycznie, osiągając ułamek stawek sprzed zaledwie roku. Mimo to wiele przedsiębiorstw zmagających się z obsługą nowoczesnych systemów otrzymuje coraz wyższe faktury, co wynika z ewolucji technologii w stronę autonomicznych agentów zużywających ogromne ilości zasobów.

Obniżki cen a realne obciążenia budżetowe

Ceny za milion tokenów w połowie 2026 roku spadły w sposób bezprecedensowy, a w niektórych segmentach rynku mowa nawet o 90-procentowej przecenie względem stawek z 2023 roku. Według analiz Epoch AI, koszt uzyskania wydajności porównywalnej z modelem GPT-4 w trudnych zadaniach naukowych malał średnio 50-krotnie w skali roku. Zjawisko to sugeruje, że surowa inteligencja maszynowa stała się towarem powszechnym i łatwo dostępnym. Jednak indeks wydatków na tokeny LLM odnotował niedawno 20-procentowy spadek od swojego szczytu w maju, co wskazuje na rosnącą ostrożność dyrektorów finansowych i próbę ograniczenia niekontrolowanego użycia technologii.

Pułapka systemów agentowych i ukryte koszty

Główną przyczyną braku widocznych oszczędności jest przejście od prostych zapytań tekstowych do zaawansowanych systemów agentowych. Nowoczesne rozwiązania nie ograniczają się do jednej odpowiedzi, lecz samodzielnie planują wieloetapowe zadania, co wymaga wielokrotnego przesyłania pełnego kontekstu rozmowy przy każdym kroku operacyjnym. W praktyce oznacza to, że przy złożonym zleceniu te same dane tła mogą być przetwarzane nawet dwudziestokrotnie, co całkowicie niweluje korzyści z niższych cen jednostkowych. Dodatkowym obciążeniem są modele, które generują dużą liczbę dodatkowych tokenów podczas procesu wewnętrznego wnioskowania, zanim przedstawią finalny wynik użytkownikowi.

Przepaść między inwestycjami a zwrotem z kapitału

Sytuacja ekonomiczna sektora budzi niepokój inwestorów ze względu na powiększającą się różnicę między ogromnymi nakładami na infrastrukturę a realnymi przychodami ze sprzedaży. Obecnie luka ta wynosi 46 proc., co jest wynikiem znacznie gorszym niż w przypadku kryzysu telekomunikacyjnego z 2001 roku. Całkowite wydatki na infrastrukturę AI przekroczyły już barierę 700 miliardów dolarów, a prognozy wskazują na osiągnięcie biliona dolarów do 2027 roku. Veteran rynkowy Louis Navellier zauważa, że użytkownicy rozwiązań wycenianych w tokenach muszą obecnie ograniczać ich użycie ze względu na wysokie koszty całkowite.

Regulacje prawne i nowa kultura optymalizacji

Wprowadzenie unijnego aktu o sztucznej inteligencji oraz restrykcje eksportowe w USA nakładają na dostawców najpotężniejszych modeli dodatkowe obowiązki związane ze zgodnością prawną. W odpowiedzi na te wyzwania przedsiębiorstwa zaczynają zmieniać sposób zarządzania zasobami obliczeniowymi, rezygnując z najdroższych modeli na rzecz lżejszych rozwiązań, takich jak Gemini 2.5 Flash czy Claude Haiku, przy rutynowych zadaniach. Zamiast polegać na jednej, najbardziej wydajnej maszynie, działy IT wdrażają mechanizmy buforowania danych oraz precyzyjnego dopasowania mocy modelu do poziomu trudności konkretnego problemu.