Вартість ШІ-агента: Langfuse vs LiteLLM

Коротко (TL;DR)

Вартість ШІ-агента в цій статті — це ціна його роботи: токени, які він спалює на кожному кроці, та інфраструктура навколо. Ціну замовної розробки агента в підрядника тут не розбираємо — це інше питання з іншими цифрами. А порівняння Langfuse vs LiteLLM нижче — не вибір «одне з двох», а схема, де обидва інструменти працюють разом.

Коротко (TL;DR)
З чого складається вартість ШІ-агента: кроки, контекст і кеш
Агенти дорожчі за програмістів? Що насправді порахував Gartner
Langfuse і LiteLLM: один обліковує витрати, інший їх зупиняє
Як побачити ціну кожного кроку агента в Langfuse: 6 кроків
Ліміт витрат у LiteLLM Proxy: ключ, команда і сесія агента
Зв’язка LiteLLM і Langfuse: ліміт на вході, розбір на виході
Ціни й ліцензії: Langfuse, LiteLLM, Helicone, LangSmith, OpenRouter
Скільки коштує сам контроль: хмара Langfuse чи власний сервер
Де облік витрат підводить і коли Langfuse з LiteLLM не потрібні
Контроль витрат ШІ-агента в трьох сценаріях: соло, команда, продукт
Часті запитання

Ціна росте швидше за кількість кроків. Агент на кожному кроці заново надсилає моделі весь накопичений контекст. За нашим розрахунком на цінах Claude станом на 23 жовтня 2026 року прогін із 20 кроків на Sonnet 5.5 коштує близько $1,12, із 40 кроків — близько $3,76: удвічі більше кроків, у 3,4 раза дорожче.
Langfuse бачить, LiteLLM зупиняє. Langfuse записує кожен виклик моделі з токенами й ціною та може надіслати алерт, але запит не блокує. LiteLLM Proxy стоїть на шляху запиту й відхиляє його ще до надсилання провайдеру, якщо бюджет ключа, команди чи сесії агента вичерпано.
Робоча схема — обидва одразу: LiteLLM на вході ставить стелю, Langfuse на виході показує, який крок з’їв гроші.
Головна пастка: без бази Postgres бюджети LiteLLM мовчки не працюють, запити йдуть понад ліміт.
Сам контроль майже безкоштовний: обидва інструменти open-source під MIT; хмарний Langfuse безкоштовний до 50 тис. units на місяць — це близько 1 200 прогонів агента з 20 кроків.

З чого складається вартість ШІ-агента: кроки, контекст і кеш

Звичайний чат-запит — це один виклик моделі. Агент працює інакше: він думає, викликає інструмент (пошук, читання файлу, запит до API), отримує результат і знову думає. Кожне таке коло — новий виклик моделі, і в кожен виклик іде вся історія прогону: системний промпт, описи інструментів, усі попередні відповіді й результати.

Звідси проста формула ціни одного кроку: весь контекст на вході × ціна вхідних токенів + відповідь моделі × ціна вихідних. Контекст на кожному кроці довший, ніж на попередньому, тому сума росте не лінійно, а приблизно квадратично. Чому модель узагалі тримає всю історію і де в цього межа, ми розбирали в матеріалі про контекстне вікно LLM.

Розрахунок: скільки коштує один прогін агента

Візьмемо типового агента й порахуємо на відкритих цінах Anthropic. Припущення розрахунку:

WTIBRENT

Binance · Wall Street 24/7Новини рухають нафтуWTI · BrentРеагуйте одразу: нафта на Binance торгується цілодобово

WTIBRENTGAS

Ціна нафти зараз

системний промпт і описи інструментів — 8 000 токенів;
кожен крок додає 1 500 токенів результату інструмента і 400 токенів відповіді моделі;
кожен крок заново надсилає весь накопичений контекст, нічого не стискається.

Ціни станом на 23 жовтня 2026 року за 1 млн токенів: Claude Sonnet 5.5 — $2 на вхід і $10 на вихід, Claude Opus 5.5 — $4 і $20, Claude Haiku 5.5 — $0,10 і $0,50 для промптів до 100 тис. токенів. Колонки «з кешем» виходять із того, що повторюваний префікс контексту читається з кешу промпту: у Sonnet 5.5 це $0,10 за 1 млн токенів замість $2, а запис у кеш на 5 хвилин коштує $2,50.

Модель	20 кроків, без кешу	20 кроків, з кешем	40 кроків, без кешу	40 кроків, з кешем
Sonnet 5.5	$1,12	$0,24	$3,76	$0,54
Opus 5.5	$2,24	$0,48	$7,53	$1,07
Haiku 5.5	$0,056	$0,014	$0,19	$0,035

Що видно з таблиці:

20 кроків — це 521 тис. вхідних токенів, 40 кроків — 1,8 млн. Вихідних при цьому лише 8 і 16 тис. Агент платить здебільшого за те, що модель перечитує власну історію.
Подвоєння кроків дає зростання ціни в 3,4 раза. Саме так виглядає в рахунку агент, що зациклився: він не просто робить зайві кроки, кожен наступний крок дорожчий за попередній.
Кеш промпту знижує ціну прогону Sonnet 5.5 приблизно в 4,7 раза. Це найбільший важіль ціни, але як стискати токени — окрема тема; тут нас цікавить, як бачити витрати й ставити їм стелю.

Місячний бюджет: від прогону до рахунку

Тепер помножимо. Інтенсивна робота — 50 прогонів за робочий день, 22 робочі дні на місяць, тобто 1 100 прогонів:

Модель	Без кешу, на місяць	З кешем, на місяць
Sonnet 5.5	≈ $1 234	≈ $262
Opus 5.5	≈ $2 468	≈ $523
Haiku 5.5	≈ $62	≈ $16

Якщо так працює один розробник, варіант «Opus без кешу» вже дорожчий за $2 000 на місяць — ту саму суму, від якої відштовхувався Gartner (про це в наступному розділі). Розрахунок модельний: реальні агенти чистять і стискають контекст, а кроки бувають різної довжини. Його завдання — показати порядок цифр і форму зростання, а не передбачити ваш рахунок до цента. Як улаштовані самі агентні цикли і чому одні патерни дорожчі за інші, ми розбирали в огляді патернів агентних систем.

Агенти дорожчі за програмістів? Що насправді порахував Gartner

Коротка відповідь: ні, Gartner не казав, що компанії вже витрачають на агентів більше, ніж на зарплати. Прогноз стосується ШІ-кодингу та середньої світової зарплати розробника, а найгучніші цифри в переказах — це опитування й поодинокі приклади, змішані в один рядок.

Розкладемо їх по поличках:

Що	Джерело й дата	Що стверджується насправді
Прогноз	Пресреліз Gartner, 24 червня 2026	До 2028 року витрати на ШІ-кодинг перевищать середню зарплату розробника — через зростання споживання токенів і перехід вендорів на оплату за споживання
База прогнозу	Інтерв’ю аналітика Gartner, червень 2026	Середня світова зарплата — $2 000 на місяць; це не означає, що токени обійдуться дорожче за будь-яку зарплату
Опитування	Gartner Peer Insights, червень 2026	23% технологічних керівників витрачають $200–500 на місяць на розробника на токени кодинг-агентів; 6% організацій — понад $2 000
Приклад	Інтерв’ю аналітика Gartner	«Мій розробник витратив $20 тис. за минулий місяць» — випадок, який аналітик чув, а не статистика
Переказ	Частина російськомовних медіа	«$2 000–5 000 на місяць за місце, а подекуди до $20 000» — у такому вигляді в передруках пресрелізу та в інтерв’ю аналітика цієї статистики немає

Старший головний аналітик Gartner Nitish Tyagi в інтерв’ю CIO окремо уточнив: прогноз спирається на середню світову зарплату $2 000 на місяць, а в США річні зарплати бувають шестизначними. Цифри про $20 тис. він навів як «лякаючі» приклади, мета яких — привернути увагу до витрат на токени без контролю.

USDT→

Binance · Wall Street 24/7Акції США без брокераТоргуйте ціною Apple, Nvidia і Tesla прямо з акаунта Binance

AAPLNVDATSLA

Перша угода за 5 кроків

Що з цього випливає для практики:

Орієнтир для команди — опитування, а не заголовки. $200–500 на розробника на місяць бачать майже чверть опитаних керівників. Це порівнянно з нашим розрахунком для Sonnet 5.5 з кешем.
Хвіст розподілу реальний. 6% організацій уже витрачають понад $2 000 на розробника. Без лімітів один агент із довгими прогонами на дорогій моделі легко потрапляє в цей хвіст.
Прогноз Gartner — про керування, а не про відмову від агентів. Суть попередження в тому, що витрати на токени треба бачити й обмежувати. Саме цим і займаються інструменти нижче.

Langfuse і LiteLLM: один обліковує витрати, інший їх зупиняє

Два інструменти часто ставлять в один ряд, хоча вони розв’язують різні завдання і стоять у різних місцях ланцюжка.

Langfuse — що це: відкрита платформа трейсингу й спостережуваності (observability) для LLM-застосунків та агентів. Вона записує кожен виклик моделі: яка модель, скільки токенів на вході й виході, скільки це коштувало, скільки тривав крок. Виклики збираються в трейс — запис одного прогону агента цілком, — а трейси в сесії та за користувачами. Поверх цього є керування промптами, оцінювання якості та алерти. У січні 2026 року Langfuse купила компанія ClickHouse — ліцензію змінювати не планують; репозиторій має 36,2 тис. зірок на GitHub станом на 23 жовтня 2026 року.

LiteLLM Proxy — це open-source шлюз: ваш агент надсилає запити не безпосередньо в Anthropic чи OpenAI, а в проксі з єдиним OpenAI-сумісним API, а той уже передає їх одному з 100+ провайдерів. Оскільки всі запити йдуть через нього, шлюз видає віртуальні ключі, обліковує витрати за кожним ключем, командою й агентом і відмовляє, коли бюджет закінчився. Репозиторій LiteLLM має 61,9 тис. зірок станом на 23 жовтня 2026 року.

Тому питання «Langfuse vs LiteLLM» поставлене неточно. Це не конкуренти, а дві половини контролю: один інструмент відповідає на питання «куди пішли гроші», другий — «скільки ще можна витратити».

	Langfuse	LiteLLM Proxy
Де стоїть	Поруч із застосунком: отримує дані про виклики	На шляху запиту, між агентом і провайдером
Коли дізнається про витрати	Після виклику	До надсилання: оцінює й резервує ціну запиту
Може зупинити агента	Ні, лише алерт у Slack, вебхук або GitHub Actions	Так, відхиляє запит, коли бюджет вичерпано
У чому сильний	Ціна кожного кроку, пошук дорогих кроків, сесії, оцінювання	Віртуальні ключі, бюджети за ключем, командою й агентом, єдиний API
Що потрібно для роботи	Хмара або власний сервер (Postgres, ClickHouse, Redis, S3)	Власний сервер і обов’язково Postgres для бюджетів
Ліцензія	MIT, крім каталогів `ee/`	MIT, крім каталогу `enterprise/`

Чому LiteLLM відсікає запит саме до надсилання: резервування бюджету в нього ввімкнене за замовчуванням. Шлюз оцінює максимальну ціну запиту за max_tokens або за лімітами моделі, резервує цю суму і, якщо резерв перевищить бюджет, відхиляє запит, не надсилаючи його провайдеру. Виняток — batch-завдання: їхню повну ціну заздалегідь не оцінити.

Як побачити ціну кожного кроку агента в Langfuse: 6 кроків

Завдання цього етапу — отримати картину: які прогони дорогі і який крок усередині прогону з’їдає гроші. Блокувати поки нічого не потрібно.

Виберіть, де житиме Langfuse. Вибір Langfuse Cloud vs self-hosted на старті простий. Хмарний тариф Hobby безкоштовний: 50 тис. units на місяць, 30 днів зберігання даних, 2 користувачі, регіон даних на вибір — США, ЄС або Японія. Власний сервер Langfuse можна підняти локально через Docker: git clone репозиторію і docker compose up, приблизно за 2–3 хвилини контейнер langfuse-web-1 пише в лог «Ready», а інтерфейс відкривається на http://localhost:3000. Документація радить під таке встановлення щонайменше 4 ядра й 16 GiB пам’яті та попереджає: це одна машина без відмовостійкості, масштабування й резервних копій.
Створіть проєкт і візьміть ключі. У налаштуваннях проєкту генерується пара LANGFUSE_PUBLIC_KEY і LANGFUSE_SECRET_KEY — їх отримає ваш застосунок або шлюз.
Підключіть агента. Є два шляхи: SDK Langfuse або OpenTelemetry прямо в коді агента — або LiteLLM Proxy, який сам надішле трейси (це розібрано нижче, у розділі про зв’язку). Другий шлях зручний, якщо агентів кілька і чіпати їхній код не хочеться.
Відкрийте перший трейс. Один прогін агента — один трейс, кожен виклик моделі й інструмента — спостереження (observation) всередині нього. У виклику моделі видно токени за типами (вхід, вихід, читання кешу) і ціну в доларах, а в трейсу — сумарну вартість прогону: за нею й знаходять найдорожчі прогони та кроки.
Перевірте, звідки береться ціна. Langfuse отримує ціну двома шляхами: надіслану з відповіді провайдера або обчислену за визначенням моделі (токени × ціна за тип токена). Надіслане значення має пріоритет. Ціни OpenAI, Anthropic і Google вбудовані й звіряються щоденним автоматичним аудитом, але нова ціна застосовується лише до нових викликів. Для власної моделі, знижки чи нестандартного тарифу додайте визначення моделі в Project Settings > Models — там само задаються цінові рівні, наприклад дорожчий тариф для довгого промпту.
Поставте алерт за вартістю. Алерти Langfuse спрацьовують за метриками, зокрема за cost, і йдуть у Slack, вебхук або GitHub Actions. Ліміт на кількість алертів: 2 на Hobby, 20 на Core, 50 на Pro, 100 на Enterprise; у self-hosted v4 ліміту немає.

Два застереження до цього етапу:

У reasoning-моделей без надісланих токенів ціни не буде. Langfuse не може обчислити її, токенізуючи текст, — передавайте лічильники токенів із відповіді API.
«Spend Alerts» у Langfuse — не те, чим здаються. Це алерти на ваш рахунок за сам Langfuse Cloud, а не на витрати моделей. Для контролю агентів потрібні звичайні алерти за метрикою cost із кроку 6.

Ліміт витрат у LiteLLM Proxy: ключ, команда і сесія агента

Коли зрозуміло, скільки витрачає агент, потрібна стеля. LiteLLM Proxy дає чотири рівні бюджетів: персональний (віртуальний ключ без команди), команди, учасника команди й агента. Нижче — порядок налаштування за офіційною документацією LiteLLM станом на 23 жовтня 2026 року.

Документація LiteLLM: бюджети агентів (1) і попередження, що без бази даних бюджети не працюють (2)

На скриншоті сторінки «Budgets, Rate Limits» із документації LiteLLM (знято 23 жовтня 2026 року) рамка 1 виділяє бюджети агентів — ліміт ітерацій і доларовий ліміт на сесію, рамка 2 — попередження «Budgets require a database».

Підключіть Postgres. Це не порада, а умова. Документація LiteLLM прямо пише, що без бази даних жоден бюджет нічого не обмежує: глобальний max_budget у такому режимі «fails open» — перевірка пропускається, запити йдуть понад ліміт, а в лог під час старту пишеться одне попередження. Бюджети ключів, команд і користувачів без бази недоступні взагалі.
Задайте майстер-ключ і загальну стелю проксі в config.yaml:

general_settings:
  master_key: os.environ/LITELLM_MASTER_KEY

litellm_settings:
  max_budget: 300        # загальна стеля в доларах (значення для прикладу)
  budget_duration: 30d   # вікно, після якого лічильник обнуляється

Видайте агентові окремий ключ із двома вікнами бюджету. Одне вікно на місяць не рятує від одного невдалого дня, тому документація пропонує поєднувати добовий і місячний ліміт — і прямо наводить цей прийом для розгортання Claude Code в команді:

curl 'http://0.0.0.0:4000/key/generate' \
  -H "Authorization: Bearer $LITELLM_MASTER_KEY" \
  -H 'Content-Type: application/json' \
  -d '{"budget_limits": [
        {"budget_duration": "24h", "max_budget": 10},
        {"budget_duration": "30d", "max_budget": 100}
      ]}'

Вікно 24h обнуляється опівночі за UTC, вікно 30d — 1-го числа кожного місяця о 00:00 UTC. Важлива деталь: у нового ключа max_budget за замовчуванням дорівнює null, тобто не перевіряється взагалі — ліміт треба задати явно.

Налаштуйте бюджет команди. Ключ із team_id списує витрати із загального бюджету команди; учасникові можна задати особисту стелю всередині команди через max_budget_in_team. Нюанс із документації: якщо ключ належить команді, діють лише бюджети команди й учасника, а персональний бюджет власника ключа не застосовується.
Обмежте сесію агента. Для агентів, зареєстрованих в Agent Gateway LiteLLM, є ліміти на сесію — тобто на один прогін:

curl -X POST 'http://localhost:4000/v1/agents' \
  -H "Authorization: Bearer $LITELLM_API_KEY" \
  -H 'Content-Type: application/json' \
  -d '{"agent_name": "my-research-agent",
       "agent_card_params": {"name": "my-research-agent", "description": "A research agent", "url": "http://my-agent:8080", "version": "1.0.0"},
       "litellm_params": {
         "require_trace_id_on_calls_by_agent": true,
         "max_iterations": 25,
         "max_budget_per_session": 5.00
       }}'

max_iterations обриває прогін, що зациклився, за кількістю викликів, max_budget_per_session — за грошима. Параметр require_trace_id_on_calls_by_agent обов’язковий: без ідентифікатора сесії шлюз не зрозуміє, які виклики належать до одного прогону. Агент передає його заголовком x-litellm-trace-id або полем metadata.session_id у тілі запиту. Сесія, що перевищила ліміт, отримує відповідь 429 Too Many Requests. Крім того, на агента ставляться tpm_limit і rpm_limit — токени й запити на хвилину за всіма сесіями.

Перевірте відмову. Видайте тестовому ключеві копійчаний бюджет і зробіть кілька запитів. Ключ понад бюджет отримує помилку ExceededTokenBudget, бюджет за моделлю — помилку типу budget_exceeded. Якщо запити й далі проходять, насамперед перевірте, чи бачить проксі базу даних.

Що з цього є в безкоштовній версії, а чого немає:

Функція	Open-source (MIT)	Enterprise
Бюджети ключа, команди, учасника команди	Так	Так
Кілька вікон на ключ (доба + місяць)	Так	Так
Ліміти агента: tpm/rpm, ітерації та бюджет на сесію	Так	Так
Бюджет за кожною моделлю на ключ	Ні	Так
Бюджети за тегами, м’які алерти поштою	Ні	Так
Аудит-логи, звіти щодо витрат, SSO понад 5 користувачів	Ні	Так

Ціну Enterprise публічно не вказано: за документацією LiteLLM вона залежить від використання й називається на запит.

Зв’язка LiteLLM і Langfuse: ліміт на вході, розбір на виході

Інтеграція Langfuse і LiteLLM замикає схему: шлюз пропускає через себе всі виклики, обмежує їх бюджетом і надсилає кожен виклик трейсом у Langfuse. Код агентів при цьому чіпати не потрібно — досить спрямувати їх на адресу проксі. Нижче — налаштування за документацією Langfuse станом на 23 жовтня 2026 року.

Задайте змінні оточення на сервері проксі:

export LANGFUSE_PUBLIC_KEY="pk-lf-..."
export LANGFUSE_SECRET_KEY="sk-lf-..."
export LANGFUSE_OTEL_HOST="https://us.cloud.langfuse.com"   # регіон США за замовчуванням
# ЄС: https://cloud.langfuse.com · Японія: https://jp.cloud.langfuse.com
# власний сервер: адреса вашого встановлення Langfuse

Увімкніть колбек у config.yaml проксі — у той самий блок litellm_settings, де вже стоїть max_budget. Другий блок із тією самою назвою парсер не додасть до першого, а мовчки поставить замість нього, і загальна стеля зникне:

litellm_settings:
  max_budget: 300
  budget_duration: 30d
  callbacks: ["langfuse_otel"]

Для Langfuse v3 і v4 LiteLLM радить саме пресет langfuse_otel через OpenTelemetry: він дає точніші спани й меншу затримку. Колбек langfuse потребує Python SDK Langfuse v4 (langfuse>=4.7,<5).

Передавайте мітки прогону. Щоб у Langfuse витрати групувалися за агентами й прогонами, агент додає в метадані запиту session_id, trace_id і tags — або надсилає їх заголовками з префіксом langfuse_, наприклад langfuse_trace_id. Той самий session_id знадобиться й шлюзу: за полем metadata.session_id (або за заголовком x-litellm-trace-id) LiteLLM відстежує ліміт на сесію з попереднього розділу — одна мітка працює і на бюджет, і на розбір.
Звірте версії. Старі сервери Langfuse v2 узагалі не приймають трейси за маршрутом OpenTelemetry і відповідають 404 — проксі запише відмову в лог, а трейси загубляться. Для колбека langfuse на Python SDK v4 власний сервер має бути версії 3.63.0 або новішої. Порядок оновлення: спершу сервер Langfuse, потім LiteLLM.

Результат: агент упирається в стелю на боці LiteLLM, а в Langfuse видно, на якому кроці й у якому прогоні пішли гроші. Якщо стоїть лише Langfuse — ви дізнаєтеся про перевитрату з алерту, коли гроші вже витрачено. Якщо стоїть лише LiteLLM — витрати обмежено, але незрозуміло, який крок їх з’їв.

Ціни й ліцензії: Langfuse, LiteLLM, Helicone, LangSmith, OpenRouter

Langfuse і LiteLLM — не єдиний варіант. Нижче порівняння станом на 23 жовтня 2026 року за офіційними сторінками цін і ліцензіями. Головна колонка — остання: чи вміє інструмент зупинити витрати, а не лише показати їх.

Інструмент	Що робить	Безкоштовно	Платно	Ліцензія і self-host	Блокує витрати
Langfuse	Трейсинг, ціна кожного кроку, алерти	Hobby: 50 тис. units на місяць; self-host	Core $29, Pro $199, Enterprise $2 499 на місяць; понад включене — $8 за 100 тис. units	MIT, крім `ee/`; повноцінний self-host	Ні, лише алерт
LiteLLM Proxy	Шлюз, ключі, бюджети, ліміти	Open-source повністю (потрібен Postgres)	Enterprise на запит	MIT, крім `enterprise/`; self-host — основний режим	Так, до надсилання провайдеру
Helicone	Логування через проксі, ціна запитів	Hobby: 10 000 запитів	Pro $79, Team $799 на місяць + оплата за використання	Apache 2.0; self-host через docker-compose	н/д
LangSmith	Трейсинг і оцінювання, екосистема LangChain	Developer: 1 місце, до 5 тис. base traces на місяць	Plus $39 за місце, до 10 тис. base traces	Закритий бекенд; self-host лише в Enterprise	Не заявлено
OpenRouter	Агрегатор моделей з одним ключем	—	Комісія 5,5% під час купівлі кредитів (Business — 8%)	Лише хмара	Ліміт на ключ (`limit`, `limit_reset`)
Ліміт у провайдера (Anthropic)	Стеля місячних витрат організації	Входить в API	—	—	Так, але без розбивки за агентами

Трейсинг агентів: Langfuse vs LangSmith і що вибрати

Якщо стоїть вибір Langfuse vs LangSmith, вирішують три речі.

Self-host. У Langfuse власний сервер безкоштовний під MIT; у LangSmith власне встановлення доступне лише в Enterprise.
Одиниця обліку. LangSmith тарифікує трейси, Langfuse — units: трейси плюс спостереження плюс оцінки. Пороги «5 тис. трейсів» і «50 тис. units» безпосередньо не порівнюються: в агента один прогін — це один трейс, але десятки units (розрахунок нижче).
Зберігання. У LangSmith base traces зберігаються 14 днів, extended — 180 днів. У Langfuse на Hobby — 30 днів, на Core — 90 днів, на Pro — 3 роки.

LangSmith логічний, якщо агенти вже написані на LangChain чи LangGraph і команда готова платити за місця. Для змішаного стеку й self-host зручніший Langfuse.

Helicone і OpenRouter: які застереження

Helicone. 3 березня 2026 року Helicone купила компанія Mintlify, і продукт перейшов у режим підтримки: оновлення безпеки, виправлення й нові моделі, без розвитку. Станом на 23 жовтня 2026 року на сайті Helicone висить оголошення, що він більше не частина Mintlify, а подробиці будуть згодом. Будувати на ньому довгостроковий облік витрат зараз ризиковано.

OpenRouter. Це не трейсинг, а агрегатор: один ключ до моделей багатьох провайдерів. Комісія 5,5% береться під час купівлі кредитів, а не з кожного запиту; під час роботи з власними ключами провайдерів (BYOK) перші $25 000 на місяць за прайсом ідуть без комісії, далі 5%. Для ключа можна задати ліміт і період скидання — це проста «стоп-кнопка» без розбивки за кроками.

Ліміт у самого провайдера. Anthropic дає змогу задати місячний ліміт витрат організації, зокрема нижчий за стелю свого тарифу. Це безкоштовна страховка від катастрофи, але вона не скаже, який агент і який крок витратив гроші.

Що застаріє першим: ціни моделей і тарифи інструментів. Перед бюджетуванням звіряйте прайс Anthropic і сторінки цін інструментів — у таблиці дані станом на 23 жовтня 2026 року.

Скільки коштує сам контроль: хмара Langfuse чи власний сервер

Хмарний Langfuse бере гроші за units. Unit — це трейс, спостереження або оцінка: кожен запис у базі. Прогін агента з 20 кроків — це приблизно 1 трейс + 20 викликів моделі + 20 викликів інструментів ≈ 41 unit. Оцінки LLM-as-a-judge і ручні анотації теж витрачають units.

Тарифи Langfuse Cloud: ліміти Hobby (1) і вартість units на Core (2)

На скриншоті сторінки Langfuse Pricing (знято 23 жовтня 2026 року) рамка 1 показує ліміти безкоштовного Hobby — 50 тис. units, 30 днів даних, 2 користувачі, рамка 2 — правило Core: 100 тис. units входять у тариф, понад них $8 за кожні 100 тис.

Прогонів агента на місяць	Units (≈41 на прогін)	Тариф і рахунок на місяць
1 100	≈ 45 тис.	Hobby, $0
5 000	≈ 205 тис.	Core: $29 + $8 × 1,05 ≈ $37,4
20 000	≈ 820 тис.	Core: $29 + $8 × 7,2 ≈ $86,6

Застереження до розрахунку: 41 unit — якщо в трейс пишуться й виклики інструментів (SDK або OpenTelemetry в коді агента). Якщо трейси йдуть лише через LiteLLM Proxy, Langfuse бачить тільки виклики моделі — близько 21 unit на прогін, тобто рахунок приблизно вдвічі менший.

Порівняйте з рахунком за самі моделі: 1 100 прогонів на Sonnet 5.5 без кешу — близько $1 234 на місяць, а облік цих прогонів у Langfuse вкладається в безкоштовний тариф. Контроль коштує на порядки менше, ніж те, що він контролює.

Коли власний сервер Langfuse вигідніший за хмару

Вибір між хмарою і власним сервером — питання не лише ціни. Власний сервер безкоштовний за ліцензією MIT, але ви платите за машину (від 4 ядер і 16 GiB, документація наводить як приклад t3.xlarge на AWS) і за час адміністратора. У комплекті Postgres, ClickHouse, Redis або Valkey і S3-сховище; Docker Compose підходить для тесту, для продакшену документація пропонує Kubernetes (Helm) або Terraform.

Self-host має сенс у трьох випадках:

трейси містять чутливі дані — промпти й відповіді агента не мають потрапляти до третьої сторони;
обсяг великий — рахунок хмари за units став помітним;
потрібно більше алертів або довше зберігання, ніж дають хмарні тарифи.

В інших випадках хмарний Hobby чи Core дешевший за власний сервер з урахуванням часу на підтримку. LiteLLM натомість майже завжди живе на власній машині: open-source версія безкоштовна, але потребує сервера й Postgres.

Де облік витрат підводить і коли Langfuse з LiteLLM не потрібні

Підписка чи ліміт провайдера: коли шлюз і трейсинг не потрібні

Не потрібні, якщо ви один і працюєте з агентом за підпискою — наприклад, Claude Code на тарифах Pro чи Max. Там ви витрачаєте ліміт підписки, а не токени за рахунком, і стелю задає сам тариф; як його розраховувати й розтягувати, ми розбирали в матеріалі про ліміти Claude Code. Якщо ж ви на API-ключі, але самі, вистачить місячного ліміту витрат у провайдера.

Ризики обліку витрат агента: слабкі місця і підстраховки

Облік може підвести навіть за правильного налаштування:

Слабке місце	Що відбувається	Підстраховка
Бюджети LiteLLM без бази даних	Перевірка мовчки пропускається, запити йдуть понад ліміт	Postgres обов’язковий; тест відмови на копійчаному ключі
Застарілий лічильник у Redis	Лічильник витрат LiteLLM живе в Redis; після перезапуску Redis зі старим знімком він може показати менше за реальне — тоді ключ витрачатиме понад `max_budget`	`general_settings.fail_closed_budget_enforcement: true` — звірка з базою перед кожним запитом із бюджетом
Ключ за замовчуванням без ліміту	`max_budget` у нового ключа дорівнює null і не перевіряється	Задавати ліміт під час видачі кожного ключа
Сліпі зони обліку	14 жовтня 2026 року в LiteLLM виправили баг: виклики через passthrough `/vllm` не записували витрати, бюджети ключів не росли (PR #45733)	Раз на місяць звіряти трейси й витрати шлюзу з рахунком провайдера
Ціни моделей із затримкою	Нова ціна в Langfuse діє лише для нових викликів; власної моделі чи знижки в списку немає	Власне визначення моделі в Project Settings > Models
Reasoning-моделі	Без надісланих токенів Langfuse не обчислить ціну	Передавати лічильники токенів із відповіді API
Компрометація шлюзу	24 березня 2026 року на PyPI виклали шкідливі LiteLLM 1.82.7 і 1.82.8 для крадіжки облікових даних; офіційний Docker-образ проксі не постраждав	Закріплювати версії, ставити з офіційного Docker-образу, ротувати ключі провайдерів
Відкритий в інтернет проксі	Шлюз зберігає ключі всіх провайдерів; відкриті сервери LiteLLM і Ollama вже потрапляли в ботнет PoeLLM	Проксі лише у внутрішній мережі або за авторизацією
Дані в трейсах	Промпти й відповіді агента зберігаються в того, хто тримає Langfuse	Self-host, маскування, вибір регіону хмари
Майбутнє Helicone	Режим підтримки після угоди з Mintlify, станом на 23 жовтня 2026 року статус не прояснено	Не будувати на ньому довгостроковий облік

Ще одна пастка — очікування, що Langfuse щось зупинить. Він не блокує запити: алерт приходить, коли гроші вже витрачено. Якщо потрібна гарантія стелі, вона живе лише в шлюзі або в ліміті провайдера.

Контроль витрат ШІ-агента в трьох сценаріях: соло, команда, продукт

Соло-розробник або пет-проєкт

Ситуація: одна людина, агент за підпискою або на API-ключі, витрати — десятки доларів на місяць.
Схема: місячний ліміт витрат організації в провайдера + хмарний Langfuse Hobby, щоб бачити найдорожчі прогони й кроки. 1 100 прогонів із 20 кроків вкладаються в безкоштовні 50 тис. units.
Шлюз не потрібен: підтримувати сервер із Postgres заради одного ключа дорожче, ніж користі від нього. Як виглядає собівартість особистого агента в реальній роботі, ми розраховували в розборі OpenClaw.

Команда з 10 людей із кодинг-агентами на API-ключах

Ситуація: у кожного свій агент, спільний рахунок у провайдера, ніхто не знає, хто скільки витрачає.
Схема: LiteLLM Proxy + Postgres, по ключу на людину з двома вікнами — $10 на добу і $100 на місяць, плюс бюджет команди згори. Логи — у Langfuse через langfuse_otel, тариф Hobby або Core.
Орієнтир витрат: за опитуванням Gartner Peer Insights 23% керівників витрачають $200–500 на місяць на розробника. Вікно $100 на місяць на ключ — консервативний старт; підняти його простіше, ніж пояснювати перевитрату.

Продукт з агентом для клієнтів

Ситуація: агента запускають користувачі, кількість прогонів не під вашим контролем, один прогін, що зациклився, б’є по маржі.
Схема: ліміт на сесію агента в LiteLLM (max_budget_per_session, max_iterations), алерти за cost у Langfuse, self-host Langfuse, якщо в трейсах персональні дані клієнтів.
Економія на маршрутизації: прості кроки — класифікацію, витягування полів, короткі відповіді — можна віддавати дешевій моделі. За нашим розрахунком прогін на Haiku 5.5 у 20 разів дешевший, ніж на Sonnet 5.5; де ця модель справляється, а де ні, — в огляді Claude Haiku 5.5.

Часті запитання

Чим Langfuse відрізняється від LiteLLM?

Langfuse — платформа спостережуваності: записує кожен виклик моделі з токенами й ціною, збирає прогони агента в трейси та надсилає алерти. LiteLLM Proxy — шлюз між агентом і провайдером: видає віртуальні ключі, обліковує витрати й відхиляє запити понад бюджет. Перший показує, куди пішли гроші, другий не дає витратити більше за ліміт. Зазвичай їх ставлять разом.

Чи може Langfuse зупинити агента, якщо він перевищив бюджет?

Ні. Langfuse дізнається про витрати після виклику й може лише надіслати алерт за метрикою cost у Slack, вебхук або GitHub Actions. Щоб агент уперся в стелю, потрібен шлюз із бюджетами — наприклад, LiteLLM Proxy з лімітом на ключ або на сесію агента — чи місячний ліміт витрат у самого провайдера.

Langfuse безкоштовний?

Так, у двох варіантах. Власний сервер безкоштовний за ліцензією MIT, крім функцій із каталогів ee/. У хмарі є тариф Hobby: 50 тис. units на місяць, 30 днів зберігання, 2 користувачі. Цього вистачає приблизно на 1 100 прогонів агента з 20 кроків. Платні тарифи станом на 23 жовтня 2026 року починаються з Core за $29 на місяць.

Чи потрібна база даних для бюджетів у LiteLLM?

Так, обов’язково. Усі бюджети LiteLLM звіряються з витратами з бази даних, тому без Postgres жоден ліміт не працює: глобальний бюджет пропускається, запити йдуть понад нього, а в лозі залишається одне попередження під час старту. Бюджети ключів, команд і користувачів без бази недоступні взагалі. Перевіряйте відмову на тестовому ключі з маленьким бюджетом.

Скільки коштує один запуск ШІ-агента?

Залежить від моделі й кількості кроків. За нашим розрахунком на цінах Claude станом на 23 жовтня 2026 року прогін із 20 кроків коштує близько $1,12 на Sonnet 5.5, $2,24 на Opus 5.5 і $0,056 на Haiku 5.5 без кешу промпту. З кешем — у 4–5 разів дешевше. Удвічі більше кроків робить прогін приблизно в 3,4 раза дорожчим.

Що вибрати: Langfuse чи LangSmith?

Langfuse — якщо потрібен безкоштовний self-host, змішаний стек фреймворків і тариф без оплати за місця: Core за $29 містить необмежену кількість користувачів. LangSmith — якщо агенти побудовані на LangChain чи LangGraph і важлива тісна інтеграція з ними; платний Plus коштує $39 за місце, а власне встановлення доступне лише в Enterprise.