Стоимость ИИ-агента под контролем: Langfuse видит цену шага, LiteLLM ставит лимит

Коротко (TL;DR)

Стоимость ИИ-агента в этой статье — это цена его работы: токены, которые он сжигает на каждом шаге, и инфраструктура вокруг. Цену заказной разработки агента у подрядчика здесь не разбираем — это другой вопрос с другими цифрами.

• Цена растёт быстрее числа шагов. Агент на каждом шаге заново отправляет модели весь накопленный контекст. По нашему расчёту на ценах Claude на 23 октября 2026 года прогон из 20 шагов на Sonnet 5.5 стоит около $1,12, из 40 шагов — около $3,76: вдвое больше шагов, в 3,4 раза дороже.
• Langfuse видит, LiteLLM останавливает. Langfuse записывает каждый вызов модели с токенами и ценой и может прислать алерт, но запрос не блокирует. LiteLLM Proxy стоит на пути запроса и отклоняет его ещё до отправки провайдеру, если бюджет ключа, команды или сессии агента исчерпан.
• Рабочая схема — оба сразу: LiteLLM на входе ставит потолок, Langfuse на выходе показывает, какой шаг съел деньги.
• Главная ловушка: без базы Postgres бюджеты LiteLLM молча не работают, запросы идут сверх лимита.
• Сам контроль почти бесплатен: оба инструмента open-source под MIT; облачный Langfuse бесплатен до 50 тыс. units в месяц — это около 1 200 прогонов агента из 20 шагов.

Из чего складывается стоимость ИИ-агента: шаги, контекст и кэш

Обычный чат-запрос — это один вызов модели. Агент работает иначе: он думает, вызывает инструмент (поиск, чтение файла, запрос к API), получает результат и снова думает. Каждый такой круг — новый вызов модели, и в каждый вызов уходит вся история прогона: системный промпт, описания инструментов, все предыдущие ответы и результаты.

Отсюда простая формула цены одного шага: весь контекст на входе × цена входных токенов + ответ модели × цена выходных. Контекст на каждом шаге длиннее, чем на предыдущем, поэтому сумма растёт не линейно, а примерно квадратично. Почему модель вообще держит всю историю и где у этого предел, мы разбирали в материале про контекстное окно LLM.

Расчёт: сколько стоит один прогон агента

Возьмём типичного агента и посчитаем на открытых ценах Anthropic. Допущения расчёта:

доля, а не целая акция

Binance · Wall Street 24/7Доля Nvidia — от7 USDTЦелую акцию покупать не нужно. Начните с маленькой суммы — риск под контролем

NVDATSLAAAPL

Первая сделка за 5 шагов

• системный промпт и описания инструментов — 8 000 токенов;
• каждый шаг добавляет 1 500 токенов результата инструмента и 400 токенов ответа модели;
• каждый шаг заново отправляет весь накопленный контекст, ничего не сжимается.

Цены на 23 октября 2026 года за 1 млн токенов: Claude Sonnet 5.5 — $2 на вход и $10 на выход, Claude Opus 5.5 — $4 и $20, Claude Haiku 5.5 — $0,10 и $0,50 для промптов до 100 тыс. токенов. Колонки «с кэшем» считают, что повторяющийся префикс контекста читается из кэша промпта: у Sonnet 5.5 это $0,10 за 1 млн токенов вместо $2, а запись в кэш на 5 минут стоит $2,50.

Blume: сайт документации из папки Markdown, который читают люди и ИИ-агенты

Эмбеддинг-модели для RAG: Nemotron 3 Embed, EmbeddingGemma 2 и выбор по вашим данным

Разобраться в чужом репозитории с ИИ: агент, автовики, карта кода и запуск

Расходы на токены LLM: что экономят кэш, сжатие контекста, batch и дешёвая модель

Symantec: агент «Skynet» захватывает открытые LLM и до 100 000 шагов атакует сам

Что видно из таблицы:

1. 20 шагов — это 521 тыс. входных токенов, 40 шагов — 1,8 млн. Выходных при этом всего 8 и 16 тыс. Агент платит в основном за то, что модель перечитывает собственную историю.
2. Удвоение шагов даёт рост цены в 3,4 раза. Именно так выглядит зациклившийся агент в счёте: он не просто делает лишние шаги, каждый следующий шаг дороже предыдущего.
3. Кэш промпта режет цену прогона Sonnet 5.5 примерно в 4,7 раза. Это самый крупный рычаг цены, но как ужимать токены — отдельная тема; здесь нас интересует, как видеть расход и ставить ему потолок.

Месячный бюджет: от прогона к счёту

Теперь умножим. Интенсивная работа — 50 прогонов в рабочий день, 22 рабочих дня в месяце, то есть 1 100 прогонов:

Если так работает один разработчик, вариант «Opus без кэша» уже дороже $2 000 в месяц — той самой суммы, от которой считал Gartner (об этом в следующем разделе). Расчёт модельный: реальные агенты чистят и сжимают контекст, а шаги бывают разной длины. Его задача — показать порядок цифр и форму роста, а не предсказать ваш счёт до цента. Как устроены сами агентные циклы и почему одни паттерны дороже других, мы разбирали в обзоре паттернов агентных систем.

Агенты дороже программистов? Что на самом деле посчитал Gartner

Короткий ответ: нет, Gartner не говорил, что компании уже тратят на агентов больше, чем на зарплаты. Прогноз касается ИИ-кодинга и средней мировой зарплаты разработчика, а самые громкие цифры в пересказах — это опрос и единичные примеры, смешанные в одну строку.

Разведём их по полкам:

Старший главный аналитик Gartner Nitish Tyagi в интервью CIO отдельно уточнил: прогноз опирается на среднюю мировую зарплату $2 000 в месяц, а в США годовые зарплаты бывают шестизначными. Цифры про $20 тыс. он привёл как «пугающие» примеры, цель которых — привлечь внимание к расходам на токены без контроля.

доля, а не целая акция

Binance · Wall Street 24/7Доля Nvidia — от7 USDTЦелую акцию покупать не нужно. Начните с маленькой суммы — риск под контролем

NVDATSLAAAPL

Первая сделка за 5 шагов

Что из этого следует для практики:

• Ориентир для команды — опрос, а не заголовки. $200–500 на разработчика в месяц — то, что видят почти четверть опрошенных руководителей. Это сопоставимо с нашим расчётом для Sonnet 5.5 с кэшем.
• Хвост распределения реален. 6% организаций уже тратят больше $2 000 на разработчика. Без лимитов один агент с длинными прогонами на дорогой модели легко попадает в этот хвост.
• Прогноз Gartner — про управление, а не про отказ от агентов. Смысл предупреждения в том, что расход на токены надо видеть и ограничивать. Ровно этим и заняты инструменты ниже.

Langfuse и LiteLLM: один считает расходы, другой их останавливает

Два инструмента часто ставят в один ряд, хотя они решают разные задачи и стоят в разных местах цепочки.

Langfuse — что это: открытая платформа трейсинга и наблюдаемости (observability) для LLM-приложений и агентов. Она записывает каждый вызов модели: какая модель, сколько токенов на входе и выходе, сколько это стоило, сколько длился шаг. Вызовы собираются в трейс — запись одного прогона агента целиком, — а трейсы в сессии и по пользователям. Поверх этого есть управление промптами, оценки качества и алерты. В январе 2026 года Langfuse купила компания ClickHouse — лицензию менять не планируют; у репозитория 36,2 тыс. звёзд на GitHub на 23 октября 2026 года.

LiteLLM Proxy — это open-source шлюз: ваш агент шлёт запросы не напрямую в Anthropic или OpenAI, а в прокси с единым OpenAI-совместимым API, а тот уже передаёт их одному из 100+ провайдеров. Раз все запросы идут через него, шлюз выдаёт виртуальные ключи, считает расход по каждому ключу, команде и агенту и отказывает, когда бюджет кончился. У репозитория LiteLLM 61,9 тыс. звёзд на 23 октября 2026 года.

Поэтому вопрос «Langfuse vs LiteLLM» поставлен неточно. Это не конкуренты, а две половины контроля: один инструмент отвечает на вопрос «куда ушли деньги», второй — «сколько ещё можно потратить».

Почему LiteLLM режет именно до отправки: резервирование бюджета у него включено по умолчанию. Шлюз оценивает максимальную цену запроса по max_tokens или по лимитам модели, резервирует эту сумму и, если резерв превысит бюджет, отклоняет запрос, не отправляя его провайдеру. Исключение — batch-задачи: их полную цену заранее не оценить.

Как увидеть цену каждого шага агента в Langfuse: 6 шагов

Задача этого этапа — получить картину: какие прогоны дорогие и какой шаг внутри прогона съедает деньги. Блокировать пока ничего не нужно.

1. Выберите, где будет жить Langfuse. Выбор Langfuse Cloud vs self-hosted на старте простой. Облачный тариф Hobby бесплатен: 50 тыс. units в месяц, 30 дней хранения данных, 2 пользователя, регион данных на выбор — США, ЕС или Япония. Свой сервер — git clone репозитория и docker compose up: примерно через 2–3 минуты контейнер langfuse-web-1 пишет в лог «Ready», интерфейс открывается на http://localhost:3000. Документация рекомендует под такую установку минимум 4 ядра и 16 GiB памяти и предупреждает: это одна машина без отказоустойчивости, масштабирования и бэкапов.
2. Создайте проект и возьмите ключи. В настройках проекта генерируется пара LANGFUSE_PUBLIC_KEY и LANGFUSE_SECRET_KEY — их получит ваше приложение или шлюз.
3. Подключите агента. Есть два пути: SDK Langfuse или OpenTelemetry прямо в коде агента, либо через LiteLLM Proxy, который сам отправит трейсы (это разобрано ниже, в разделе про связку). Второй путь удобен, если агентов несколько и трогать их код не хочется.
4. Откройте первый трейс. Один прогон агента — один трейс, каждый вызов модели и инструмента — наблюдение (observation) внутри него. У вызова модели видны токены по типам (вход, выход, чтение кэша) и цена в долларах, а у трейса — суммарная стоимость прогона: по ней и находят самые дорогие прогоны и шаги.
5. Проверьте, откуда берётся цена. Langfuse получает цену двумя путями: присланную из ответа провайдера или вычисленную по определению модели (токены × цена за тип токена). Присланное значение приоритетнее. Цены OpenAI, Anthropic и Google встроены и сверяются ежедневным автоматическим аудитом, но новая цена применяется только к новым вызовам. Для своей модели, скидки или нестандартного тарифа добавьте определение модели в Project Settings > Models — там же задаются ценовые уровни, например более дорогой тариф для длинного промпта.
6. Поставьте алерт по стоимости. Алерты Langfuse срабатывают по метрикам, в том числе по cost, и уходят в Slack, вебхук или GitHub Actions. Лимит на число алертов: 2 на Hobby, 20 на Core, 50 на Pro, 100 на Enterprise; у self-hosted v4 лимита нет.

Две оговорки к этому шагу:

• У reasoning-моделей без присланных токенов цены не будет. Langfuse не может вычислить её, токенизируя текст, — передавайте счётчики токенов из ответа API.
• «Spend Alerts» в Langfuse — не то, что кажется. Это алерты на ваш счёт за сам Langfuse Cloud, а не на расход моделей. Для контроля агентов нужны обычные алерты по метрике cost из шага 6.

Лимит расходов в LiteLLM Proxy: ключ, команда и сессия агента

Когда понятно, сколько тратит агент, нужен потолок. LiteLLM Proxy даёт четыре уровня бюджетов: персональный (виртуальный ключ без команды), команды, участника команды и агента. Ниже — порядок настройки по официальной документации LiteLLM на 23 октября 2026 года.

На скриншоте страницы «Budgets, Rate Limits» из документации LiteLLM (снят 23 октября 2026 года) рамка 1 выделяет бюджеты агентов — лимит итераций и долларовый лимит на сессию, рамка 2 — предупреждение «Budgets require a database».

1. Подключите Postgres. Это не рекомендация, а условие. Документация LiteLLM прямо пишет, что без базы данных ни один бюджет ничего не ограничивает: глобальный max_budget в таком режиме «fails open» — проверка пропускается, запросы идут сверх лимита, а в лог при старте пишется одно предупреждение. Бюджеты ключей, команд и пользователей без базы недоступны вовсе.
2. Задайте мастер-ключ и общий потолок прокси в config.yaml:

general_settings:
  master_key: os.environ/LITELLM_MASTER_KEY

litellm_settings:
  max_budget: 300        # общий потолок в долларах (значение для примера)
  budget_duration: 30d   # окно, после которого счётчик обнуляется

1. Выдайте агенту отдельный ключ с двумя окнами бюджета. Одно окно на месяц не спасает от одного неудачного дня, поэтому документация предлагает сочетать суточный и месячный лимит — и прямо приводит этот приём для раскатки Claude Code в команде:

curl 'http://0.0.0.0:4000/key/generate' \
  -H "Authorization: Bearer $LITELLM_MASTER_KEY" \
  -H 'Content-Type: application/json' \
  -d '{"budget_limits": [
        {"budget_duration": "24h", "max_budget": 10},
        {"budget_duration": "30d", "max_budget": 100}
      ]}'

Окно 24h обнуляется в полночь по UTC, окно 30d — 1-го числа каждого месяца в 00:00 UTC. Важная деталь: у нового ключа max_budget по умолчанию равен null, то есть не проверяется вообще — лимит надо задать явно.

1. Настройте бюджет команды. Ключ с team_id списывает расход с общего бюджета команды; участнику можно задать личный потолок внутри команды через max_budget_in_team. Нюанс из документации: если ключ принадлежит команде, действуют только бюджеты команды и участника, а персональный бюджет владельца ключа не применяется.
2. Ограничьте сессию агента. Для агентов, зарегистрированных в Agent Gateway LiteLLM, есть лимиты на сессию — то есть на один прогон:

curl -X POST 'http://localhost:4000/v1/agents' \
  -H "Authorization: Bearer $LITELLM_API_KEY" \
  -H 'Content-Type: application/json' \
  -d '{"agent_name": "my-research-agent",
       "agent_card_params": {"name": "my-research-agent", "description": "A research agent", "url": "http://my-agent:8080", "version": "1.0.0"},
       "litellm_params": {
         "require_trace_id_on_calls_by_agent": true,
         "max_iterations": 25,
         "max_budget_per_session": 5.00
       }}'

max_iterations обрывает зациклившийся прогон по числу вызовов, max_budget_per_session — по деньгам. Параметр require_trace_id_on_calls_by_agent обязателен: без идентификатора сессии шлюз не поймёт, какие вызовы относятся к одному прогону. Агент передаёт его заголовком x-litellm-trace-id или полем metadata.session_id в теле запроса. Превысившая лимит сессия получает ответ 429 Too Many Requests. Кроме того, на агента ставятся tpm_limit и rpm_limit — токены и запросы в минуту по всем сессиям.

1. Проверьте отказ. Выдайте тестовому ключу копеечный бюджет и сделайте пару запросов. Ключ сверх бюджета получает ошибку ExceededTokenBudget, бюджет по модели — ошибку типа budget_exceeded. Если запросы продолжают проходить, первым делом проверьте, видит ли прокси базу данных.

Что из этого есть в бесплатной версии, а что нет:

Цена Enterprise публично не указана: по документации LiteLLM она зависит от использования и называется по запросу.

Связка LiteLLM и Langfuse: лимит на входе, разбор на выходе

Интеграция Langfuse и LiteLLM замыкает схему: шлюз пропускает через себя все вызовы, ограничивает их бюджетом и отправляет каждый вызов трейсом в Langfuse. Код агентов при этом трогать не нужно — достаточно направить их на адрес прокси. Ниже — настройка по документации Langfuse на 23 октября 2026 года.

1. Задайте переменные окружения на сервере прокси:

export LANGFUSE_PUBLIC_KEY="pk-lf-..."
export LANGFUSE_SECRET_KEY="sk-lf-..."
export LANGFUSE_OTEL_HOST="https://us.cloud.langfuse.com"   # регион США по умолчанию
# ЕС: https://cloud.langfuse.com · Япония: https://jp.cloud.langfuse.com
# свой сервер: адрес вашей установки Langfuse

1. Включите колбэк в config.yaml прокси — в тот же блок litellm_settings, где уже стоит max_budget. Второй блок с тем же именем парсер не добавит к первому, а молча поставит вместо него, и общий потолок пропадёт:

litellm_settings:
  max_budget: 300
  budget_duration: 30d
  callbacks: ["langfuse_otel"]

Для Langfuse v3 и v4 LiteLLM рекомендует именно пресет langfuse_otel через OpenTelemetry: он даёт более точные спаны и меньшую задержку. Колбэк langfuse требует Python SDK Langfuse v4 (langfuse>=4.7,<5).

1. Передавайте метки прогона. Чтобы в Langfuse расходы группировались по агентам и прогонам, агент добавляет в метаданные запроса session_id, trace_id и tags — или шлёт их заголовками с префиксом langfuse_, например langfuse_trace_id. Тот же session_id пригодится и шлюзу: по полю metadata.session_id (или по заголовку x-litellm-trace-id) LiteLLM считает лимит на сессию из предыдущего раздела — одна метка работает и на бюджет, и на разбор.
2. Сверьте версии. Старые серверы Langfuse v2 вообще не принимают трейсы по маршруту OpenTelemetry и отвечают 404 — прокси запишет отказ в лог, а трейсы потеряются. Для колбэка langfuse на Python SDK v4 свой сервер должен быть версии 3.63.0 или новее. Порядок обновления: сначала сервер Langfuse, потом LiteLLM.

Результат: агент упирается в потолок на стороне LiteLLM, а в Langfuse видно, на каком шаге и в каком прогоне ушли деньги. Если стоит только Langfuse — вы узнаете о перерасходе из алерта, когда деньги уже потрачены. Если стоит только LiteLLM — расход ограничен, но непонятно, какой шаг его съел.

Цены и лицензии: Langfuse, LiteLLM, Helicone, LangSmith, OpenRouter

Langfuse и LiteLLM — не единственный вариант. Ниже сравнение на 23 октября 2026 года по официальным страницам цен и лицензиям. Главная колонка — последняя: умеет ли инструмент остановить расход, а не только показать его.

Трейсинг агентов: Langfuse vs LangSmith и что выбрать

Если стоит выбор Langfuse vs LangSmith, решают три вещи.

• Self-host. У Langfuse свой сервер бесплатен под MIT; у LangSmith собственная установка доступна только в Enterprise.
• Единица учёта. LangSmith считает трейсы, Langfuse — units: трейсы плюс наблюдения плюс оценки. Пороги «5 тыс. трейсов» и «50 тыс. units» в лоб не сравниваются: у агента один прогон — это один трейс, но десятки units (расчёт ниже).
• Хранение. У LangSmith base traces хранятся 14 дней, extended — 180 дней. У Langfuse Hobby — 30 дней, Core — 90 дней, Pro — 3 года.

LangSmith логичен, если агенты уже написаны на LangChain или LangGraph и команда готова платить за места. Для смешанного стека и self-host удобнее Langfuse.

Helicone и OpenRouter: в чём оговорки

Helicone. 3 марта 2026 года Helicone купила компания Mintlify, и продукт перешёл в режим поддержки: обновления безопасности, исправления и новые модели, без развития. На 23 октября 2026 года на сайте Helicone висит объявление, что он больше не часть Mintlify, а подробности будут позже. Строить на нём долгосрочный учёт расходов сейчас рискованно.

OpenRouter. Это не трейсинг, а агрегатор: один ключ к моделям многих провайдеров. Комиссия 5,5% берётся при покупке кредитов, а не с каждого запроса; при работе со своими ключами провайдеров (BYOK) первые $25 000 в месяц по прайсу идут без комиссии, дальше 5%. У ключа можно задать лимит и период сброса — это простая «стоп-кнопка» без разбивки по шагам.

Лимит у самого провайдера. Anthropic позволяет задать месячный лимит расходов организации, в том числе ниже потолка своего тарифа. Это бесплатная страховка от катастрофы, но она не скажет, какой агент и какой шаг потратил деньги.

Что устареет первым: цены моделей и тарифы инструментов. Перед бюджетированием сверяйте прайс Anthropic и страницы цен инструментов — в таблице данные на 23 октября 2026 года.

Сколько стоит сам контроль: облако Langfuse или свой сервер

Облачный Langfuse берёт деньги за units. Unit — это трейс, наблюдение или оценка: каждая запись в базе. Прогон агента из 20 шагов — это примерно 1 трейс + 20 вызовов модели + 20 вызовов инструментов ≈ 41 unit. Оценки LLM-as-a-judge и ручные аннотации тоже тратят units.

На скриншоте страницы тарифов Langfuse (снят 23 октября 2026 года) рамка 1 показывает лимиты бесплатного Hobby — 50 тыс. units, 30 дней данных, 2 пользователя, рамка 2 — правило Core: 100 тыс. units включено, сверх них $8 за каждые 100 тыс.

Оговорка к расчёту: 41 unit — если в трейс пишутся и вызовы инструментов (SDK или OpenTelemetry в коде агента). Если трейсы идут только через LiteLLM Proxy, Langfuse видит лишь вызовы модели — около 21 unit на прогон, то есть счёт примерно вдвое меньше.

Сравните со счётом за сами модели: 1 100 прогонов на Sonnet 5.5 без кэша — около $1 234 в месяц, а учёт этих прогонов в Langfuse укладывается в бесплатный тариф. Контроль стоит на порядки меньше того, что он контролирует.

Когда свой сервер Langfuse выгоднее облака

Выбор между облаком и своим сервером — вопрос не только цены. Свой сервер бесплатен по лицензии MIT, но вы платите за машину (от 4 ядер и 16 GiB, документация приводит в пример t3.xlarge на AWS) и за время админа. В комплекте Postgres, ClickHouse, Redis или Valkey и S3-хранилище; Docker Compose подходит для теста, для продакшена документация предлагает Kubernetes (Helm) или Terraform.

Self-host имеет смысл в трёх случаях:

• трейсы содержат чувствительные данные — промпты и ответы агента не должны уходить третьей стороне;
• объём большой — счёт облака за units стал заметным;
• нужно больше алертов или дольше хранение, чем дают облачные тарифы.

В остальных случаях облачный Hobby или Core дешевле собственного сервера с учётом времени на поддержку. LiteLLM же почти всегда живёт на своей машине: open-source версия бесплатна, но требует сервер и Postgres.

Где учёт расходов подводит и когда Langfuse с LiteLLM не нужны

Подписка или лимит провайдера: когда шлюз и трейсинг не нужны

Не нужны, если вы один и работаете с агентом по подписке — например, Claude Code на тарифах Pro или Max. Там вы тратите лимит подписки, а не токены по счёту, и потолок задаёт сам тариф; как его считать и растягивать, мы разбирали в материале про лимиты Claude Code. Если же вы на API-ключе, но в одиночку, хватит месячного лимита расходов у провайдера.

Риски учёта расходов агента: слабые места и подстраховки

Учёт может подвести даже при правильной настройке:

Ещё одна ловушка — ожидание, что Langfuse что-то остановит. Он не блокирует запросы: алерт приходит, когда деньги уже потрачены. Если нужна гарантия потолка, она живёт только в шлюзе или в лимите провайдера.

Контроль расходов ИИ-агента в трёх сценариях: соло, команда, продукт

Соло-разработчик или пет-проект

• Ситуация: один человек, агент на подписке или на API-ключе, расходы — десятки долларов в месяц.
• Схема: месячный лимит расходов организации у провайдера + облачный Langfuse Hobby, чтобы видеть самые дорогие прогоны и шаги. 1 100 прогонов из 20 шагов укладываются в бесплатные 50 тыс. units.
• Шлюз не нужен: поддерживать сервер с Postgres ради одного ключа дороже, чем пользы. Как выглядит себестоимость личного агента в реальной работе, мы считали в разборе OpenClaw.

Команда из 10 человек с кодинг-агентами на API-ключах

• Ситуация: у каждого свой агент, общий счёт у провайдера, никто не знает, кто сколько тратит.
• Схема: LiteLLM Proxy + Postgres, по ключу на человека с двумя окнами — $10 в сутки и $100 в месяц, плюс бюджет команды сверху. Логи — в Langfuse через langfuse_otel, тариф Hobby или Core.
• Ориентир трат: по опросу Gartner Peer Insights 23% руководителей тратят $200–500 в месяц на разработчика. Окно $100 в месяц на ключ — консервативный старт; поднять его проще, чем объяснять перерасход.

Продукт с агентом для клиентов

• Ситуация: агента запускают пользователи, число прогонов не под вашим контролем, один зациклившийся прогон бьёт по марже.
• Схема: лимит на сессию агента в LiteLLM (max_budget_per_session, max_iterations), алерты по cost в Langfuse, self-host Langfuse, если в трейсах персональные данные клиентов.
• Экономия на маршрутизации: простые шаги — классификацию, извлечение полей, короткие ответы — можно отдавать дешёвой модели. По нашему расчёту прогон на Haiku 5.5 в 20 раз дешевле, чем на Sonnet 5.5; где эта модель справляется, а где нет, — в обзоре Claude Haiku 5.5.

Частые вопросы

Чем Langfuse отличается от LiteLLM?

Langfuse — платформа наблюдаемости: записывает каждый вызов модели с токенами и ценой, собирает прогоны агента в трейсы и присылает алерты. LiteLLM Proxy — шлюз между агентом и провайдером: выдаёт виртуальные ключи, считает расход и отклоняет запросы сверх бюджета. Первый показывает, куда ушли деньги, второй не даёт потратить больше лимита. Обычно их ставят вместе.

Может ли Langfuse остановить агента, если он превысил бюджет?

Нет. Langfuse узнаёт о расходе после вызова и может только прислать алерт по метрике cost в Slack, вебхук или GitHub Actions. Чтобы агент упёрся в потолок, нужен шлюз с бюджетами — например, LiteLLM Proxy с лимитом на ключ или на сессию агента — либо месячный лимит расходов у самого провайдера.

Langfuse бесплатный?

Да, в двух вариантах. Свой сервер бесплатен по лицензии MIT, кроме функций из каталогов ee/. В облаке есть тариф Hobby: 50 тыс. units в месяц, 30 дней хранения, 2 пользователя. Этого хватает примерно на 1 100 прогонов агента из 20 шагов. Платные тарифы на 23 октября 2026 года начинаются с Core за $29 в месяц.

Нужна ли база данных для бюджетов в LiteLLM?

Да, обязательно. Все бюджеты LiteLLM сверяются с расходом из базы данных, поэтому без Postgres ни один лимит не работает: глобальный бюджет пропускается, запросы идут сверх него, а в логе остаётся одно предупреждение при старте. Бюджеты ключей, команд и пользователей без базы недоступны вовсе. Проверяйте отказ на тестовом ключе с маленьким бюджетом.

Сколько стоит один запуск ИИ-агента?

Зависит от модели и числа шагов. По нашему расчёту на ценах Claude на 23 октября 2026 года прогон из 20 шагов стоит около $1,12 на Sonnet 5.5, $2,24 на Opus 5.5 и $0,056 на Haiku 5.5 без кэша промпта. С кэшем — в 4–5 раз дешевле. Вдвое больше шагов делает прогон примерно в 3,4 раза дороже.

Что выбрать: Langfuse или LangSmith?

Langfuse — если нужен бесплатный self-host, смешанный стек фреймворков и тариф без оплаты за места: Core за $29 включает неограниченное число пользователей. LangSmith — если агенты построены на LangChain или LangGraph и важна тесная интеграция с ними; платный Plus стоит $39 за место, а собственная установка доступна только в Enterprise.