AI-агенты и токенные расходы: проблема рентабельности
DeepSeek снизил цену на модель V4-Pro на 75% — и это не привело к росту маржи у большинства компаний, которые уже развернули агентные системы. Причина не в стоимости одного токена, а в том, сколько токенов потребляет один пользовательский запрос в агентной архитектуре.
Традиционный чат-бот превращает один вопрос пользователя в один вызов модели. Агентная система превращает тот же вопрос в цепочку операций: планирование, извлечение данных, вызов инструментов, верификация, суммаризация, принятие решений о следующем шаге. Пользователь видит один ответ. Компания оплачивает весь цикл.
Что такое токенная амплификация и почему она меняет экономику
В одношаговом чат-боте соотношение входящего запроса к оплачиваемым токенам составляет примерно 1:5. В многошаговом агентном рабочем процессе — 1:700 и выше. Это и есть проблема 100x: один пользовательский запрос в агентной архитектуре может стоить в десятки и сотни раз дороже, чем аналогичный запрос к чат-боту или RAG-системе.
Конкретный пример из исходной статьи: запрос «Что спрашивал наш ключевой клиент на прошлой неделе?» вызывает семь оплачиваемых операций — от системного промпта и извлечения контекста до трёх последовательных вызовов модели. Итог: около 35 000 входящих токенов на один запрос. При фронтирных ценах — от $0,10 до $0,40 за запрос. При миллионе запросов в месяц — шестизначная строка расходов.
Снижение цен на токены помогает, но не устраняет проблему архитектуры. Если агент выполняет 700 токенных операций там, где чат-бот выполнял одну, то даже 75-процентное снижение цены сокращает расходы лишь частично.
Почему существующая бизнес-модель SaaS не работает с агентами
Доминирующая модель монетизации в enterprise AI — посадочная лицензия: фиксированная плата за пользователя в месяц, фиксированная маржа. Эта модель предполагает предсказуемую стоимость обслуживания одного пользователя.
Токенная амплификация разрушает это предположение. Активный пользователь, который запускает 50 агентных задач в день при тарифе $40 в месяц, может генерировать инференс-расходы, превышающие его абонентскую плату. Несколько вендоров, по данным исходной статьи, уже фиксируют отрицательную валовую маржу на тяжёлых пользователях.
Возникает структурный парадокс: самые активные клиенты — те, кто получает наибольшую ценность от продукта, — одновременно являются наименее прибыльными. Именно это расхождение фиксирует Bloomberg применительно к Salesforce Agentforce: разрыв между маркетинговыми обещаниями и реально поставляемым функционалом открывается там, где обещанная функциональность технически возможна, но экономически нерентабельна при текущей цене тарифа.
Вице-президент Nvidia по прикладному глубокому обучению Брайан Катанзаро прямо сформулировал ситуацию: стоимость вычислений для его команды уже превышает стоимость сотрудников. Это не гипербола — это новая реальность для компаний, которые всерьёз масштабируют агентные рабочие процессы.
Компании, которые строят агентные системы без учёта токенной стоимости на уровне архитектуры, рискуют столкнуться с ростом операционных расходов одновременно с ростом клиентской базы. Чем больше пользователей внедряют агентов, тем сильнее сжимается маржа — до тех пор, пока не будет изменена либо ценовая модель, либо архитектура самого агента.
Существуют технические инструменты, которые позволяют контролировать этот процесс. Авторы исходной статьи выделяют несколько направлений:
- Cost-aware routing — малый классификатор направляет запросы к модели нужного уровня; по данным статьи, хорошо настроенный роутер снижает инференс-расходы примерно на 60% без потери качества.
- Кэширование промптов — Anthropic, OpenAI и Google предлагают скидки от 75 до 90% на кэшированные префиксы.
- Контекстная дисциплина — усечение вывода инструментов, обрезка reasoning traces, ограничение глубины вызовов агента.
- SpeculativeDecoding для self-hosted развёртываний — даёт от 2 до 3 раз большую эффективную пропускную способность на тех же GPU.
Согласно данным IBM, приведённым в исходной статье, компании, использующие оркестрационный подход к управлению AI, демонстрируют в шесть раз большее влияние на производительность по сравнению с подходами, ограниченными соблюдением нормативных требований.
Помимо технических мер, авторы статьи выделяют управленческие решения, отделяющие компании с устойчивой маржой от тех, кто теряет её по мере роста агентного использования. Инференс-стоимость должна отслеживаться как самостоятельная метрика — по каждой функции, по каждому клиенту, по каждому классу запросов. Ценообразование на агентные функции должно учитывать реальную стоимость их обслуживания, а не только конкурентную позицию. Системный промпт, который органично вырос до 4 000 токенов за шесть месяцев, — это скрытые шестизначные расходы, которые большинство команд не отслеживает. Предварительные volume commitments у провайдеров фронтирных моделей позволяют получить существенные скидки относительно листовых цен.
Ключевой вывод статьи: архитектурные решения в агентных системах теперь напрямую являются финансовыми решениями. Изменение структуры промпта — это событие, влияющее на маржу. Плохо ограниченный агентный цикл — это фактически сбой с подключённой кредитной картой.
Практический вывод: если вы внедряете или планируете внедрять AI-агентов, немедленно введите инференс-стоимость как операционную метрику — отдельно по каждой функции и типу пользователя. Без этого контроля рост агентного использования будет автоматически сжимать маржу, и вы обнаружите проблему только тогда, когда она станет видна в P&L.