AI-агенты в бизнесе: почему ограниченная автономия выигрывает
По прогнозу Gartner, более 40% работающих сегодня проектов с AI-агентами не доживут до 2028 года — не из-за слабости технологий, а из-за роста затрат, размытой бизнес-ценности и недостаточного контроля рисков.
Параллельно McKinsey в своём исследовании AI Trust Maturity Survey 2026 фиксирует, что средний уровень зрелости ответственного применения ИИ в компаниях составляет лишь 2,3 из 4. Только около 30% организаций достигли уровня 3 и выше в части управления AI-агентами. Это означает, что скорость внедрения технологии опережает способность компаний её контролировать.
Два этих факта вместе описывают главный структурный сдвиг рынка: конкуренция 2024–2025 годов строилась вокруг того, кто быстрее развернёт наиболее автономного агента. Конкуренция 2026–2027 годов — это гонка доверия. Побеждает не тот, чей агент мощнее, а тот, чей агент получил одобрение юридического, комплаенс- и риск-отдела и сохраняет его в продакшне.
Почему полная автономия не работает в реальных условиях
Gartner описывает типичный сценарий провала как повторяющийся и предсказуемый. Проект стартует с амбициозным автономным агентом, рассчитанным на многошаговые задачи. Через несколько недель возникает сложность интеграции с существующими системами. Затем проект зависает без понятного пути к окупаемости.
Одна из причин — рыночный шум. По подсчётам Gartner, из тысяч продуктов, продающихся под маркой «agentic AI», реальными автономными возможностями обладают лишь около 130. Остальное — перепакованные чат-боты и средства автоматизации.
Но даже по-настоящему агентные системы наталкиваются на структурную проблему: автономия и подотчётность движутся в противоположных направлениях. Агент, самостоятельно планирующий и выполняющий многошаговую задачу, принимает решения, которые крайне сложно восстановить постфактум. Если что-то пошло не так на третьем шаге из десяти — разобраться, почему агент принял именно это решение и кто несёт ответственность, становится нетривиальной задачей.
В финансовых сверках, комплаенс-процессах, проверках качества на производстве или клинической документации отсутствие прозрачности может превратить управляемую ошибку в серьёзное регуляторное нарушение. Именно поэтому юридические и риск-отделы блокируют агентные проекты ещё до выхода в продакшн — вне зависимости от качества базовой модели.
McKinsey подтверждает: разрыв между рисками, о которых компании осведомлены, и рисками, которые они реально митигируют, остаётся широким. Почти две трети организаций называют вопросы безопасности и управления рисками главным препятствием для масштабирования агентного ИИ — это превышает опасения по поводу регуляторной неопределённости и технических барьеров.
Как выглядит управляемая архитектура агентов
Компании, которые успешно движутся вперёд, не останавливают внедрение. Они перераспределяют автономию внутри системы. McKinsey выделяет несколько паттернов, характерных для организаций с высокой управленческой зрелостью.
- Узкоспециализированные агенты вместо универсальных: разбивка сквозных процессов на агентов с единственной чётко ограниченной ответственностью. Меньший охват задачи — меньший масштаб возможного сбоя — проще аудит.
- Контрольные точки с участием человека до исполнения действия, а не после: проверка решения агента перед перемещением чувствительных данных, проведением транзакции или запуском внешней системы.
- Трассируемость решений как требование к дизайну: полный журнал действий и цепочка принятых решений должны быть доступны по запросу для любого агента в любой момент, а не восстанавливаться в режиме аврала во время проверки.
- Суверенитет данных как активный инструмент управления: контроль над тем, где хранятся данные агента и кто имеет к ним доступ, ограничивает масштаб последствий при сбое и упрощает аудиторский след.
Требования регуляторов движутся в том же направлении. Закон ЕС об ИИ предусматривает обязательный человеческий надзор над высокорисковыми системами. Цифровое соглашение 2026 года сдвинуло срок соответствия до декабря 2027-го, однако компании, строящие агентные системы сегодня, фактически уже проектируют их под эти требования.
Важно понимать и обратный риск. Агент, которому нужно согласование человека на каждое мелкое действие, не снижает транзакционные издержки — он лишь перекладывает ручную работу в другой интерфейс. Это подрывает экономическое обоснование всего проекта. Цель — калиброванный контроль, сосредоточенный там, где цена ошибки действительно высока.
По данным McKinsey, скорость масштабирования агентного ИИ примерно в 8 раз превышает скорость роста управленческой зрелости. Этот разрыв и объясняет, почему большинство провалов не являются технологическими — они организационные.
Для практической оценки текущего агентного стека руководителю достаточно четырёх вопросов. Можно ли через шесть месяцев точно восстановить, почему агент принял конкретное решение? Есть ли в системе агент с открытым мандатом «разобраться самостоятельно» в широкой задаче? Расставлены ли контрольные точки до исполнения высокорисковых действий или только после? Сколько данных и систем агент успеет затронуть до обнаружения сбоя, если начнёт работать некорректно прямо сейчас?
Ответы на эти вопросы не замедляют внедрение — они задают направление, в котором автономия создаёт ценность, а не накапливает неуправляемый долг.
По оценке Gartner, прогноз об отмене 40% проектов — это не предупреждение о недостатках технологии. Это прогноз об организационной дисциплине. Компании, потратившие 2024–2025 годы на оптимизацию исключительно под автономию, теперь расплачиваются за накопленный управленческий долг. К 2027 году выигрышная позиция будет у тех, кто построил агентные системы достаточно надёжными, чтобы риск-, комплаенс- и юридический отделы перестали быть узким местом. Это принципиально иное техническое задание по сравнению с тем, под которое написано большинство нынешних AI-роадмапов.
Практический вывод: прежде чем расширять агентный стек, проведите аудит текущих проектов по четырём критериям — трассируемость решений, ограниченность мандата, расположение контрольных точек и периметр доступа к данным; это позволит выявить проекты с высоким риском отмены до того, как затраты станут невозвратными.