AI-агенты в бизнесе: риски сложности корпоративных систем
Когда предприятие разворачивает не одного AI-агента, а целый флот, сложность системы растёт не линейно — она компаундируется с каждым новым маршрутом между агентами. Десятый агент добавляет не одну связь, а потенциально десятки, потому что любой агент может вызвать любого другого, а каждый такой вызов способен запустить цепочку дальше. Именно этот эффект описывает Рори Блунделл, CEO компании Gravitee, разбирая ключевую проблему корпоративного AI: не поведение отдельного агента, а непредсказуемые взаимодействия между многими агентами одновременно.
Сервисный тикет, который раньше проходил через одну систему, теперь может затронуть четыре агента прежде, чем до него доберётся человек. Каждый такой переход — самостоятельная точка принятия решения, которую никто явно не согласовывал.
Где система ломается на практике
Первым ломается контроль над полномочиями. Агент, созданный для автоматического суммирования обращений в поддержку, получает широкий доступ к API — потому что правильно прописать ограничения означало бы потратить ещё один спринт разработки. Через шесть месяцев тот же агент имеет маршрут к платёжной системе. Никто не помнит, когда это произошло. Никто это не подписывал.
Параллельно размывается ответственность. Когда пять агентов обрабатывают один рабочий процесс и что-то ломается на четвёртом шаге, возникает вопрос: кто отвечает за звено, которое никому не было назначено? Организационная структура заканчивается на «задеплоить агента» и не доходит до «назначить ответственного человека».
Эта проблема усугубляется скоростью роста. Предприятия стремятся не отстать от конкурентов и разворачивают новых агентов быстрее, чем успевают выстроить процессы контроля. В результате накапливается инфраструктурный долг управляемости — системы, которые никто не может достаточно ясно описать, чтобы ими управлять.
Что нужно выстроить, чтобы флот агентов оставался управляемым
Отправная точка — идентичность каждого агента. Каждый агент должен существовать как самостоятельная сущность: собственное имя в реестре, собственные ограниченные полномочия, конкретный человек-спонсор, который отвечает за его действия. Без этого любые разговоры о контроле остаются абстракцией.
Однако идентичность — необходимое, но недостаточное условие. Следующий уровень — сквозной надзор за всей цепочкой, а не только за отдельными её звеньями. Это означает видимость в реальном времени: что сделал агент, что он запустил дальше по цепи, где этот след заканчивается. Квартальный отчёт не заменяет оперативное наблюдение.
Наблюдение, в свою очередь, тоже недостаточно само по себе. Видеть, что произошло пять минут назад, — это мониторинг. Предотвращать нарушение политики до того, как вызов выполнится, — это управление. Большинство корпоративных программ построили только первое. Те, кто добавил второе, получают возможность масштабировать флот агентов без потери контроля.
- Реестр агентов с чёткими полномочиями и именованным ответственным человеком
- Сквозная трассировка действий по всей цепочке в реальном времени
- Механизм блокировки вызовов, выходящих за пределы разрешённой политики
- Процесс пересмотра прав доступа агентов на регулярной основе
Такой подход Gravitee называет «Human-Agent Harmony» — состоянием, при котором масштаб системы и уровень подотчётности растут вместе, а не за счёт друг друга. Это не слоган: это описание архитектурного принципа, при котором расширение флота не означает потерю ответственности.
Отдельного внимания заслуживает вопрос о том, кто именно должен ставить эти задачи внутри компании. Команды безопасности часто не могут ответить, к каким системам имеет доступ тот или иной агент. Команды разработки завершают работу на этапе деплоя. Операционные команды получают инциденты без чёткого понимания их источника. Ни одна из этих групп в одиночку не закрывает проблему: нужна кросс-функциональная ответственность, закреплённая организационно.
Важно также понимать, что сложность — не аргумент против масштабирования. Компании, которые справляются с этой проблемой, не замедляются. Они выстраивают достаточный уровень видимости и подотчётности, чтобы продолжать рост без потери способности ответить на один вопрос: что делает система прямо сейчас и кто за это отвечает.
Те, кто не строит эту инфраструктуру, остаются в режиме вечных пилотных проектов — потому что невозможно вывести в продакшн систему, которую никто не может объяснить и за которую никто не может ответить.
Для бизнеса это означает: прежде чем расширять флот AI-агентов, назначьте конкретного человека, ответственного за каждого агента, зафиксируйте его полномочия в реестре и внедрите механизм блокировки нарушений политики до их исполнения, а не после — иначе скорость роста будет работать против управляемости системы.