status/volatile Прогноз Gartner и конкретные уровни/контроли — быстро устаревающие утверждения. Ревизия раз в квартал.
Что именно прогнозируется — важнее самого числа. Свёртываются проекты, а не понижаются в правах уже работающие агенты, и названные Gartner причины лежат в экономике и управлении, а не в отказах продакшена: рост затрат, неясная бизнес-ценность, недостаточные контроли риска. Разница меняет вывод для этой заметки: governance предъявляется не как способ пережить инциденты, а как способ показать ценность и удержать проект от закрытия.
Рядом из того же первоисточника, по состоянию на середину 2025 года: опрос 3 412 респондентов, 17% организаций уже развернули агентов при том, что более 60% собирались в ближайшие два года; и оценка Gartner, что из тысяч заявленных «агентных» вендоров настоящих около 130 — остальное «agent washing», переименование существующих продуктов.
Суть
Когда у тебя не один агент, а «армия» (10-30+), важно разделять их по governance. Причина роста рисков: агенты порождают инциденты, а на фоне сокращения штатов разработчиков команд не хватает capacity их чинить — вред начинает превышать пользу. Решение — не «контролировать всех одинаково», а классифицировать по уровню риска.
Зачем это нужно
Это организационный слой поверх технических защит (Guardrails, Agent Sandboxing): он определяет, какие контроли применять к какому агенту. Без него внедрение откатывается — по прогнозу Gartner, до закрытия проекта. Прямо связан с принципом наименьших прав против Tool Hijacking.
Как работает (4 уровня автономии)
| Ур. | Название | Что делает агент | Ключевые контроли |
|---|---|---|---|
| 1 | Observe | Только читает данные, показывает результат | Scoped data access, аутентификация, логирование |
| 2 | Advise | Генерирует рекомендации/черновики; человек выполняет всё вручную | + тест на галлюцинации, обучение пользователей «не доверять слепо» |
| 3 | Act with Approval | Выполняет действия (запись, отправка), но после явного апрува | + audit trails, инцидент-процедуры; риск — усталость от апрувов |
| 4 | Act Autonomously | Действует сам в рамках guardrails; человек видит только исключения | + мониторинг 24/7, автоматические выключатели, откат, чёткий ownership |
Принцип: применять к каждому уровню пропорциональную governance — не недозащищать уровень 4 и не перегружать апрувами уровень 1. Чем выше автономия — тем строже контроли и ownership.
Связано с
- AI Fairness — измеримая справедливость и контур governance с четырьмя точками контроля
- Continuous Red Teaming — проверка защищённости по расписанию, а не только перед релизом
- Agent Security — организационный слой общей модели
- Tool Hijacking — наименьшие права как защита
- Human in the Loop — апрувы на уровнях 3-4
- Multi Agent Systems — governance для «отдела» агентов
- Source Independence — почему прогноз, пришедший через пересказ, исказился в трёх местах
- Agent Sandboxing — пропорциональная изоляция по уровню риска