Контрольные точки качества
Контрольные точки качества определяют, где требуется одобрение человека. По мере роста возможностей агентов, эти точки предотвращают автоматизацию от обхода критических контрольных этапов.
Типы контрольных точек
Section titled “Типы контрольных точек”Точки слияния
Section titled “Точки слияния”Требования перед слиянием кода в основные/производственные ветки.
Стандартные: Прохождение тестов, одобрение рецензента, отсутствие конфликтов, обновлённая документация.
Специфичные для ИИ: Разные требования для PR с активным использованием ИИ? ИИ-помощь vs. замена рецензии? Требуется раскрытие?
Точки деплоя
Section titled “Точки деплоя”Требования перед развёртыванием в средах.
Стандартные: Предварительные тесты пройдены, проверка безопасности чистая, бенчмарки производительности достигнуты, одобрение на прод.
Специфичные для ИИ: Дополнительная проверка первого деплоя кода, сгенерированного ИИ? Автоматический откат?
Точки проектирования
Section titled “Точки проектирования”Одобрение требуется перед значительными архитектурными изменениями.
Стандартные: Дизайн-документ одобрен, проверка безопасности для чувствительных областей, архитектурная рецензия.
Специфичные для ИИ: ИИ может информировать, но не принимать архитектурные решения. Человеческое одобрение требуется для архитектурных изменений, предложенных ИИ.
Точки данных
Section titled “Точки данных”Контроль доступа к данным и их модификации.
Стандартные: Миграции базы данных проверены, удаление данных требует одобрения, доступ к PII контролируется.
Специфичные для ИИ: Миграции, сгенерированные ИИ, требуют дополнительной проверки. Нет прямого доступа ИИ к продакшен-данным.
Реализация
Section titled “Реализация”Техническое принуждение
Section titled “Техническое принуждение”CI/CD проверки: Автоматическое тестирование, пороги покрытия, сканирование безопасности, линтинг.
Защита веток: Обязательные рецензенты, проверки статуса должны пройти, прямые пуши запрещены.
Процессное принуждение
Section titled “Процессное принуждение”Обязательные рецензенты: Минимальное количество одобрений, конкретные одобряющие для конкретных путей, настройка CODEOWNERS.
Чек-листы: Шаблоны PR с обязательными подтверждениями, чекбоксы безопасности, запросы на раскрытие использования ИИ.
Человеческие контрольные точки
Section titled “Человеческие контрольные точки”Обязательное участие человека:
- Деплой в продакшен
- Миграции базы данных
- Изменения, затрагивающие безопасность
- Изменения пользовательских функций
Нельзя автоматизировать:
- Финальное одобрение деплоя (критические системы)
- Архитектурные решения
- Одобрения исключений безопасности
- Подтверждение соответствия нормативным требованиям
Настройка контрольных точек по уровню риска
Section titled “Настройка контрольных точек по уровню риска”| Уровень риска | Примеры | Контрольные точки |
|---|---|---|
| Низкий | Документация, тесты, стилистические исправления | Автоматические проверки, один рецензент, автослияние |
| Средний | Функциональный код, некритичные баги | Все автоматические проверки, человеческая рецензия, стандартное одобрение |
| Высокий | Безопасность, платежи, обработка данных | Расширенные проверки, старший рецензент, проверка безопасности |
| Критический | Аутентификация, шифрование, соответствие нормативным требованиям | Все точки + проверка безопасности + одобрение лида + поэтапное развёртывание |
Агенты и контрольные точки
Section titled “Агенты и контрольные точки”Агенты могут: Запускать автоматические проверки, помечать проблемы, предлагать рецензентов, генерировать артефакты (changelogs, миграционные скрипты).
Агенты не должны: Одобрять свой собственный вывод, обходить человеческие контрольные точки, деплоить в продакшен без человеческой инициации, предоставлять повышенные права.
Анти-паттерны контрольных точек
Section titled “Анти-паттерны контрольных точек”- Формальные точки: Одобрение всегда даётся без проверки
- Размножение точек: Столько много точек, что люди начинают их обходить
- Непоследовательное принуждение: Точки применяются иногда, но не всегда
- Обход ИИ-точек: Маршрутизация кода ИИ вокруг более строгих проверок
Измерение эффективности
Section titled “Измерение эффективности”| Метрика | Вопрос |
|---|---|
| Процент прохождения | Проходят ли легитимные изменения? |
| Процент обнаружения | Выявляются ли проблемы до продакшена? |
| Задержка | Насколько точки замедляют процесс? |
| Процент обхода | Как часто точки пропускают? |
Используйте эти метрики для настройки точек — не слишком разрешительно и не слишком строго.
Ресурсы
Section titled “Ресурсы”- Agent Readiness – Eno Reyes, Factory AI - Подготовка организаций к агентным рабочим процессам