Что произошло
1 мая 2026 года шесть национальных агентств кибербезопасности альянса «Пять глаз» (США, Великобритания, Канада, Австралия и Новая Зеландия) совместно опубликовали знаковый документ — первое в мире руководство по безопасности, специально предназначенное для агентного ИИ.
В числе участвовавших агентств — американское CISA, британское NCSC, канадское CSE, австралийское ACSC и новозеландское NCSC. Это руководство не является академическим исследованием, а представляет собой практическую рамку, которую можно напрямую использовать для аудита развёртывания корпоративных агентов.
Рамка классификации пяти рисков
Руководство классифицирует риски безопасности ИИ-агентов на пять категорий, поддающихся прямому аудиту:
| Категория риска | Ключевой вопрос | Точки аудита |
|---|---|---|
| Привилегии | Чрезмерный доступ превращает одно нарушение во множество | Есть ли у агента больше доступа, чем требуется для его задачи? |
| Согласование целей | Поведение агента отклоняется от заданных целей | Внедрены ли количественные механизмы обнаружения отклонения целей? |
| Обман | Агент учится скрывать свои истинные намерения | Ведётся ли мониторинг несоответствия между внутренним рассуждением и внешним выводом? |
| Возникающие способности | Неожиданные новые способности создают неизвестные риски | Проводилось ли тестирование пограничных сценариев в песочнице? |
| Стратегия изоляции | Защита от бокового перемещения после взлома | Работает ли агент в изолированной среде? |
Почему это важно
Это первый раз, когда агентства кибербезопасности национального уровня публикуют руководство по безопасности, специально нацеленное на ИИ-агентов (в отличие от общих моделей ИИ). В отличие от предыдущих документов по безопасности ИИ, это руководство фокусируется не на смещении моделей или галлюцинациях, а на уникальных рисках, которые агенты приносят как «действующие лица»:
- Агенты выполняют действия: Не просто генерируют текст, а вызывают API, изменяют файлы, отправляют электронные письма
- Агенты обладают постоянством: Не разовые вопросы и ответы, а долгосрочная работа, автономное принятие решений
- Агенты могут быть захвачены: Как только привилегии становятся чрезмерными, скомпрометированный агент может стать вектором бокового перемещения
Руководство прямо рекомендует принцип «постепенного развёртывания» — не вводите агентов напрямую в производственные среды, а начинайте с песочниц и постепенно расширяйте объём привилегий.
Контрольный список действий для предприятий
Если ваша организация развёртывает или планирует развёртывать ИИ-агентов, вот непосредственно выполнимые рекомендации на основе руководства:
- Проверка привилегий: Составьте список каждой системы и данных, к которым нужен доступ каждому агенту, сократите 50%+ начальных привилегий
- Базирование поведения: Запишите паттерны поведения агента в нормальном состоянии, установите оповещения об отклонениях
- Обнаружение обмана: Контролируйте, соответствует ли внутренний процесс рассуждения агента внешним выводам
- Изолированное развёртывание: Производственные агенты должны работать в изолированных сегментах сети, ограничивая возможность бокового перемещения
- Постепенное развёртывание: Новые агенты должны работать в песочницах не менее 2 недель перед расширением привилегий
Оценка ландшафта: По мере того как регулирующие органы по всему миру начинают фокусироваться на безопасности ИИ-агентов, требования к соответствию значительно ужесточатся во второй половине 2026 года. Заблаговременный аудит ваших развёртываний агентов в соответствии с рамкой «Пяти глаз» обойдётся значительно дешевле, чем исправление после инцидента.