Microsoft меняет взгляд на ИИ-агентов в компаниях: это уже не просто удобные помощники, а «свои» с доступом к рабочим системам, которым нельзя выдавать ключи без присмотра. В Project Perception добавили Guardian Agents — отдельный слой контроля, который должен следить за действиями других агентов и вмешиваться, когда риск растёт.
Логика тут без фокусов. Агенту дают доступ к документам, почте, базам, внутренним сервисам и инструментам. Он может нормально собирать отчёт, а потом получить кривой контекст, попасть под prompt injection или полезть не туда по ходу задачи. Microsoft прямо пишет: проблема не в том, что модели «злые», а в том, что их ответы и план работы могут меняться вместе с вводными. Для корпоративной безопасности это уже не баг на демо, а повод не давать автоматике права администратора на доверии.
Guardian Agents должны работать внутри Project Perception. Там уже есть связка из «красных», «синих» и «зелёных» агентов: первые имитируют атаку, вторые ищут слабые места, третьи пытаются их закрыть. Новый слой смотрит именно за агентами, которых организация использует в своей работе: сопоставляет их действия с уровнем риска, ограничивает доступ, может потребовать подтверждение человека для важного шага или изолировать агента.
Ключевой разворот — контроль предлагается вынести за пределы самой модели и её поставщика. То есть агент от любого вендора не должен быть одновременно исполнителем и собственным охранником. Microsoft формулирует это проще: интеллект поставляет модель, а право действовать остаётся у людей и организации.
Звучит разумно, но готового универсального «выключателя» тут не показали. Не раскрыты цена, регионы, сроки широкого доступа и то, насколько Guardian Agents умеют распознавать опасные действия без лишних блокировок. Пока это направление Project Perception и набор корпоративных механизмов, а не кнопка, которую можно включить в личном чат-боте.
Практический смысл для компаний уже понятен: если агент читает документы и запускает действия в рабочих системах, ему нужны отдельная личность, минимальные права и журнал того, что он сделал. Иначе помощник быстро превращается в сотрудника, которому дали пропуск от всех дверей, но забыли спросить, куда он собрался.