Latest / M365.FM – подкаст о Microsoft 365, Copilot и ИИ на русском / Архитектура ИИ-агентов: исполнители, графы рабочих процессов и валидация для надёжной работы (ИИ-дубляж)

Transcript

Архитектура ИИ-агентов: исполнители, графы рабочих процессов и валидация для надёжной работы (ИИ-дубляж) · M365.FM – подкаст о Microsoft 365, Copilot и ИИ на русском

• 0:00
  Единственная проверка, которая предотвращает глупые действия у умных агентов.
• 0:03
  Существует один барьер, превращающий ум в компетентность – проверка контракта перед выполнением.
• 0:08
  Прежде чем любой инструмент запустится, валидатор проверяет три вещи в определенном порядке,
• 0:11
  намерение соответствует реальной возможности, у вызывающего пользователя есть разрешение в данный
• 0:15
  момент и запрашиваемый результат осуществим в пределах заявленных границ данных.
• 0:18
  Если какая-либо часть не пройдена, ничего не будет выполнено. Не нужно быть осторожным,
• 0:22
  не нужно пытаться. Отказ с указанием причин и альтернатив. Начнем с соответствия возможностям.
• 0:26
  План гласит обновить элемент списка SharePoint. Валидатор спрашивает, какой инструмент,
• 0:30
  какой метод, какая версия схемы. Аргументы проверяются по реестру. Обязательные поля присутствуют,
• 0:35
  типы правильны, диапазоны значений адекватны, и да, нет лишних полей, добавленных в надежде,
• 0:39
  что кто-то их проигнорирует. Псевдонимы инструментов запрещены. Используйте каноническое имя,
• 0:43
  иначе запрос будет отклонен. Это предотвращает работу инструментов, созданных на основе предположений,
• 0:47
  и использование параметров, полученных методом проб и ошибок, прежде чем они смогут работать
• 0:49
  некорректно. Далее, соответствие политики. Механизм политик оценивает предлагаемый вызов на
• 0:53
  соответствие активной политике. Разрешить списки для инструментов и доменов. Проверки RBC или ABC,
• 0:59
  привязанные к входным идентификационным данным и областям действия. Правила уровня среды.
• 1:02
  Границы классификации данных. Если агент ограничен файлами, чтением для конкретного сайта,
• 1:07
  вызовом обновления или другим сайтом является категорически запрещено. Если полезная нагрузка
• 1:11
  попадает в категорию ограниченной классификации без проверки человеком, это также запрещено.
• 1:15
  Токены проверяются заново. Области действия проверяются на точность, и повышение привилегий
• 1:20
  только один раз рассматривается как попытка взлома. Затем, проверка осуществимости постусловий.
• 1:25
  Недостаточно просто желать результата. Он должен быть достижимым и проверяемым.
• 1:29
  Валидатор спрашивает, поддерживает ли целевая система ключи потенции элементов. Будет ли система
• 1:33
  генерировать надежный идентификатор или электронный тег, который мы сможем проверить позже.
• 1:36
  Есть ли компенсирующие действия в случае сбоя на нежестоящем уровне. Если план не может обеспечить
• 1:40
  проверяемые постусловия, он отклоняется или переписывается. Мы не принимаем, доверьтесь мне,
• 1:44
  я зарегистрирую это позже. Именно позже и происходят инциденты. Соедините все это вместе,
• 1:48
  и вы получите три этапа. Контрольный пункт. Соответствие возможностям. Соблюдение политики.
• 1:51
  Возможность выполнения постусловий. Пройдите все три этапа, и исполнитель продолжит работу.
• 1:54
  Если какой-либо этап не пройден, активируется путь с указанием причины. Этот путь вежливый,
• 1:58
  тщательный и однозначный. Вот что вы пытались сделать. Вот точная политика или схема,
• 2:03
  которую вы нарушили. Вот безопасные альтернативы. Если намерение пользователя можно исправить,
• 2:07
  сусти область действия, переключитесь на сводку только для чтения, направьте на разрешенный сайт.
• 2:11
  Валидатор предлагает соответствующий план и запрашивает одобрение. Если исправить невозможно,
• 2:15
  перейдите к проверке человеком с полным контекстом или остановитесь сразу.
• 2:19
  Никаких загадочных задержек. Никакого тихого успеха. Короткая микроистория, которую вы,
• 2:23
  возможно, уже пережили, даже если не знали об этом. Агенту поручено обобщить все документы отдела
• 2:27
  кадров за последний квартал и отправить их в юридический отдел. Система поиска предлагает
• 2:30
  запросы графа по сайтам отдела кадров и юридического отдела. Валидатор видит пересечение границ.
• 2:34
  Доступ к отделу кадров ограничен. Доступ к юридическому отделу внутренний. Шлюз Трио блокирует
• 2:38
  перекрестное чтение и исходящую электронную почту. Путь запрета возвращается. Обнаружен
• 2:43
  ограниченный контент. Предлагаемая альтернатива — обобщить внутренний индекс политик,
• 2:46
  предоставить ссылку для запроса сводки по персоналу авторизованным рецензентам.
• 2:50
  Пользователь утверждает соответствующий план. Исполнитель запускает его, указывает на внутренний
• 2:54
  контент и прикрепляет запрос на разрешение доступа к материалам по персоналу. Никаких утечек,
• 2:57
  никаких проблем, по-прежнему полезно. Реализация по своей сути скучна. DSL-политик определяет,
• 3:02
  кто что может делать, где и с какими побочными эффектами. Реестр схем хранит контракты инструментов,
• 3:06
  имена, версии, формы аргументов и условия публикации. Резольвер списка разрешенных сопоставляет
• 3:11
  домены, сайты и области действия с уровнями среды. Валидатор составляет их, проставляет отметку о
• 3:16
  каждом решении в журнале аудита, входных данных, оценках политик, результатах и передает
• 3:20
  исполнителю либо зеленый свет, либо план исправления. Исполнитель никогда не обходит красный свет.
• 3:24
  Он обеспечивает выполнение решения или останавливается. Ментальная модель достаточно чиста,
• 3:28
  чтобы ее можно было нанести татуировкой на лоб вашей архитектурной диаграммы.
• 3:31
  Исполнители обеспечивают выполнение. Графы ограничивают. Решения принимают валидаторы.
• 3:35
  Именно в таком порядке. Модель предлагает свои варианты только в пределах огороженного двора,
• 3:39
  и как только она пытается перелезть через него, валидатор останавливает ее,
• 3:42
  объясняет причину и указывает на ворота. Порядок соблюден. Безопасность обеспечена.
• 3:46
  Прогресс не заблокирован. В рамках политики вам нужна была одна вещь, которая предотвратит
• 3:50
  глупые действия у умных агентов. Вот она, предварительная проверка контракта,
• 3:54
  которая доказывает возможности, разрешение и проверяемый результат до любых реальных
• 3:58
  изменений. Она превращает «я думаю, что могу, мне разрешено, я знаю, как, и я могу доказать,
• 4:03
  что я это сделал». Нет-нет-нет, темнота случается не с нами. Теперь у вас есть архитектура,
• 4:08
  используйте ее. Ключевой вывод. Плюс КТ. Ключевой вывод. Подсказки – это мнение,
• 4:12
  исполнители и проверенные графы. Это операции, а предварительная проверка контракта – это
• 4:16
  ограничитель, который заставляет и тех, и других действовать честно. Если это сэкономило вам
• 4:20
  время, верните долготу. Подпишитесь. Далее посмотрите сравнение LandGraph и Microsoft
• 4:25
  агент Framework по производительности и наблюдаемости, фактическим трассировкам,
• 4:29
  затратам и P95. Зафиксируйте свой путь обновления, следуйте инструкциям, включите оповещение и
• 4:34
  получайте следующий эпизод по расписанию. Продолжайте. Большинство людей считают,
• 4:37
  что улучшенные подсказки исправляют нестабильных агентов. Милая теория. Подсказки направляют мысли,
• 4:41
  а не выполняют операции. На самом деле, надежность обеспечивается исполнителями и проверкой
• 4:45
  графов, той опорой, которая не дает агентам упасть лицом вниз, когда реальность дает о себе знать.
• 4:49
  Мы собираемся подключить это к сценариям Microsoft, извлечению графов Microsoft 365,
• 4:54
  рассуждением Azure OpenAI и агентам Copilot Studio, которые не выходят из-под контроля.
• 4:58
  Ставки просты. Точность, задержка, стоимость и возможность аудита. Измеримые,
• 5:03
  а не субъективные ощущения. Я дам вам ментальную модель, которую вы сможете запустить в голове,
• 5:07
  диаграммы в словах, которые вы не забудете, и один этап проверки, который не позволяет умным
• 5:11
  агентам делать глупости. Представляем архитектуру, которую следовало использовать с самого начала.
• 5:15
  Почему подсказки не справляются с операциями, а исполнители нет?
• 5:18
  Итак, вот в чем дело. LLM отвечают за когнитивные процессы. Исполнители отвечают за операции.
• 5:23
  Смешивание этих факторов приводит к хаосу. Модель может предложить план. Она не может
• 5:28
  гарантировать, что электронное письмо было отправлено, файл сохранен или что существовало
• 5:32
  разрешение. Она говорит вероятностями, а операции требуют гарантий. Вступает в игру исполнитель.
• 5:37
  Представьте его как взрослого человека в комнате, управляющего функциями, привязанными к политике,
• 5:41
  с ограничениями состояния и возможностями элементов. Он не верит, что действие прошло
• 5:44
  успешно, он проверяет. Он не предполагает, что инструмент существует. Он проверяет
• 5:49
  возможности, параметры и разрешения, прежде чем даже пытаться выполнить действие. И когда он
• 5:53
  терпит неудачу, он громко заявляет об этом, классифицирует ошибку и выбирает предписанный
• 5:57
  путь восстановления. Большинство агентов, работающих только по запросу, попадают в три режима
• 6:01
  сбоя. Во-первых, галлюцинаторные инструменты. Модель запрашивает функцию, которая не зарегистрирована,
• 6:06
  или вызывает ее с полями, которых не существует. Во-вторых, отсутствие предварительных условий.
• 6:10
  Он пытается редактировать файл SharePoint, не проверяя, может ли он получить доступ к сайту,
• 6:14
  списку или версии элемента. В-третьих, молчаливые частичные ошибки. Второй шаг терпит неудачу,
• 6:18
  но агент продолжает работу и объявляет о победе, потому что текст выглядит уверенно.
• 6:21
  Вы это видели, вы только что назвали это ненадежным. Исполнители запускают цикл,
• 6:24
  который выглядит скучным, и именно поэтому он работает. Предварительные условия, проверка входных
• 6:28
  данных, разрешений и инвариантов. Действия, вызов инструмента с ключом, определяющим потенциал
• 6:32
  элемента, чтобы повторные попытки не приводили к двойному выставлению счетов или двойной отправке
• 6:35
  данных. Постусловие, подтверждение эффектов относительно источника истины. Классификация
• 6:39
  ошибок, это ошибка проверки, временная ошибка, ограничение скорости, ошибка молодости или ошибка
• 6:44
  политики. Восстановление, откат и повторная попытка для временных ошибок, повторная аутентификация
• 6:48
  или повторное согласие для аутентификации, резервные варианты для известных альтернатив и жесткие
• 6:51
  остановки с указанием причин нарушений политики. И демпатентность не подлежит обсуждению.
• 6:54
  Если действие можно повторить, необходим ключ, который делает вторую попытку бездействующей или
• 6:58
  согласованным переопределением. Тайм-ауты предотвращают зомби-вызовы. Откат учитывает
• 7:02
  ограничение скорости. Это детерминированное поведение, управляющее по своей сути стахастической
• 7:07
  генерацией текста. Исполнитель — это коробка передач. LLM — это двигатель. Вы не давите на газ до упора
• 7:13
  и не надеетесь, что колеса поймут. Вывод данных, основанный на контракте, — это противоядие от
• 7:17
  шаблонных абзацев. Модель рассуждения не может вдаваться в подробности. Она выдает JSON, соответствующей
• 7:22
  схеме, имя инструмента, аргументы и ожидаемые постусловия. Валидаторы проверяют соответствие
• 7:26
  схеме перед запуском. Если структура не верна, исполнитель отклоняет запрос с указанием причины,
• 7:30
  запрашивает исправленный план или передает запрос на эскалацию. Так предотвращается превращение
• 7:33
  сложных запросов в производственные инциденты. Теперь вы можете подумать, разве я не могу просто
• 7:36
  попросить модель проверить свою работу? Вы можете спросить. Она ответит, да. Она всегда так делает.
• 7:41
  Средний пользователь это принимает. Профессионалам нужны доказательства. Доказательства хранятся в
• 7:45
  постусловиях, проверенных в таких системах, как Microsoft Graph, SharePoint или Exchange. Это реальные источники
• 7:50
  истины, а не память модели. Но вот где начинается самое интересное. Отдельные шаги — это хорошо. В реальных рабочих
• 7:56
  компенсации и контрольные точки, контролируемые человеком. Вам нужно больше, чем просто исполнитель.
• 8:00
  Вам нужна карта, которую исполнитель сможет прочитать. Это граф рабочих процессов. В графе узлы — это
• 8:04
  задачи или суп-агенты с явно заданными контрактами. Ребра определяют поток управления и поток данных.
• 8:08
  Состояние — первостепенное. Что является постоянным. Что сохраняется в контрольных точках. Что является
• 8:12
  временным. Исполнитель детерминированно обходит граф, соблюдая списки разрешенных действий и схемы на
• 8:16
  каждом ребре. Если узел выходит из строя, граф определяет компенсации, отмену, восстановление или эскалацию.
• 8:21
  Никаких загадочных каналов. И тут происходит волшебство. Это момент, когда надежность меняется.
• 8:27
  ЛЛМ предлагает. Исполнитель обеспечивает соблюдение. Проверка ограничений графа принимает решение.
• 8:32
  Порядок восстановлен. Как только вы отделяете когнитивные процессы от операций, ваши агенты
• 8:36
  перестают импровизировать и начинают действовать. И да, они по-прежнему чувствуют себя умными,
• 8:39
  потому что они таковыми и являются, но теперь они управляются. Готовый шаблон. Давайте подключим
• 8:43
  его к Microsoft 365, не превращая ваш клиент в баффи. Основы графовых рабочих процессов. Узлы,
• 8:49
  ребра и состояние, которое не утекает. Представьте себе это. У вас есть надежный
• 8:53
  исполнитель, но нет карты. Он будет следовать приказам. Но куда? На помощь приходит граф рабочих
• 8:57
  процессов, ваше руководство по эксплуатации. Узлы – это задачи или субагенты с четко определенными
• 9:01
  контрактами. Ребра определяют поток управления и поток данных. Граф кодирует, что выполняется,
• 9:06
  когда выполняется и какие данные могут пересекать границы. Никакой импровизации или джаза.
• 9:10
  Это нотная запись. Начните с формы. Большинство графов производственных процессов представляют
• 9:15
  собой направленные ациклические графы – DG, поскольку циклы приводят к бесконечным
• 9:18
  циклам и искажению состояния. Циклы все еще могут быть, но вы намеренно отмечаете их счетчиками
• 9:22
  и условиями, максимальным количеством итераций, предикатами выхода и таймаутами. Так вы
• 9:26
  предотвращаете превращение «думать усерднее», «думать бесконечно». Условная маршрутизация является
• 9:32
  явной. Если уверенность в получении информации выше порогового значения, переходите к синтезу.
• 9:36
  В противном случае – к повторному запросу. Параллелизм – это первоклассная функция. Запускайте
• 9:41
  суммирование и извлечение цитат параллельно, затем соединяйтесь в узле-барьере, который проверяет,
• 9:45
  что оба процесса выполнили свои постусловия. Состояние – это не атмосфера, это реестр. Вы
• 9:49
  поддерживаете три типа состояния – постоянное состояние, надежные контрольные точки, из которых
• 9:53
  можно восстановиться после сбоя, входные данные, решения, подписанные действия. Эфемерное состояние –
• 9:56
  кратковременные буферы, такие как промежуточные выходные данные модели, которые вы не хотите
• 9:59
  засорять долговременную память. Производное состояние – пересчитываемые артефакты, такие как
• 10:03
  имбединги или отфильтрованные результаты, которые можно построить детерминированно. Правило простое – сохраняйте
• 10:07
  только то, что можно защитить при проверке. Все остальное намеренно выбрасывается. Стратегия
• 10:11
  отката имеет значение. Когда узел изменяет внешний мир, создает события календаря, обновляет
• 10:16
  элемент списка, вы записываете обратное действие, если оно существует, или план компенсации,
• 10:20
  если его нет. Если нежестоящий узел выходит из строя, граф может пройти эти компенсации в обратном
• 10:25
  порядке. Нет, это не излишне, это способ избежать ситуации, когда «ой, дважды забронировал
• 10:29
  генерального директора», превращается в «ой, мы не можем это исправить». Ребра несут в себе контракты.
• 10:33
  Ребро – это не загадочная труба, это апи между узлами. Определите схемы ввода-вывода, типы,
• 10:38
  обязательные поля, допустимые значения. Определите списки разрешенных
• 10:41
  инструментов, к которым может обращаться следующий узел. Определите теги возможностей,
• 10:45
  что принимающий узел обещает сделать, а что откажет. Исполнитель обеспечивает их соблюдение
• 10:49
  во время выполнения. Узел не может переправить токен SharePoint через ребро суммирования. Это не
• 10:54
  показуха безопасности, это способ предотвратить горизонтальное перемещение вашего собственного
• 10:58
  агента. Обработка ошибок происходит в графе, а не в настройках. Каждый узел объявляет свою
• 11:03
  таксономию ошибок, ошибка проверки, временная инфраструктура, ограничение скорости,
• 11:08
  аутентификация, авторизация, нарушение политики и неизвестное. Для каждого класса граф
• 11:13
  предоставляет путь. Повторная попытка с экспоненциальной задержкой для временных ошибок,
• 11:17
  обновление токена для аутентификации, альтернативный инструмент для ограничения скорости,
• 11:20
  отказ с указанием причины для политики. Для неизвестных ошибок существуют очереди
• 11:23
  недоставленных сообщений. Неудачные полезные нагрузки отправляются в карантин с полным
• 11:27
  контекстом, чтобы люди могли их проверить, не воспроизводя хаос в производственной среде.
• 11:30
  Контрольные точки с участием человека — это не случайные сообщения вслег. Они приостанавливают
• 11:34
  выполнение, представляют предлагаемые действия и доказательства, и требуют одобрения или
• 11:38
  редактирования, которое регистрируется и подписывается. После одобрения выполнение возобновляется.
• 11:42
  В случае отказа граф возвращается к безопасному резервному варианту.
• 11:44
  Поздравляем, вы только что внедрили систему контроля изменений, которой разработчики
• 11:47
  действительно будут следовать, потому что это быстрее, чем электронная почта.
• 11:50
  Изоляция памяти не подлежит обсуждению. Каждая сессия получает контекст с ограниченной
• 11:54
  областью действия, только необходимые документы, токены и промежуточные результаты.
• 11:57
  Межсессионное отравление, когда внедрение подсказки из одной беседы проникает в другую,
• 12:01
  это способ случайной утечки данных. Граф обеспечивает соблюдение границ.
• 12:05
  Никакой общеизменяемой памяти, только разрешенное чтение из проверенного хранилища с фильтрами
• 12:09
  контента и валидаторами схем. Да, вы можете кэшировать встраивания и сводки, но вы помечаете их
• 12:13
  происхождением и разрешениями и удаляете при изменении политики. Наблюдаемость встроена,
• 12:17
  а не добавлена. Трассировка на уровне узлов показывает входные и выходные данные,
• 12:20
  длительность, повторные попытки и последующие эффекты. Вы объединяете трассировки в идентификатор запуска
• 12:24
  графа, чтобы иметь возможность воспроизводить, диагностировать и доказывать
• 12:27
  соответствие требованиям. Кто что сделал, когда и почему. Обнаружение аномалий выявляет странные
• 12:31
  закономерности, внезапные всплески вызовов инструментов, необычные домены, разрывы токенов.
• 12:35
  Это ваша система раннего предупреждения, прежде чем интерес перерастет в инцидент.
• 12:39
  По сути, граф — это конституция. Исполнитель — это правоохранительные органы. Магистр права — это
• 12:43
  адвокат, а не судья. Когда вы кодируете узлы, ребра и состояние таким образом, вы получаете не просто
• 12:47
  рабочие процессы, которые успешно завершаются. Вы получаете рабочие процессы, которые безопасно
• 12:51
  завершаются с ошибкой, объясняют себя и предсказуемо восстанавливаются.
• 12:53
  Теперь, имея на руках план, мы можем подключиться к Microsoft 365, не превращая ваш клиент в шведский
• 12:58
  стол. Безопасность по умолчанию. Проверка графа превосходит хаос-инженерию. Вы не доказываете
• 13:03
  надежность, бросая хаос в производственную среду и надеясь, что выжившие окажутся устойчивыми.
• 13:07
  Вы доказываете ее, отклоняя небезопасные рабочие процессы еще до того, как они начнут
• 13:10
  выполняться. Это и есть проверка графа. Статические проверки, чтобы исключить бессмыслицу,
• 13:14
  и механизмы контроля во время выполнения, чтобы держать опасность в рамках. Статическая
• 13:17
  валидация — это предполетная проверка. Вы проверяете структуру перед запуском. Циклы,
• 13:20
  создающие неограниченные циклы, отклоняются или требуют объявления защитных механизмов
• 13:24
  итерации. Недоступные узлы, мертвый код — это удаление или оправдание. Отсутствующие контракты,
• 13:29
  каждый узел должен объявить схемы ввода и вывода, необходимые возможности и побочные эффекты.
• 13:33
  Границы привилегий. Узлы, изменяющие внешние системы, должны работать в сегментах с учетными
• 13:38
  данными с минимальными привилегиями и явными списками разрешенных запросов. И да, если ваш узел
• 13:42
  суммирование, внезапно запросит доступ на запись в SharePoint, валидатор безоговорочно откажет.
• 13:46
  Теперь о времени выполнения. Вот здесь люди допускают небрежность. Механизм политик
• 13:50
  находится рядом с исполнителем, а не позади него. Списки разрешенных инструментов и доменов — это
• 13:55
  не документация, это принятые решения. Во время вызова механизм проверяет нас или нас на
• 13:59
  соответствие активному субъекту, внутрисистемному токену-идентификатору, областям действия,
• 14:02
  утверждением и корректно распространяет данные по всей цепочке. Никаких скрытых сверхспособностей.
• 14:06
  Токены имеют ограниченную область действия, обновляются при наличии разрешения и никогда не
• 14:09
  передаются через дружественные узлы. Агент получает доступ при каждом вызове, иначе он не будет
• 14:13
  вызывать. Санитаризация входных и выходных данных — это гигиена, а не опция. Внедрение подсказок — это
• 14:18
  не хитрость, а предсказуемость. Каждый входящий источник контента проходит через фильтры контента,
• 14:23
  HTML-код, средства очистки Markdown и BrandMauer инструкций, которые удаляют ненужные данные.
• 14:27
  Выходные данные проходят через валидаторы схем. Если узел обещал JSON, исполнитель отклоняет текст и запрашивает
• 14:34
  исправление. Модель может возражать — валидатор не ведет переговоры. Он обеспечивает соблюдение
• 14:38
  типов, диапазонов и инвариантов. Песочница и сегментация ограничивают радиус поражения.
• 14:43
  Узлы, которые вызывают внешний код или ненадежные коннекторы, работают в ограниченных средах.
• 14:48
  Апишлюзы с ограничениями скорости и сетевыми политиками, которые предотвращают горизонтальное
• 14:52
  перемещение и средствами контроля исходящего трафика, которые разрешают трафик только к проверенным
• 14:56
  доменам. Вы не позволяете узлу получения обнаруживать новый источник данных в производственной среде.
• 15:00
  Обнаружение происходит в среде разработки за тестами с подписанными обновлениями списка разрешенных
• 15:04
  источников. Наблюдаемость не регистрируется где-либо, она точечная. Трассировка на уровне узлов
• 15:08
  записывает входные и выходные данные, продолжительность, повторные попытки и решения,
• 15:12
  принимаемые механизмом политик. Все данные сопоставляются по идентификатору запуска.
• 15:15
  Журналы аудита неизменяемы и содержат информацию о том, какой субъект санкционировал какое действие,
• 15:19
  в каких областях, в какое время и почему политика это разрешила. Когда регулятор спрашивает,
• 15:23
  кто что сделал, вы не пожимаете плечами, а ищете. Готовность к соответствию означает,
• 15:27
  что ваши доказательства скучны и полны. Риски, связанные с патчами и третьими сторонами,
• 15:30
  это проблемы цепочки поставок. Относитесь к ним соответственно. Сканирование зависимости
• 15:33
  выполняется при каждой сборке. Коннекторы и плагины проверяются, фиксируются версии и проверяются
• 15:37
  на предмет расширения прав доступа. Если вы импортируете спецификацию MCP или открытого API,
• 15:41
  вы проверяете, соответствуют ли объявленные методы политики минимальных привилегий,
• 15:44
  которую вы ожидаете. Никаких конечных точек с подстановочными знаками,
• 15:47
  никаких скрытых путей записи, притворяющихся путями чтения. Гигиена — это не гламурно,
• 15:52
  однако именно ради нее вы спите. Проверка истинности графа превосходит хаос-инженерию,
• 15:56
  потому что она предотвращает целые классы инцидентов, а не документирует их последствия.
• 16:00
  Вы по-прежнему тестируете режимы отказов, но делаете это для подтверждения защитных
• 16:02
  механизмов, а не для того, чтобы обнаружить, что забыли их установить.
• 16:05
  Давайте вернемся к ментальной модели. Статические проверки поддерживают
• 16:08
  работоспособность чертежей. Никаких невозможных путей, никакой осиротевшей работы,
• 16:12
  никаких утечек привилегий. Защитные механизмы во время выполнения поддерживают
• 16:15
  работоспособность поведения. Каждый вызов аутентифицирован, авторизован, очищен и отслеживается.
• 16:20
  Исполнитель обеспечивает соблюдение ограничений графа, установленных валидатором.
• 16:23
  Модель. Она предлагает в рамках заданных границ и обрезается, когда отклоняется от них.
• 16:27
  Разве это не тяжело? Только если вам нравятся нарушения. Накладные расходы
• 16:31
  механические и автоматизированные. Статическая проверка выполняется во время сборки и
• 16:34
  развертывания. Политика во время выполнения – это вспомогательный механизм, быстрый и локальный.
• 16:38
  Проверки схемы занимают миллисекунды. Стоимость, которую вы устраняете, инциденты,
• 16:42
  ручные проверки, доработки, затмевает микрозадержку, которую вы добавляете.
• 16:46
  И отдача измерима. Меньше несанкционированных вызовов, меньше сбоев токенов и гораздо
• 16:51
  меньше посмертных разборов причин произошедшего.
• 16:54
  Еще один момент, который упускает из виду обычный пользователь. Валидация является компонуемой.
• 16:59
  Вы можете обернуть сторонние инструменты прокси-узлами, которые обеспечивают соблюдение
• 17:02
  контрактов и политик, не доверяя самому инструменту. Вы можете сегментировать графы по уровню
• 17:06
  конфиденциальности, общедоступности, внутреннему доступу, ограниченному доступу и продвигать рабочие
• 17:10
  процессы между уровнями только после прохождения валидации для новой границы. Вот как вы безопасно
• 17:14
  масштабируетесь. Безопасность по умолчанию — это не лозунг, это свойство рабочего процесса.
• 17:18
  Вы не надеетесь, что агенты будут вести себя правильно. Вы делаете некорректное поведение
• 17:21
  структурно-трудновыводимым и оперативно-видимым. При наличии необходимых ресурсов,
• 17:25
  подключение Microsoft 365 Graph и Azure OpenAI — это не рулетка. Это контролируемая власть на ваших
• 17:30
  условиях. Теперь мы можем говорить о подключении, а не о тушении пожаров.
• 17:33
  Сценарий Microsoft M365 Graph плюс Azure OpenAI плюс Copilot Studio.
• 17:38
  Давайте соберем состав участников. Агент поиска — дисциплинированный библиотекарь,
• 17:42
  который извлекает данные из Microsoft Graph только с минимальными привилегиями.
• 17:46
  Агент рассуждений — модель Azure OpenAI, которая планирует, размещает сайты и никогда не выходит
• 17:50
  за рамки своих задач. Исполнитель — оператор, привязанный к политикам,
• 17:54
  который запускает инструменты с одимпатентностью и проверками постусловий.
• 17:58
  Валидатор — контролер, схема, политика и обеспечение границ.
• 18:02
  Охранник политики — вспомогательный компонент среды выполнения, который связывает
• 18:05
  все с областями действия IntraID и RBC. Вместе они ведут себя как компетентная команда,
• 18:09
  а не как комитет. Доступ к данным начинается с граф, а не с догадок.
• 18:12
  Агент поиска хранит регистрацию приложения с детализированными областями действия.
• 18:15
  Файлы — чтение для конкретного сайта. Почта — чтение для ограниченного почтового ящика.
• 18:20
  Календари — чтение для календаря ресурсов. Никаких героических операций чтения,
• 18:23
  записи граф. Запросы используют дельта и выборочные поля для минимизации полезной нагрузки.
• 18:27
  Постраничная навигация — первоклассная. Исполнитель детерминированно следует
• 18:31
  по ссылкам с таймаутами, соблюдая ограничение скорости обслуживания. Когда возникают ошибки
• 18:34
  429, отступление происходит математически. Никаких истерик, только экспоненциальное терпение.
• 18:39
  Заземление — это не просто ощущение, это конвейер. Получение документов кандидатов с помощью
• 18:42
  поиска по графу или запросов к спискам. Дедупликация по идентификатору элемента и ETG-версии,
• 18:47
  чтобы не смешивать устаревшие и актуальные данные. Разбивка на фрагменты по семантическим
• 18:50
  границам, заголовкам разделов, разрывам слайдов. Затем прикрепление происхождения диска, сайта,
• 18:54
  пути, идентификатора элемента, последнего изменения и назначенного хиша. Агент логического вывода
• 18:58
  видит только фрагменты плюс метаденные и обязан выводить цитаты, сопоставленные с этими
• 19:02
  идентификаторами. Нет цитаты, нет утверждения. Исполнитель обеспечивает это как постусловие перед
• 19:07
  любым внешним действием. Для оркестрации используется Капайлот Студия. Вы определяете
• 19:11
  декларативные инструменты, пакеты запросов граф, действия записи SharePoint, публикации Teams,
• 19:15
  отправки Outlook, каждый из которых находится за прокси-сервером с явными схемами и списками разрешений.
• 19:19
  Координация между агентами структурирована. Агент извлечения предоставляет инструмент
• 19:23
  заземления. Агент рассуждений запрашивает его с параметрами. Исполнитель выступает посредником,
• 19:28
  проверяет и возвращает обоснованный контекст. Контрольные точки, заполняемые человеком,
• 19:32
  являются встроенными. Предлагаемый узел действия приостанавливает выполнение,
• 19:36
  отображает план с цитатами и требует одобрения. Одобрение подписывается и регистрируется.
• 19:40
  Отказ направляет к безопасной альтернативе или эскалации. Токены и задержка управляются,
• 19:45
  а не игнорируются. Выборочный контекст означает, что вы передаете только релевантные
• 19:49
  фрагменты, а не весь ваш клиент. Сводки предварительно вычисляются и кэшируются с помощью
• 19:52
  имбидингов, ключами которых являются хэш-контента и разрешения. Измените документ,
• 19:56
  измените ключ, пропустите кэш, пересетайте. Потоковые ответы поддерживают работоспособность
• 20:00
  пользовательского интерфейса, пока исполнитель обрабатывает побочные эффекты только после
• 20:03
  получения полного плана с действительной схемой. Условия раннего выхода останавливают цикл
• 20:06
  рассуждений, когда уровень уверенности и покрытия достигает порогового значения.
• 20:09
  Никакого дополнительного мышления, потому что модель показалась поэтичной. Возможность аудита
• 20:13
  заложена изначально. Каждое действие подписывается субъектом службы или делегированным
• 20:17
  пользователем и помечается идентификатором запуска, инструментом, параметрами. При
• 20:20
  необходимости скрывает информацию областью действия и результатом. Неизменяемые журналы
• 20:24
  хранятся в вашей системе мониторинга. Выберите свой любимый. Таким образом, вы можете
• 20:28
  воспроизвести запуск без повторного выполнения побочных эффектов. Кто что сделал, когда и почему,
• 20:32
  это вопрос, а не охота на ведьм. И да, ссылки сохраняются в неизменном виде, поэтому вы можете
• 20:36
  убедиться, что ответ связан с фактическим содержимым арендатора, а не с типовым законом.
• 20:39
  Сбои нормализованы и скучны. При ошибках 429 исполнитель повторяет попытку с задержкой,
• 20:44
  затем переключается на запрос с меньшей стоимостью или уменьшенным размером страницы.
• 20:47
  При устаревшем кэше валидатор обнаруживает несоответствующий и тагас и принудительно обновляет
• 20:51
  кэш. При отказе в доступе система защиты политики отказывает с указанием причины,
• 20:54
  предлагает путь запроса согласия или направляет запрос к скрытому резюме, который не приводит к
• 20:57
  утечке информации. При сбое инструмента граф объявляет альтернативные варианты или помещает запуск в
• 21:02
  очередь недоставленных сообщений с полным контекстом для исправления человеком. Детерминированные
• 21:05
  резервные варианты превращают инцидент в заявку. Теперь краткий обзор. Пользователь
• 21:10
  спрашивает. Составьте краткое изложение решений по дорожной карте за последний квартал со ссылками.
• 21:14
  Агент, выполняющий логическое мышление, предлагает используйте поиск по графу на определенном
• 21:17
  сайте SharePoint и в канале Teams, отфильтруйте по последнему кварталу, а затем синтезируйте.
• 21:21
  Валидатор проверяет, соответствуют ли запрошенные области действия роли агента.
• 21:25
  Соответствует. Исполнитель отправляет вызовы графа с постраничной навигацией и выбором полей,
• 21:28
  удаляет дубликаты по идентификатору элемента, фрагментирует данные и возвращает контекст с указанием
• 21:31
  происхождения. Логическое мышление создает краткое изложение с встроенными ссылками,
• 21:34
  сопоставленными с идентификаторами элементов. Валидатор проверяет схему и ссылки. Проверка
• 21:38
  пройдена успешно. Появляется контрольная точка с кратким изложением и подтверждением.
• 21:42
  Утверждающий нажимает ОК. Исполнитель публикует результат в Teams и отправляет электронные письма
• 21:45
  заинтересованным сторонам. Каждое действие использует ключи значимости элементов,
• 21:47
  чтобы повторные попытки не приводили к двойной отправке. Обратите внимание на дисциплину.
• 21:50
  Ни один агент не изобретает инструмент. Ни один узел не пересекает домен за пределами своего
• 21:54
  разрешенного списка. Токены корректно определяются и передаются через интро-ID. Они копируются
• 21:58
  и вставляются между узлами. Модель никогда не делает вывод об успехе. Исполнитель доказывает
• 22:03
  это условиями POST запроса к графу. Создано ID-сообщение, обновлен ITG элемента,
• 22:07
  ID-события календаря. Затем ставится отметка о завершении выполнения. И да, вы можете безопасно
• 22:11
  расширить это, подключив планер, Vivo или сторонние сервисы через MCP или открытый API, но только за
• 22:15
  прокси-инструментами со строгими схемами и контролем исходящего сетевого трафика. Оберните каждый
• 22:19
  коннектор одной и той же логикой валидатора и защитой политик. Переход между средами требует
• 22:23
  проходов валидации, соответствующих новым границам. От разработки к тестированию и продакшену с
• 22:27
  учетом расширения области действия, а не предположения. Это архитектура Microsoft, реализованная
• 22:31
  правильно. Граф для истины, Azure OpenAI для размышлений, Copilot Studio для оркестрации, исполнители для
• 22:37
  операций, валидаторы и политики для безопасности, а также наблюдаемость для доказательств. Далее цифры,
• 22:42
  а не впечатления. Метрики, да и, после, точность, задержка, стоимость, административные издержки.
• 22:48
  Хорошая архитектура, докажите это. Цифры, а не впечатления. Агенты, работающие только с подсказками,
• 22:53
  настоящие драматизаторы. Точность не постоянно, потому что они выдумывают источники и забывают
• 22:58
  ссылки. Без обоснования получается уверенная проза, которая никуда не ведет. Задержка в конце цепочки
• 23:03
  звонков ужасна. Одна длинная цепочка звонков, требующих более глубокого анализа, каждый из которых
• 23:07
  раздут избыточным контекстом. Затраты растут по спирали, потому что каждый раз в модель отправляются
• 23:11
  полные стенограммы и необработанные документы, как переплаченная курьерская служба.
• 23:15
  Административные издержки. Высокие. Инциденты. Экстренные исправления. Загадочные сбои и аудиты,
• 23:20
  которые напоминают археологию с завязанными глазами. Теперь о состоянии после с исполнителями
• 23:24
  и проверенными графами. Точность повышается, потому что для обработки заявок требуются квитанции.
• 23:28
  Обоснованные ссылки, привязанные к идентификаторам элементов графа, электронным тягам и подписанным
• 23:32
  хешем, означают, что ответ без подтверждения происхождения просто не проходит проверку.
• 23:35
  Эффект мгновенный. Меньше неправильных ответов, меньше циклов доработки и измеримое повышение
• 23:39
  показателей успешности выполнения задач в оценочных наборах. Когда утверждение не может быть
• 23:43
  подтверждено, агент отклоняет его с указанием причин или запрашивает одобрение человека.
• 23:47
  Предсказуемо. Доступно для проверки. Безопасно. Задержка сокращается по трем причинам. Во-первых,
• 23:52
  параллелизм, поиск, переранжирование и извлечение цитирований выполняются параллельно,
• 23:55
  а затем синхронизируются на узле-барьере. Во-вторых, кэширование, встраивание и сводки,
• 23:59
  основанные на хаешае контента и области разрешений, позволяют избежать пересчета того,
• 24:02
  что не изменилось. В-третьих, ранний выход. Как только охват и уверенность достигают
• 24:06
  порогового значения, граф останавливает цикл. Сравните это с последовательным запросом,
• 24:09
  где модель обдумывает решение на протяжении абзаца, а ваши пользователи обдумывают свой выход.
• 24:13
  Стоимость снижается, потому что дисциплина использования токенов обеспечивается,
• 24:15
  а не выпрашивается. Выходные данные, ограниченные схемой, предотвращают бессвязность.
• 24:19
  Выборочный контекст передает метаданные только релевантным фрагментам, а не целым сайтам.
• 24:23
  Более короткие запросы, меньшие ответы, меньше повторных попыток. Эффективность элементов и логика
• 24:28
  задержки исполнителя позволяют избежать дублирующих вызовов и лишних циклов. В результате
• 24:31
  получается меньше токенов на успешный результат и значительно меньшая вариативность.
• 24:35
  Финансовый отдел предпочитает сокращение отклонений. Административные издержки уменьшаются,
• 24:38
  потому что наблюдаемость проектируется, а не импровизируется. Трассировка на уровне узлов и
• 24:42
  неизменяемые журналы сокращают время диагностики инцидентов. Вы видите, какой узел вышел из строя,
• 24:46
  почему механизм политик отклонил запрос и что исполнитель попытался сделать дальше.
• 24:49
  Повторяемые развертывания сокращают объем работы на моем компьютере. Соответствие требованиям
• 24:53
  перестает быть сезонным кризисом, потому что каждый запуск уже содержит информацию о том,
• 24:57
  кто, что, когда и почему. Давайте сделаем это конкретным с помощью измерительной системы,
• 25:00
  которую вы действительно можете запустить. Создайте набор репрезентативных задач для оценки,
• 25:04
  вопросы и ответы со ссылками, сводку со ссылками и предложения по действиям с утверждениями.
• 25:08
  Для каждого определите оптимальные ответы или критерии приемлемости. Исправьте факты с помощью
• 25:12
  сопоставленных идентификаторов элементов, покрытия ссылок и допустимого отклонения.
• 25:15
  Установите параметры SLO P50 и P95, сквозная задержка, расход токенов на успешно выполненную
• 25:20
  задачу и процент отклонений политик. Свяжите каждую метрику с трассировками,
• 25:23
  чтобы любая регрессия имела след. Результаты, которые вы должны ожидать,
• 25:27
  если будете следовать архитектуре, а не импровизировать ее.
• 25:29
  Более высокая достоверность ответов, поскольку неподтвержденные утверждения никогда не
• 25:32
  покидают тестовую среду. Более низкая задержка P95, поскольку длинные хвосты обрезаются
• 25:37
  параллельными узлами и ранними выходами. Меньше затрат токенов, поскольку вы перестаете отправлять
• 25:41
  длинные тексты и начинаете отправлять релевантные фрагменты. Меньше страниц для администраторов,
• 25:45
  поскольку большинство сбоев обрабатываются детерминированными резервными механизмами.
• 25:48
  И да, скучный показатель, о котором все забывают. Коэффициент успешного завершения с первого раза
• 25:53
  больше запусков завершается без вмешательства человека. Влияние на бизнес, более быстрое решение
• 25:56
  проблем означает, что пользователи перестают открывать дублирующие заявки. Предсказуемые затраты
• 25:59
  означают планирование бюджета без неожиданных последствий в виде затрат токенов. Уверенность в соответствии
• 26:03
  означает меньше циклов аудита, которые могут сорвать ваш план действий. Неочевидная выгода – это
• 26:07
  репутационный аспект. Когда ответы агента ссылаются на контент арендатора, и ссылки работают,
• 26:12
  люди доверяют этому, используют это и перестают пересылать скриншоты, начинающиеся с вопроса,
• 26:16
  почему там было написано это. Прямые, императивные рекомендации, отслеживание связи с метриками,
• 26:20
  иначе вы будете полагаться на собственное мнение. Если вы не можете открыть запись выполнения и точно
• 26:24
  увидеть, какой именно узел завысил количество токенов или вызвал задержку, у вас нет наблюдаемости,
• 26:28
  у вас есть лишь предположения, основанные на временных метках. Все меняется, когда валидатор находится
• 26:32
  между хорошим планом и реальными действиями. Точность стабилизируется, задержка сокращается,
• 26:37
  стоимость выравнивается, администраторы спят. Это не магия, это исполнители,
• 26:41
  графы и валидация выполняют работу, которую вы ошибочно назначили запросом.