Latest / M365.FM – подкаст о Microsoft 365, Copilot и ИИ на русском / Мультиагентные системы в Azure AI Foundry: планирование, взаимодействие и инструменты без вреда для продакшена (ИИ-дубляж)

Transcript

Мультиагентные системы в Azure AI Foundry: планирование, взаимодействие и инструменты без вреда для продакшена (ИИ-дубляж) · M365.FM – подкаст о Microsoft 365, Copilot и ИИ на русском

• 0:00
  Знаете, чат-боты разговаривают, агенты действуют, а многоагентные системы действительно что-то делают.
• 0:04
  Если вы умоляли бота починить Инчун, а он ответил стихотворением, то это для вас.
• 0:08
  Вот в чем дело. Практическое знакомство с Netflix.
• 0:10
  Смотрите, ешьте закуски.
• 0:11
  Я придерживаюсь принципа опасного сервиса, чтобы никто не засурил рабочую среду.
• 0:15
  Мы создаем миниатюрную самовосстанавливающуюся управляемую многоагентную систему с помощью Azure iPhone 3 и Semantic Kernel.
• 0:20
  Реальные точки взаимодействия.
• 0:22
  Инчун, Интро, Граф, Azure Automation, Лок Аналитикс.
• 0:25
  Один агент против многоагентной системы лицом к лицу, 12 минут против трех.
• 0:29
  И единственная жертва – мой кредитный баланс подписки.
• 0:31
  Во-первых, почему один агент тормозит, в то время как Teams работает на ура?
• 0:34
  Почему одного агента недостаточно?
• 0:36
  Один агент – это швейцарский армейский нож, который вы купили на заправке.
• 0:39
  Технически у него есть инструменты, практически он гнется на первом же винтике.
• 0:42
  Вы пытаетесь втиснуть планирование, обоснование, выполнение, согласование и отчетность в один запрос,
• 0:46
  и в итоге система испытывает недостаток контекста, работает медленно и странно уверенно в неправильных вещах.
• 0:49
  Большинство людей думают, чем больше модель, тем больше мозг, и проблема решена.
• 0:53
  Но настоящая проблема – это путаница ролей.
• 0:55
  Один агент пытается спланировать изменения, вызвать граф, написать сценарий исправления,
• 0:59
  запросить согласование, проверить результат и задокументировать его.
• 1:02
  Это как управлять службой поддержки, доской изменений и анализом ошибок с помощью одного очень уставшего стажера.
• 1:07
  Вот что происходит на самом деле.
• 1:09
  Единственный агент жонглирует слишком большим количеством состояний.
• 1:11
  Ваш запрос превращается в повесть.
• 1:13
  Окно контекста заполняется логами, политиками и половиной глоссария MDM,
• 1:16
  поэтому оно либо обрезает важные части, либо искажает недостающие детали.
• 1:19
  Происходят скачки-задержки, расходуются токены, а повторные попытки ощущаются как дежавю со счетом.
• 1:24
  И тут на помощь приходит многоагентная система, роли, границы, параллелизм.
• 1:28
  Планировщик фокусируется на намерениях и ограничениях.
• 1:30
  Оператор фокусируется на инструментах и выполнении.
• 1:33
  Рецензент фокусируется на ограничениях, согласованиях и на том, насколько мы опираемся на факты.
• 1:37
  Каждый агент хранит четкий, короткий набор инструкций с минимальным объемом памяти.
• 1:41
  Они передают сообщения, результаты работы инструментов или краткое резюме, а не весь интернет.
• 1:46
  Почему это важно для предприятия?
• 1:47
  Вам нужны сквозные рабочие процессы с участием человека, действиями, ограниченными рамками идентификации, повторными попытками и журналами аудита.
• 1:53
  Это не однопоточный чат.
• 1:54
  Это командная работа.
• 1:55
  Шаблон, планировщик, исполнитель, рецензент снижает риски и объем доработок, потому что каждый шаг проверяется второй парой глаз, автоматизированных, которые не следят за нашей короткой встречей в Teams.
• 2:04
  Выигрывают также затраты и задержка.
• 2:06
  Используйте небольшие языковые модели для извлечения и классификации.
• 2:09
  Используйте премиальные модели рассуждений только там, где планирование действительно помогает.
• 2:12
  Запускайте пакетные задания для составления резюме, пока пользователи спят.
• 2:15
  Вы получите меньше ошибок, более быстрые результаты и меньшие счета.
• 2:18
  Микроистория.
• 2:19
  Я видел, как один бот, выполняющий все действия, пытался ротировать секрет.
• 2:22
  Система обновила ключ, забыла настройку приложения и исправила это, удалив ресурс.
• 2:27
  В тот день мы изобрели агента-рецензента.
• 2:29
  Многоагентные системы, основы, ясно и просто.
• 2:32
  Итак, что же такое многоагентная система, которую можно реально внедрить?
• 2:35
  Представьте себе цифровую команду, а не одного большого мозга.
• 2:38
  У каждого агента есть роль, четкий набор инструкций и ограниченный набор инструментов.
• 2:42
  Планировщик понимает цель, ограничение и среду.
• 2:46
  Создает план с вызовами инструментов, которые может выполнить оператор.
• 2:50
  Оператор вызывает инструменты, графы, логические приложения, функции, сценарии автоматизации Азур и возвращает структурированные результаты.
• 2:57
  Рецензент проверяет обоснованность, соответствие области действия, утверждение и безопасность результатов, прежде чем произойдет что-либо рискованное.
• 3:04
  Консьерж Мессенджара обрабатывает уведомления, утверждения и сводки для журнала аудита.
• 3:09
  Они общаются посредством сообщений и общего контекста так, как должны общаться взрослые, кратко, ясно и только-то, что необходимо.
• 3:15
  Последовательный подход, когда действия зависят от предыдущих результатов.
• 3:18
  Параллельный подход, когда подзадачи могут безопасно распределяться.
• 3:21
  Вы не отправляете 50-страничный документ, вы отправляете соответствующий фрагмент, идентификатор устройств и предполагаемые изменения.
• 3:26
  Инструменты — это руки, REST API для Microsoft Graph, поиск Azure AI для подбора знаний, интерпретатор кода для фрагментов, логические приложения для оркестрированных последовательностей, функции для связывания, автоматизация Azure для повторяющихся задач с устройствами.
• 3:38
  Структурируйте входные данные инструментов с помощью схем, чтобы оператор не мог произвольно удалять ваш клиент.
• 3:43
  Память — это не магия, это бюджет.
• 3:45
  Минимизируйте память на одного агента.
• 3:47
  Используйте внешние состояния, поисковые индексы, векторные хранилища или небольшое хранилище состояний для метадонных потоков.
• 3:51
  Держите контекстные окна компактными.
• 3:53
  Если это не нужно для следующего решения, оно не будет записываться вместе с ним.
• 3:55
  Планирование против выполнения — вот где семантик Кернелл проявляет себя во всей красе.
• 3:58
  Планировщик делегирует задачи, оператор выбирает подходящий инструмент с помощью каталогов функций.
• 4:02
  Рецензент оценивает результаты с помощью подсказок для оценки и обеспечения безопасности контента.
• 4:06
  Если рецензент указывает на риск, связанный с областью действия, планировщик вносит изменения.
• 4:10
  Как только вы поймете этот цикл, вы перестанете писать подсказки на 800 слов и начнете четко определять роли.
• 4:14
  Границы безопасности не подлежат обсуждению.
• 4:16
  Вызовы инструментов с ограничением по идентификаторам и управляемыми идентификаторами.
• 4:20
  Разрешения агента разделены между чтением и управлением.
• 4:22
  Менеджер проектов получает права на повышение привилегий при деструктивных действиях.
• 4:25
  Все вызовы инструментов регистрируются в Log Analytics.
• 4:27
  Безопасность контента как на входе, так и на выходе.
• 4:29
  Защита подсказок от взлома и косвенного внедрения подсказок из источников знаний.
• 4:33
  Время аналогии.
• 4:34
  Исследователь, аналитик, оператор, специалист по контролю качества.
• 4:37
  Каждый отвечает за свою часть работы.
• 4:39
  Оператор не утверждает свои собственные изменения.
• 4:41
  Аналитик не вмешивается в производственную среду.
• 4:43
  Специалист по контролю качества не пишет код, который он утверждает.
• 4:45
  Просто, скучно, безопасно.
• 4:47
  Почему Azure iPhone 3 плюс Semantic Kernel?
• 4:50
  Phone 3 предоставляет вам оркестрацию агентов, выбор моделей, привязку знаний, настройку инструментов, безопасность контента, трассировку, оценки и управления в одном месте.
• 4:57
  Семантик Kernel предоставляет вам планировщики, навыки, конвейеры, повторные попытки и отмену в коде.
• 5:03
  Вместе вы комбинируете модели для каждой роли, SLM для извлечения данных, класс GPT-4 для планирования, пакетную обработку для сводок.
• 5:10
  И ваши запросы становятся короткими, радиус поражения небольшим, а выходные – вашими.
• 5:14
  Теперь давайте создадим это, как Azure iPhone 3 обеспечивает многоагентные рабочие процессы.
• 5:19
  Здесь Azure iPhone 3 перестает быть просто красивым порталом и начинает работать как производственная площадка.
• 5:24
  Foundry предоставляет вам места для определения агентов, соединения моделей, добавления знаний, настройки действий и наблюдения за всем этим, не работая в шести разных средах и не имея желания.
• 5:32
  Это оркестровка без скотча.
• 5:34
  Начните с определения агентов.
• 5:36
  В Foundry каждый агент получает инструкции, четкое руководство пароли, а не манифест.
• 5:41
  Развертывание – это реальная модель, лежащая в его основе.
• 5:43
  Комбинируйте класс GPT-4 для планирования с SLM-класса FID для извлечения данных.
• 5:47
  Знания – поисковые индексы Azure AI, загруженные файлы или привязка к Bing, когда вам нужен веб-контекст.
• 5:52
  Действия – инструменты OpenAPI, логические приложения, функции, графы, сценарий автоматизации Azure или интерпретатор кода для быстрых вычислений и анализа.
• 6:00
  Да, подключенные агенты могут рассматривать другого агента как инструмент, если это позволяет поддерживать порядок в ролях.
• 6:06
  Это важно, потому что семантическое ядро подключается к той же вселенной.
• 6:10
  В коде вы создаете планировщики, определяете навыки и регистрируете инструменты в каталогах функций.
• 6:14
  Вы организуете цикл планировщика, оператора и рецензента, а Foundry управляет потоками, историей и механизмами безопасности.
• 6:20
  Вы делаете подсказки короткими и перекладываете основную работу на инструменты с помощью схем.
• 6:24
  Перевод – меньше галлюцинаций, меньше ошибок, больше выходных.
• 6:27
  Выбор модели имеет значение.
• 6:29
  Foundry абстрагирует вывод через конечную точку модели, поэтому вы можете менять модели, не переписывая все приложение.
• 6:34
  Два распространенных направления – бессерверные конечные точки для премиум-моделей и быстрая итерация.
• 6:38
  Вы платите за токен, масштабируетесь по требованию и не нянчитесь с графическими процессорами, как в 2018 году.
• 6:42
  Управляемые вычисления для конкретных открытых моделей, которые вы хотите закрепить в пределах вашего клиента.
• 6:46
  Вы платите за время работы и контролируете конфигурацию, но Microsoft занимается развертыванием.
• 6:50
  Смешиваете модели для разных ролей.
• 6:52
  Планировщик на GPT-4 или 4, один мини для логического вывода.
• 6:55
  Оператор на небольшой модели, отлично справляющийся с извлечением данных и формированием параметров.
• 6:59
  Создавайте длинные сводки партиями за ночь, чтобы к утру люди получали глянцевые отчеты.
• 7:02
  А если модель выходит из строя или вы хотите попробовать варианты DeepSick или Lama,
• 7:06
  API вывода Foundry позволит вам поддерживать стабильность кода во время экспериментов.
• 7:10
  Инструменты и действия – вот где оператор заслуживает свой значок.
• 7:13
  Здесь вы проявляете реальную власть, не передавая агенту ключи от своего королевства.
• 7:16
  Открытые API-инструменты для внутренних сервисов с помощью Swagger.
• 7:19
  Строго соблюдайте контракт.
• 7:21
  Если схема указывает, что устройство – это строка, то это должен быть идентификатор устройства.
• 7:24
  Приложение логики для потоков утверждения и человеческих ворот.
• 7:27
  Пусть рецензент направляет изменения утверждающему, а затем возобновляет выполнение при подтверждении.
• 7:31
  Функции Azure для связующего кода и корректных преобразований.
• 7:34
  Небольшой тестируемый API-версионированного графа для задач условного доступа к Inchun интро- и пользовательским устройствам.
• 7:40
  Предоставляйте области чтения агентам мониторинга, а области управления – только ремедиаторам.
• 7:44
  Автоматизация Azure для сценариев устройств и руководств.
• 7:47
  Относитесь к этому как к острым предметам в запертом ящике.
• 7:50
  Открыть его может только агент-исправитель.
• 7:52
  Как и в случае с установлением границ, поддерживайте порядок.
• 7:54
  Используйте поиск Azure AI с гибридным ранжированием и семантическим переранжированием.
• 7:57
  Разделяйте знания по предметной области.
• 7:59
  Политика Inchun должна быть отделена от стандартных операционных процедур при адаптации.
• 8:02
  Таким образом, вы не будете использовать все подряд.
• 8:04
  Оператор должен передавать фрагмент, а не всю энциклопедию.
• 8:07
  Размеры ваших фрагментов, хранение ссылок и проверка рецензентом соответствия требованиям перед попаданием в рабочую среду.
• 8:12
  Безопасность не является необязательной.
• 8:14
  Foundry включает в себя фильтры безопасности контента для ввода и вывода, защиту от взлома и косвенного внедрения, а также проверки защищенного материала.
• 8:20
  Запускайте проверку безопасности до и после моделирования, чтобы не платить за некорректные входные данные или катастрофы с запросами на слияние на выходе.
• 8:25
  Сочетайте это с управляемым удостоверением для каждого агента, проверкой на минимальные привилегии и управлением проектами для временного повышения привилегий для деструктивных инструментов.
• 8:31
  Каждый вызов инструмента отслеживается.
• 8:33
  Каждое подтверждение регистрируется.
• 8:35
  Если кто-то спросит, кто что запустил, вы не будете открывать Outlook.
• 8:38
  Аналитика журналов уже все знает.
• 8:40
  Наблюдаемость — это режим для взрослых.
• 8:42
  Включите трассировку, чтобы видеть историю запусков, какой агент вызывал какой инструмент с какими параметрами, с какой задержкой и что было возвращено.
• 8:49
  Подключите аналитику приложений для выявления закономерности производительности, журналы приложений для аудита и отправляйте результаты оценок в CI, чтобы выявлять отклонения в релевантности, обоснованности и беглости до того, как это заметит пользователь.
• 8:58
  Если обоснованность снижается, рецензент отмечает это.
• 9:00
  Планировщик сужает запрос на получение данных, и оператор пытается снова.
• 9:03
  Никакой паники со стороны человека не требуется.
• 9:05
  Примитивы развертывания поддерживают порядок.
• 9:07
  Используйте проекты Phone3 для квот на область действия команды и базовых параметров политик.
• 9:10
  Разместите Azure API Management перед вашей службой инструментов, чтобы вы могли версионировать, ограничивать скорость, внедрять автоматические выключатели и маршрутизировать между PTU и выводом с оплатой по мере использования.
• 9:17
  Частные конечные точки, где местонахождение данных или соответствие требованиям говорят о серьезности наших намерений.
• 9:21
  Регионы, которые соответствуют вашим пользователям, а не только вашим стремлениям.
• 9:24
  И да, семантическое ядро завершает картину.
• 9:27
  Вы описываете рабочий процесс в коде.
• 9:28
  Планировщик декомпозирует его.
• 9:30
  Оператор выбирает инструменты на основе каталогов функций и доступности.
• 9:33
  Рецензент обеспечивает проверки с помощью запросов на оценку и результатов проверки безопасности контента, а также предоставляет возможность повторных попыток с токенами отката и отмены, когда внешний API имитирует отключение для технического обслуживания.
• 9:44
  SK предоставляет вам мозг, выполнение, Phone3, операционную площадку.
• 9:48
  Объедините все это, и вы получите практичную схему.
• 9:50
  Определяйте агентов в Phone3 со строгими инструкциями и идентификаторами.
• 9:53
  Организуйте роли в SK, настраивайте систему с помощью тщательно отобранного поиска, связывайте действия с открытыми API, логическими приложениями, функциями, автоматизацией, обеспечивайте безопасность, да и после вывода, и наблюдайте за всем.
• 10:03
  Это скучно в лучшем смысле слова.
• 10:05
  Как ремни безопасности или отказ в предоставлении глобальных прав администратора стажеру с именем «Ключ по умолчанию».
• 10:10
  Демонстрационный сценарий 1. Очистка устройства.
• 10:13
  Призрачное устройство CSI Inchun.
• 10:15
  Знайте эти устройства, которые одновременно отображаются как управляемые, выведенные из эксплуатации и мертвые.
• 10:20
  Добро пожаловать в CSI Inchun.
• 10:22
  Наша задача – находить устаревшее, дублирующееся или незарегистрированное оборудование и безопасно устранять неполадки с одобрения, чтобы никто не отправлял гневные электронные письма в юридический отдел.
• 10:30
  Группа агентов, мониторинг, запросы, Microsoft Graph и аналитика логов, классификация состояния устройств, пометка аномалий.
• 10:37
  Специалист по устранению неполадок вызывает Inchun и автоматизацию Azure для карантина или вывода устройств из эксплуатации.
• 10:42
  Аудитор регистрирует все данные, уведомляет людей и составляет отчет о результатах проверки на соответствие требованиям.
• 10:48
  Процесс выглядит следующим образом.
• 10:49
  Монитор извлекает из записи устройств граф информацию о последнем подключении, состоянии соответствия, типе регистрации, основном пользователе и флагах вывода из эксплуатации.
• 10:56
  Он также получает сигналы аналитики логов, сигналы Defender, информацию о соответствии обновлений и события расширения управления Inchun.
• 11:02
  Он объединяет их в короткую структурированную запись для каждого устройства.
• 11:06
  Последнее посещение UTC – регистрация, соответствие, дубликаты, сигналы риска.
• 11:10
  Никаких отчетов, только поля.
• 11:11
  Теперь переход от интеллектуального управления к практическому.
• 11:13
  Монитор отправляет предлагаемую классификацию «Устаревшее», дубликат, отсутствие сигнала или штраф.
• 11:17
  Рецензент проверяет соответствие требованиям.
• 11:19
  Действительно ли эти поля получены из граф и ла?
• 11:22
  Служба безопасности контента запускает предварительную модель для блокировки внедрения подсказок из любого загруженного файла или веб-приложения.
• 11:27
  Если классификация проходит успешно, специалист по устранению неполадок подготавливает действия.
• 11:31
  Первый этап – мягкое исправление, пометка и карантин.
• 11:34
  Мы присваиваем кандидату категорию «Списанное устройство», удаляем динамические привязки групп, которые запускают распространение политик, и, при необходимости, перемещаем устройство в карантинную группу Азурет, которая блокирует доступ.
• 11:45
  Удалений пока нет.
• 11:46
  Утверждения поступают в логическое приложение.
• 11:49
  Рецензент включает в себя краткий план, идентификаторы устройств, причины, предлагаемые действия и откат.
• 11:55
  Утверждающие видят сводку в Teams со ссылками на запросы графов и KQL аналитики журналов.
• 12:00
  Утверждается токен датчика, средство исправления выполняет вывод устройства из эксплуатации, удаления при необходимости или очистку дубликатов, поддерживая устройство в актуальном состоянии и удаляя фантомные соединения.
• 12:09
  Управляемое удостоверение обеспечивает нашу безопасность.
• 12:12
  Монитор работает с разрешением чтения всех устройств.
• 12:14
  Средство исправления использует отдельное удостоверение с разрешением чтения всех устройств, запись всех устройств и именно теми разрешениями инчун, которые ему необходимы.
• 12:20
  Удаление осуществляется через PIM.
• 12:22
  Агент средства исправления не может повысить свои права.
• 12:24
  При запросе повышения прав логическое приложение требует участия человека и начинается отсчет
• 12:28
  времени для временного разрешения. Наблюдаемость — это более сложная часть. Каждый вызов
• 12:32
  инструмента отслеживается. Кто что вызвал, параметры, задержка, ответ. Аудитор записывает
• 12:36
  записи событий в журнал аналитики с идентификаторами корреляции, чтобы вы могли восстановить
• 12:40
  картину произошедшего без необходимости заниматься археологией слег. Мы также проводим
• 12:43
  этап оценки после внесения изменений — обоснованность, релевантность, связность.
• 12:46
  Если обоснованность снижается, рецензент блокирует дальнейшие деструктивные действия и
• 12:50
  возвращает план планировщику для уточнения поиска или сужения области действия. Модели
• 12:54
  намеренно смешиваются. Классификация использует небольшую модель для снижения затрат и задержки.
• 12:58
  Крайние случаи, например, когда Автопайлот переименовал одно из двух устройств, а Азур-Эд считает
• 13:02
  их близнецами, получают путь логического вывода с помощью GPT-4 Mini. Сводки обрабатываются пакетами.
• 13:07
  Никому не нужен шекспировский отчет в 14 часов. На прошлой неделе в тесте с одним агентом пытались
• 13:11
  исправить устаревшее устройство, выведя из эксплуатации все устройства в одной динамической группе.
• 13:15
  Рецензент в нашем многоагентном потоке отметил несоответствие в области действия, запросил
• 13:19
  подтверждение на уровне устройства и остановил процесс. Вот почему мы разделяем планирование,
• 13:22
  действие и проверку. В результате фантомные устройства перестают создавать проблемы с
• 13:25
  соблюдением нормативных требований. Вы сокращаете расход лицензий, исключаете ложные срабатывания и
• 13:30
  перестаете объяснять руководству, почему отказ от работы – это образ жизни. И да, журнал аудита читаем,
• 13:35
  чего нельзя сказать о половине ваших заявок на изменения. Второй сценарий демонстрации – адаптация
• 13:39
  без участия человека. Действительно, без участия человека. Никакого участия для пользователя,
• 13:44
  500 касаний для инженеров до агентов. Цель – от события в отделе кадров до готового пользователя
• 13:49
  и устройства без лишних хлопот. Плавно, контролируемо и обратимо, даже если отдел кадров пишет
• 13:53
  фамилию тремя разными способами. Состав команды. Отдел приема очлеживает веб-перехватчик
• 13:58
  отдела кадров, нормализует данные и проверяет обязательные поля. Специалист по предоставлению
• 14:03
  доступа создает пользователя в интро, назначает группы и лицензии, регистрирует профили Автопайлот.
• 14:07
  Валидатор проверяет соответствие политики и состояние условного доступа, прежде чем мы передадим
• 14:12
  новый ноутбук. Консьерж отправляет приветственный пакет, ссылки на SharePoint и контрольный список
• 14:17
  на первый день. Время выполнения. Прием данных получает данные от отдела кадров. Имя, дата начала
• 14:21
  работы, должность, отдел, руководитель, регион. Небольшая модель извлекает и нормализует их. Она
• 14:26
  сопоставляет данные с каноническими полями и отлавливает некорректные данные, например,
• 14:29
  дату начала работы в 2099 году. Если обязательные поля отсутствуют, она отправляет в отдел кадров
• 14:32
  структурированные сообщения об ошибке через Logic Apps без произвольных формулировок. Провиженер вызывает
• 14:35
  граф с управляемым идентификатором, ограниченным правами пользователя. Он создает пользователя
• 14:39
  интро, устанавливает место использования и применяет базовую группу. Затем он формирует
• 14:43
  назначение лицензии на основе роли и региона. Здесь важна логика, нужна ли этому человеку
• 14:48
  безопасность E5 или премиум-версия для бизнеса. Мы кодируем политику в данных и позволяем модели
• 14:52
  выбирать из разрешенных пакетов. Ни одна модель не может создавать лицензии, это строгое меню.
• 14:56
  Далее следует автопилот. Провиженер либо регистрирует уже имеющийся у нас хэш-оборудование,
• 15:01
  либо подготавливает профиль, точно в срок, привязанный к группе пользователя. Он помечает группы устройств
• 15:05
  для базовых политик, после чего активируется валидатор. Система запрашивает у граф и
• 15:09
  дефендер сигналы соответствия, проверяет, не нарушит ли условный доступ первый вход в систему,
• 15:13
  и убеждается, что будут применяться правильные политики конфигурации устройства.
• 15:16
  Если условный доступ заблокирует нового сотрудника в первый день работы, валидатор открывает
• 15:20
  запрос на утверждение с ограниченным по времени исключением и обоснованием.
• 15:23
  Консердж обрабатывает ручные операции. Он отправляет менеджеру сообщение в Teams с UPN нового
• 15:28
  сотрудника, статусом назначения устройства и ссылкой на стартовый комплект SharePoint. Он отправляет
• 15:32
  новому сотруднику электронное письмо с инструкциями по первому рабочему дню, руководством по
• 15:35
  настройке многофакторной аутентификации информации о том, где найти ИТ-портал. Он не вставляет
• 15:38
  ваши внутренние диапазоны IP-адресов в электронное письмо. Контент в софете проверяет выходные
• 15:41
  данные на предмет утечки информации и тональности. Управление осуществляется по той же принципу
• 15:45
  «пристегните ремни». Управляемое удостоверение провяженера имеет право на лицензирование,
• 15:48
  но не может удалять. Интейк не может предоставлять доступ, он только проверяет. PM блокирует любые действия
• 15:52
  высокого риска, такие как добавление пользователей в конфиденциальную группу. Все действия
• 15:56
  отслеживаются в App Insights и Log Analytics. Если отдел кадров отправляет исправленные данные,
• 16:00
  планировщик пересчитывает дельту, а оператор обновляет только то, что изменилось.
• 16:04
  Отсутствие колебаний членства в группах. Наблюдаемость позволяет отслеживать этапы.
• 16:08
  Прием данных от отдела кадров, создание входящих запросов, назначение лицензий,
• 16:11
  профиль автопилота, отправка уведомления о результатах проверки соответствия. Вы получаете метрики SLA и
• 16:15
  автоматические повторные попытки при временных ошибках графа с задержкой. Если система отдела кадров
• 16:19
  дает сбой, поток не завершается. Он приостанавливается, регистрирует и возобновляется после
• 16:23
  исправления. Оценки запускаются в CI на синтетических данных для адаптации новых сотрудников,
• 16:27
  чтобы выявить регрессии в релевантности и обоснованности до того, как пострадает реальный сотрудник.
• 16:31
  Сочетание моделей поддерживает баланс. SLM для извлечения и нормализации данных.
• 16:35
  Обоснование только при принятии решения о выборе политики. Сводки и приветственные письма
• 16:39
  обрабатываются пакетами, когда это возможно. Цель – низкая задержка при предоставлении доступа с
• 16:43
  понятностью, сравнимой с человеческим уровнем в журнале Аудита. Краткая история.
• 16:46
  При адаптации с помощью одного агента пытались добавить пользователя ко всем сотрудникам и
• 16:50
  подрядчикам, потому что в названии было указано «подрядчики». Многоагентная система обнаружила
• 16:54
  правила взаимной исключительности в валидаторе, запросила решение человека и предотвратила
• 16:57
  немедленный пожар в системе условного доступа. В результате пользователь полностью обходится
• 17:01
  без вмешательства. Один поток, четыре агента, чистые подтверждения и документальное
• 17:04
  подтверждение, которое вы можете показать своему директору по информационной безопасности,
• 17:07
  не молясь богам демонстрации. И да, когда отдел кадров неизбежно меняет дату начала работы,
• 17:11
  система пересчитывает данные, не расходуя бюджет на лицензии. Третий сценарий демонстрации –
• 17:15
  автоматическое усиление безопасности. Пожалуйста, оставьте битлокер включенным.
• 17:19
  Отклонение в настройках безопасности подобно сорнякам. Вы выдергиваете три,
• 17:22
  вырастает пять, и один из них из вредности отключает битлокер. Наша цель – непрерывно
• 17:26
  обнаруживать отклонения в конфигурации и безопасно устранять их с помощью механизмов,
• 17:30
  которые уважает юрист. Cast Drift Detector запрашивает граф и Defender. Secure Score получает
• 17:34
  данные о соответствии инчун и базовые показатели конфигурации устройств и строит дельту отклонения.
• 17:39
  Fixer отправляет изменения политики инчун, настройки битлокер и кольца обновлений Windows.
• 17:45
  Запускает сценарии устройств через Azure Automation, когда политика не справляется с задачей.
• 17:49
  Рецензент обеспечивает соблюдение ограничений, определяет объем изменений,
• 17:53
  проводит проверки на соответствие требованиям и получает одобрение от людей для рискованных шагов.
• 17:57
  Missenger напоминал людям в Teams или по электронной почте о кратких планах и подтверждениях.
• 18:02
  Flow Drift Detector работает по расписанию и по запросу. Он получает информацию о соответствии
• 18:07
  устройств требованием, статусе битлокер, статусе TPM, версии ОС, кольца обновлений и назначений
• 18:13
  политик через граф. Он сравнивает каждое устройство с эталонным профилем в виде структурированных
• 18:17
  данных, а не документа с настройками. Он помечает обнаруженные проблемы, отсутствие битлокер,
• 18:21
  слабый метод шифрования, непримененная политика, отключение безопасной загрузки,
• 18:24
  выход кольца обновлений за пределы допустимого диапазона. Запускается планировщик,
• 18:28
  предлагающий минимальный план для каждой группы устройств. Для битлокера используется политика
• 18:31
  инчун битлокер, если устройство поддерживает эту функцию. Если политика уже назначена,
• 18:35
  но ее статус неактивен, предлагается сценарий автоматизации для повторного запуска защитников
• 18:39
  и депонирования ключа в Azure Red. Для обнаружения отклонений обновлений предлагается переместить
• 18:43
  устройство в поэтапное кольцо обновлений, а не надеяться на немедленное обновление.
• 18:47
  В случае проблем с условным доступом предложите временное исключение с необходимым обоснованием.
• 18:52
  Рецензент оценивает обоснованность. Действительно ли Drift Detector ссылается на поля из Graph и Defender?
• 18:58
  Он проверяет область действия, идентификаторы устройств, идентификаторы политик,
• 19:01
  тип изменения. Если что-то похоже на все устройства, это блокируется с предубеждением.
• 19:05
  Безопасность контента обеспечивается на входе и выходе, чтобы предотвратить внедрение
• 19:09
  каких-либо внешних знаний или скопированных логов. Действия с высоким риском, такие как удаление
• 19:13
  конфликтующей локальной политики, блокируются менеджером проекта. Идентификатор исправителя
• 19:16
  не может повышаться самостоятельно. Утверждение осуществляется в логическом приложении с
• 19:19
  аккуратной карточкой. Что не так? Что изменится? Шаги отката и ссылки. Утверждение и выполнение
• 19:25
  исправления. Обновления политик инчун являются мощными элементами и целевыми. Исправление
• 19:29
  BitLocker использует сценарий выполнения с явными параметрами и проверкой целостности.
• 19:32
  TPM присутствует. ОС поддерживает путь депонирования XTS-AS-256. Проверено. Если какая-либо
• 19:38
  предварительная проверка не удается, она завершается с понятным для человека сообщением об ошибке
• 19:41
  беспобочных эффектов. Миссингер замыкает цикл. Устройство исправлено. В Teams отправляется
• 19:45
  дайджест с подсчетами, ссылками на трассировки и App Insights и CSV-файлом для тех, кто по-прежнему
• 19:50
  любит Excel больше, чем свою семью. Если устройство отказывается соответствовать требованиям,
• 19:54
  рецензент открывает поток обработки исключений с таймером и планирует повторные попытки.
• 19:57
  Наблюдаемость. Каждый вызов инструмента отслеживается и коррелируется по потоку. Мы блокируем
• 20:01
  изменения до и после, чтобы аудитор мог видеть несоответствующие и соответствующие требованиям
• 20:05
  данные, не застревая в KQL. Мы также запускаем агент оценки на сводках после изменений,
• 20:09
  чтобы проверить обоснованность и ясность. Если обоснованность снижается или частота сбоев резко
• 20:13
  возрастает, планировщик сужает область поиска, уменьшает размер пакета или приостанавливает
• 20:17
  деструктивные действия. Модель сочетает SLM для извлечения и классификации. Модель рассуждений
• 20:21
  для синтеза плана только при необходимости. Пакетная обработка ночного отчета. Никаких
• 20:25
  сонетов об И. В результате BitLocker действительно работает. Кольца обновлений меньше смещаются.
• 20:29
  Исключения документируются, ограничены по времени и доступны для проверки. И никто не
• 20:32
  чинит устройство, переустанавливая операционную систему на финансовых ноутбуках во время
• 20:36
  закрытия квартала. Архитектурный анализ. PhoneDri. Семантическое ядро. Инструменты. Идентификация.
• 20:41
  Давайте разберемся, как это работает, не нарушая вашу квоту. Представьте четыре уровня,
• 20:45
  которые обеспечивают здравый смысл. PhoneDri. Семантическое ядро. Инструменты. Идентификация.
• 20:50
  PhoneDri. Это базовая система. Вы определяете агентов со строгими инструкциями. Выбираете
• 20:54
  развертывание для каждой роли. Прикрепляете знания через поиск Azure AI и регистрируете действия.
• 20:59
  Инструменты. Аупинапи. Логические приложения. Функции. Графы. Автоматизация Azure. Интерпретатор
• 21:04
  кода. Здесь же находятся угрозы. История выполнения. Трассировка. Оценки и проверка безопасности.
• 21:09
  Защитные подсказки по безопасности контента и проверке защищенных материалов запускаются
• 21:12
  и после моделей. Поэтому некорректные входные данные не требуют токенов, а некорректные выходные
• 21:15
  данные выполнения заданий. Семантическое ядро. Это дирижер. В коде вы подключаете цикл проверки
• 21:20
  оператора-планировщика. Вы регистрируете каталоги функций для инструментов, отключаете повторную
• 21:25
  попытку и добавляете токены-отмены. Вы делаете подсказки короткими, переносите сложность в схемы и
• 21:29
  позволяете семантическому ядру решать, какой инструмент вызвать, исходя из доступности и политики.
• 21:32
  Если граф выходит из строя по таймауту, семантическое ядро обрабатывает это задержкой. Если уровень
• 21:36
  обоснованности снижается, он возвращается к планировщику для уточнения. Инструменты — это руки.
• 21:40
  Строго соблюдайте контракты с открытым API. Разместите управление API на переднем плане для
• 21:44
  ограничения версий и защиты от сбоев. Приложения логики обрабатывают утверждения и длительные
• 21:48
  процессы. Функции обеспечивают связь и преобразование. Автоматизация Azure выполняет скрипты с
• 21:52
  ограничениями и проверками после выполнения. Граф — ваш источник достоверной информации для
• 21:56
  инчун, интро, соответствие требованиям и оценке безопасности. Поиск Azure AI предоставляет тщательно
• 22:00
  отобранные знания по каждой области. Никакого супа знаний. Идентификация — это ремень безопасности.
• 22:04
  Каждый агент имеет свою собственную управляемую идентификацию. Агенты мониторинга получают
• 22:07
  области чтения. Агенты исправления получают области записи, но никогда не административные.
• 22:10
  Управление проектами блокирует любые деструктивные действия. Повышение прав требует
• 22:13
  участия человека и истекает. Частные конечные точки, где важны границы данных.
• 22:17
  Базовые политики в проектах Foundry обеспечивают соблюдение разрешенных моделей регионов и квот.
• 22:22
  App Insights и Log Analytics собирают трассировки, метрики и аудиты, чтобы вы могли ответить,
• 22:26
  кто что сделал, без необходимости поиска информации вслед. Модели подключаются через
• 22:30
  конечную точку вывода Foundry. Используйте бессерверные вычисления для обоснования
• 22:33
  приоритетов. Управляйте вычислительными ресурсами для закрепленных открытых моделей.
• 22:36
  Меняйте модели без переписывания кода, но при этом оценивайте релевантность,
• 22:39
  обоснованность и совместимость в CI перед продвижением. Регионы соответствуют вашим
• 22:43
  пользователям, зоны данных — вашим регулирующим органам. В совокупности это скучная,
• 22:47
  но надежная машина. Агенты, определенные в Foundry, управляемые SK, работающие на основе
• 22:51
  инструментов, защищенные идентификацией, измеряемые наблюдаемостью и охраняемой безопасностью.
• 22:56
  Скучная побеждает. Скучная масштабируется. Скучная позволяет вам спать. Лучшие практики
• 23:01
  внедряются без сожалений. Понятно. Накопите мудрость во времени, чтобы не тратить
• 23:05
  воскресенье на исправление субботнего. Дайте каждому агенту одну задачу. Планировщик
• 23:08
  планирует, оператор управляет, рецензент проверяет. Если агент начинает писать трогательный
• 23:12
  роман, отрежьте его подсказку и передайте текст инструменту. Держите инструкции короткими,
• 23:16
  ограниченными по объему и скучными. У вас будет меньше неожиданностей. Предпочитайте
• 23:19
  вызовы инструментов длинным текстом. Размещайте контракты в открытом аппе, схемы на входе и
• 23:23
  ограничения на выходе. Если инструмент ожидает устройства, отправьте его, а не, например,
• 23:27
  это устройство в финансовом отделе. Модели креативны, инструменты нет. В этом суть. Применяйте
• 23:32
  принцип минимальных привилегий, как будто от этого зависит ваша работа, потому что так оно и есть.
• 23:35
  Разделяйте учетные записи. Только чтение для монитора, только запись для корректировщика,
• 23:39
  и ни одна учетная запись не может удалять без менеджера проекта. Повышение прав временное,
• 23:42
  обоснованное и регистрируется. Если кто-то просит постоянного глобального администратора,
• 23:46
  дайте ему антистрессовый мячик и документ с политикой. Начните с малого, два агента,
• 23:49
  исполнитель и проверяющий. Добавьте планировщика, когда цикл стабилизируется. Затем,
• 23:52
  если вам нужно расширить команду, не начинайте с цифровой скром команды из 12 человек. Именно так
• 23:55
  вы воссоздаете свою организационную структуру в IML и плачете. Смешивайте модели для снижения затрат.
• 23:59
  SLM для извлечения данных. Класс GPT-4 только для рассуждений там, где это важно. Создавайте пакетные сводки за ночь.
• 24:04
  Вы не платите за форматирование строковых данных. Оставьте ресурсуемкую модель для принятия
• 24:08
  решений, а не для повествования. Добавляйте память в последнюю очередь. Используйте внешнее
• 24:12
  состояние для поиска и или небольшое хранилище состояний, прежде чем начинать забивать контекстные
• 24:16
  окна, как ручную кладь. Метаденные потоков должны быть минимальными. Если они не нужны для следующего
• 24:20
  шага, их не нужно добавлять. Регистрируйте все. Включите трассировку. Идентификаторы потоков,
• 24:25
  параметры инструментов, результаты задержки. Отправляйте результаты оценок в CI, чтобы вы могли обнаружить
• 24:28
  снижение релевантности и обоснованности до того, как это произойдет в производственной среде.
• 24:31
  Оповещайте о снижении обоснованности, а не о сбоях в Твитто. Защитные механизмы важнее скорости,
• 24:35
  одобрение для деструктивных инструментов. Режим пробного запуска без побочных эффектов.
• 24:39
  Поэтапное развертывание по группам устройств или регионам. Если ваш план развертывания предполагает
• 24:42
  одновременную реализацию, надеюсь, ваше резюме обновлено. Создавайте условия для сбоев.
• 24:45
  Повторяйте попытки с задержкой. Откажитесь от ограничения скорости графа. Автоматические
• 24:49
  выключатели в управлении API. И демпатентные сценарии выполнения. Если шаг можно безопасно
• 24:52
  повторить, вы будете спать спокойнее. Наконец, документируйте свои политики в виде данных.
• 24:56
  Правила взаимной исключительности. Пакеты лицензий. Базовые показатели устройств. Представьте
• 25:00
  их в структурированном виде. Модели могут выбирать. Они не должны изобретать.
• 25:03
  Вот как сохранить полезность агентов и ограничить радиус поражения. Запомните хотя бы одно,
• 25:08
  отдельные агенты помогают, но команды агентов, спланированные, управляемые инструментами и заданными
• 25:12
  правами доступа, незаметно преобразуют вашу среду, пока вы притворяетесь спящим. Если это вас зацепило,
• 25:16
  подпишитесь и посмотрите продолжение, где я поделюсь репозиторием семантического ядра и шаблоном
• 25:20
  бицепса, чтобы вы могли беззастенчиво их воровать. Хотите эпизод про агентов оценки,
• 25:23
  которые выполняют свои обещания? Он уже в очереди, на следующей неделе.