Latest / M365.FM – подкаст про Microsoft 365, Copilot і ШІ українською / Архітектура ШІ-агентів: виконавці, графи робочих процесів і валідація для надійної роботи (ШІ-дубляж)

Transcript

Архітектура ШІ-агентів: виконавці, графи робочих процесів і валідація для надійної роботи (ШІ-дубляж) · M365.FM – подкаст про Microsoft 365, Copilot і ШІ українською

• 0:00
  Єдина перевірка, яка заважає розумним агентам робити дурниці.
• 0:03
  Є один спосіб, який перетворює розумних на компетентних перевірка контракту перед виконанням.
• 0:07
  Перед запуском будь-якого інструменту валідатор доводить три речі по порядку.
• 0:11
  Намір відповідає реальній можливості, абонент має дозвіл прямо зараз,
• 0:14
  і запитуваний результат є можливим у межах заявлених меж даних.
• 0:18
  Якщо будь-яка частина не виконана, нічого не виконається.
• 0:20
  Не будьте обережні, не спробуйте все одно.
• 0:22
  Відмовтеся з причинами та альтернативами.
• 0:24
  Почніть зі збігу можливостей.
• 0:26
  План говорить про оновлення елемента списку SharePoint.
• 0:28
  Валідатор запитує, який інструмент, який метод, яка версія схеми.
• 0:32
  Аргументи перевіряються в реєстрі.
• 0:34
  Обов'язкові поля присутні, типи правильні, діапазони значень прийнятні,
• 0:37
  і так жодних додаткових полів, пронесених контрабандою, сподіваючись, що хтось їх проігнорує.
• 0:41
  Всевдонім інструментів заборонено.
• 0:43
  Використовуйте канонічну назву або отримайте відхилення.
• 0:45
  Це знищує галюциновані інструменти та припущені параметри, перш ніж вони почнуть погано поводитися.
• 0:49
  Далі – дотримання політик.
• 0:51
  Механізм політик оцінює запропонований виклик відповідно до активної політики.
• 0:55
  Списки дозволів для інструментів та доменів.
• 0:57
  Перевірки RBAC або ABC пов'язані з введенням заявок, ідентифікаторів та областей.
• 1:01
  Правила рівня середовища.
• 1:03
  Межі класифікації даних.
• 1:04
  Якщо агент обмежений файлами, читанням для певного сайту, викликом оновлення або іншого сайту – це жорстке «Ні».
• 1:10
  Якщо корисне навантаження потрапляє в обмежену класифікацію безлюдської контрольної точки – також «Ні».
• 1:15
  Токени перевіряються щойно.
• 1:16
  Області дії перевіряються точно, а ескалація привілеїв лише цим одним разом розглядається як спроба порушення.
• 1:23
  Потім доцільність після умови.
• 1:25
  Недостатньо просто бажати результату.
• 1:27
  Він має бути досяжним і таким, що перевіряється.
• 1:29
  Валідатор запитує, чи підтримує пункт призначення ключі ефективності елемента.
• 1:33
  Чи видаватиме система стійкий ідентифікатор або електронну мітку, яку ми можемо перевірити після цього.
• 1:36
  Чи є компенсаційні дії, якщо наступна послідовність не вдасться.
• 1:39
  Якщо план не може створити перевірені пост умови, його відхиляють або переписують.
• 1:43
  Ми не приймаємо, повірте мені, я зареєструю це пізніше.
• 1:45
  Пізніше трапляються інциденти.
• 1:47
  Об'єднайте їх разом і ви отримаєте тріо, шлюз, відповідність можливостей, відповідність політикам, доцільність після умови.
• 1:52
  Передайте всі три і виконавець продовжить.
• 1:54
  Не вдасться будь-який і шлях з причиною активується.
• 1:57
  Цей шлях є вічливим, ретельним і однозначним.
• 2:00
  Ось що ви спробували.
• 2:01
  Ось точна політика або схема, яку ви порушили.
• 2:03
  Ось безпечні альтернативи.
• 2:05
  Якщо намір користувача можна виправити, звуйте область застосування, перейдіть до зведення лише для читання, перенаправте на дозволений сайт.
• 2:11
  Валідатор пропонує план, що відповідає вимогам і запитує схвалення.
• 2:14
  Якщо його неможливо виправити, ескалуйте до контрольної точки з повним контекстом або повністю зупиніться.
• 2:18
  Ніяких таємничих зупинок.
• 2:20
  Ніякого мовчазного успіху.
• 2:22
  Коротка мікроісторія, яку ви пережили, навіть якщо ви цього не знали.
• 2:25
  Агента просять узагальнити всі документи відділу кадрів за минулий квартал та надіслати електронною поштою юридичну інформацію.
• 2:29
  Отримання інформації пропонує запити графів на сайтах відділу кадрів та юридичної інформації.
• 2:33
  Валідатор бачить перетин межі.
• 2:34
  Відділ кадрів обмежений.
• 2:36
  Відділ юридичної інформації є внутрішнім.
• 2:38
  Шлюз-тріо облокує перехресне щитування та вихідну електронну пошту.
• 2:41
  Повертає шлях заборони.
• 2:42
  Виявлено обмежений контент.
• 2:44
  Запропонована альтернатива узагальнення внутрішнього індексу політики надання посилання на запит для зведення відділу кадрів для уповноважених рецензентів.
• 2:50
  Користувач схвалює план, що відповідає вимогам.
• 2:52
  Виконавець запускає його, розміщує внутрішній контент і додає запит на дозвіл на матеріали відділу кадрів.
• 2:57
  Без витоків, без драми – все одно корисно.
• 2:59
  Впровадження нудне за своєю природою.
• 3:01
  DSL-політики визначає, хто що може робити, де та з якими побічними ефектами.
• 3:04
  Реєстр схеми зберігає контракти інструментів, імена, версії, форми аргументів та умови публікації.
• 3:09
  Резолвер списку дозволів зіставляє домени, сайти та області дії з рівнями середовища.
• 3:14
  Валідатор складає їх, позначає кожне рішення записом аудиту, вхідними даними, оцінками політик, результатами та передає виконавцю або зелене світло, або план ремонту.
• 3:22
  Виконавець ніколи не маневрує на червоне світло.
• 3:25
  Він забезпечує виконання рішення або зупиняється.
• 3:26
  Ментальна модель достатньо чиста, щоб її можна було витатувати на лобі вашої архітектурної схеми.
• 3:31
  Виконавці забезпечують виконання.
• 3:32
  Графіки обмежують.
• 3:34
  Валідатори вирішують.
• 3:35
  У такому порядку.
• 3:36
  Модель пропонує лише в межах огородженого двору, і щойно вона намагається перелізти, валідатор відводить її назад, пояснює чому та вказує на ворота.
• 3:43
  Порядок збережено.
• 3:44
  Безпека забезпечена.
• 3:46
  Прогрес розблоковано.
• 3:47
  В межах політики.
• 3:48
  Ви хотіли одну річ, яка заважає розумним агентам робити дурниці.
• 3:52
  Ось вона.
• 3:52
  Перевірка контракту перед виконанням, яка доводить можливості, дозвіл та перевірений результат перед будь-якою реальною мутацією.
• 3:59
  Це перетворюється на «я думаю, що можу, на мені дозволено, я знаю як, я знаю як, я можу довести, що зробив це».
• 4:03
  Ні, ні, ні.
• 4:04
  Темрява трапляється не з нами.
• 4:06
  Тепер у вас є архітектура, використовуйте її.
• 4:09
  Ключовий висновок плюс кілотонна.
• 4:10
  Ключовий висновок.
• 4:11
  Підказки – це думки, виконавці та перевірені графи – це операції, а перевірка контракту перед виконанням – це захисна огорожа, яка забезпечує чесність обох.
• 4:19
  Якщо це заощадило вам час, поверніть борг.
• 4:22
  Підпишіться.
• 4:23
  Далі перегляньте порівняння Landgraf та Microsoft Agent Framework за продуктивністю та спостережуваністю, фактичними трасуваннями, витратами та ПІ-95.
• 4:31
  Зафіксуйте свій шлях оновлення, дотримуйтесь у вімкніць повіщення та отримайте наступний епізод за розкладом.
• 4:35
  Продовжуйте.
• 4:36
  Більшість людей думають, що кращі підказки виправляють нестабільних агентів.
• 4:39
  Мила теорія.
• 4:40
  Підказки керують думками, вони не виконують операції.
• 4:43
  Правда, надійність походить від виконавців та перевірки графів хребта, який не дає агентам ігнорувати реальність, коли вона виявляється.
• 4:49
  Ми збираємося пов'язати це зі сценаріями Microsoft, пошуком графів Microsoft 365, міркуваннями Azure OpenAI та агентами Co-Pilot Studio, які не стають шахраями.
• 4:58
  Ставки прості.
• 4:59
  Точність, затримка, вартість та можливість аудиту.
• 5:02
  Вимірюваність, а не вібрації.
• 5:04
  Я дам вам ментальну модель, яку ви можете запустити в голові, діаграми словами, які ви не забудете, та один крок перевірки, який заважає розумним агентам робити дурниці.
• 5:12
  Зустрічайте архітектуру, яку ви мали використовувати з першого дня.
• 5:15
  Чому запити не працюють на операціях, виконавці – ні.
• 5:18
  Гаразд, ось у чому річ.
• 5:19
  LLM обробляють когнітивні функції.
• 5:21
  Виконавці обробляють операції.
• 5:23
  Змішуючи їх, ви отримуєте хаос.
• 5:25
  Модель може запропонувати план.
• 5:27
  Вона не може гарантувати, що електронний лист було надіслано, файл було збережено або що дозвіл існував.
• 5:32
  Вона говорить ймовірностями, операції вимагають гарантій.
• 5:36
  Зустрічайте виконавця.
• 5:37
  Уявіть собі його як дорослого в кімнаті, виконавця функцій, обмежених політиками, з обмеженнями стану та потужністю елементів.
• 5:43
  Він не вірить, що дія була успішною, він перевіряє.
• 5:46
  Він не припускає існування інструменту.
• 5:48
  Він перевіряє можливості, параметри та дозволи ще до того, як спробує.
• 5:52
  А коли він зазнає невдачі, він зазнає невдачі голосно, класифікує помилку та обирає запропонований шлях відновлення.
• 5:58
  Більшість агентів, які працюють лише з запитами, потрапляють у три режими відмови.
• 6:01
  По-перше, галюциновані інструменти.
• 6:03
  Модель запитує функцію, яка не зареєстрована, або викликає її з полями, яких не існує.
• 6:08
  По-друге, відсутні попередні умови.
• 6:10
  Вона намагається редагувати файл SharePoint, не перевіряючи, чи може вона отримати доступ до сайту, списку або версії елемента.
• 6:16
  По-третє, тихі часткові зміни.
• 6:17
  Кроп-другий не вдається, але агент продовжує роботу та оголошує перемогу, тому що текст виглядає впевнено.
• 6:21
  Ви вже це бачили.
• 6:22
  Ви щойно назвали це ненадійним.
• 6:23
  Виконавці запускають цикл, який виглядає нудним, і саме тому він працює.
• 6:27
  Передумови – перевірка вхідних даних, дозволів та інваріантів.
• 6:30
  Дія – виклик інструменту з ключем потенції елемента, щоб повторні спроби не виставляли рахунок подвійно або не надсилали подвійну інформацію.
• 6:35
  Постумови – підтвердження ефектів відносно джерела істини.
• 6:39
  Таксономія помилок – це перевірка, тимчасова помилка, обмеження швидкості, молодість чи політика.
• 6:44
  Відновлення – відмова та повторна спроба для тимчасової помилки, повторна автентифікація або повторна згода для автентифікації,
• 6:49
  резервні варіанти для відомих альтернатив та жорсткі зупинки з причинами порушень політики.
• 6:53
  І демпотентність не підлягає обговоренню.
• 6:55
  Якщо дію можна повторити, їй потрібен ключ, який робить другу спробу невиконанням або послідовним перевизначенням.
• 7:00
  Таймаути запобігають викликам зомбі.
• 7:02
  Відмова враховує обмеження швидкості.
• 7:04
  Це детермінована поведінка, що керує стохастичною генерацією тексту за своєю суттю.
• 7:09
  Виконавець – це коробка передач.
• 7:10
  LLM – це двигун.
• 7:11
  Ви не натискаєте на двигун у півдорозі та не сподіваєтеся, що колеса зрозуміють.
• 7:14
  Виходи, що передбачають контракт – це проти отрута від абзаців, заснованих на принципі «Найкращі зусилля».
• 7:18
  Модель міркувань не може бути безладною.
• 7:20
  Вона генерує JSON, що відповідає схемі, назва інструменту, аргументи та очікувані постумови.
• 7:24
  Валідатори перевіряють відповідність схемі перед тим, як щось виконати.
• 7:27
  Якщо форма неправильна, виконавець відхиляє з поясненням причини, запитує виправлений план або ескалює.
• 7:32
  Ось як ви запобігаєте перетворенню інцидентів з іменниками на виробничі інциденти.
• 7:35
  Тепер ви можете подумати, хіба я не можу просто запропонувати моделі перевірити свою роботу?
• 7:38
  Ви можете запитати.
• 7:39
  Вона скаже «Так».
• 7:40
  Вона завжди скаже.
• 7:41
  Пересічний користувач це приймає.
• 7:43
  Професіоналам потрібні докази.
• 7:44
  Докази живуть у постумовах, перевірених у таких системах, як Microsoft Graph, SharePoint або Exchange.
• 7:49
  Реальні джерела істини, а не пам'ять моделі.
• 7:51
  Але ось де починається цікаве.
• 7:53
  Поодинокі кроки – це добре.
• 7:54
  Реальні робочі процеси мають гілки, паралелізм, компенсації та людські контрольні точки.
• 7:58
  Вам потрібно більше, ніж виконавець.
• 8:00
  Вам потрібна карта, яку виконавець може прочитати.
• 8:02
  Це граф робочого процесу.
• 8:03
  У графі вузли це завдання або субагенти з явними контрактами.
• 8:06
  Ребра визначають потік керування та потік даних.
• 8:08
  Стан – це перший клас.
• 8:09
  Що є постійним?
• 8:10
  Що є контрольними точками?
• 8:11
  Що є ефемерним?
• 8:12
  Виконавець детерміновано обходить граф, дотримуючись списків дозволів та схем на кожному ребрі.
• 8:16
  Якщо вузол виходить з ладу, граф визначає компенсації, скасування, відновлення або ескалацію.
• 8:21
  Ніяких таємничих каналів.
• 8:23
  Ні, і тоді відбувається диво.
• 8:25
  Це момент, коли надійність перевертається.
• 8:27
  ЛЛМ пропонує.
• 8:28
  Виконавець забезпечує виконання.
• 8:30
  Перевірка обмежень графу вирішує.
• 8:32
  Порядок відновлено.
• 8:33
  Як тільки ви відокремите пізнання від операцій, ваші агенти перестануть імпровізувати та почнуть поводитися добре.
• 8:38
  І так, вони все ще почуваються розумними, тому що вони є такими, але тепер вони контролюються.
• 8:41
  План готовий.
• 8:43
  Давайте підключимо це до Microsoft 365, не перетворюючи вашого орендаря на бафі.
• 8:47
  Графічні робочі процеси 101.
• 8:49
  Вузли, ребра та стан, які не витікають.
• 8:51
  Уявіть собі це.
• 8:52
  У вас є надійний виконавець, але немає карти.
• 8:54
  Він виконуватиме накази, але куди?
• 8:56
  Введіть граф робочого процесу, ваш посібник з експлуатації.
• 8:59
  Вузли – це завдання або субагенти з явними контрактами.
• 9:02
  Ребра визначають потік керування та потік даних.
• 9:04
  Граф кодує, що виконується, коли виконується і яким даним дозволено перетинати кордони.
• 9:09
  Ніякої імпровізації чи джазу.
• 9:11
  Це ноти.
• 9:11
  Почніть з форми.
• 9:13
  Більшість графів виробництва CDAG спрямовані ациклічні графи, оскільки цикли провокують нескінченні цикли та пошкодження станів.
• 9:19
  Ви все ще можете мати цикли, але ви навмисно позначаєте їх лічильниками та захистами, максимальною кількістю ітерацій, предикатами виходу та таймаутами.
• 9:26
  Ось як ви запобігаєте тому, щоб думати стариніше, стало думати вічно.
• 9:30
  Умовна маршрутизація є явною. Якщо впевненість у пошуку перевищує поріг, перейдіть до синтезу.
• 9:36
  Якщо ні, перейдіть до повторного запиту.
• 9:38
  Паралелізм – це перший клас.
• 9:40
  Запустіть підсумовування та вилучення цитувань пліч-о-пліч, а потім об'єднайте їх у бар'єрному вузлі, який перевіряє, чи обидва відповідають умовам публікації.
• 9:47
  Стан – це не вібрація, це реєстр.
• 9:49
  Ви підтримуєте три типи станів.
• 9:50
  Постійний стан – довговічні контрольні точки, з яких ви можете відновитися після збою, вхідні дані, рішення, підписані дії.
• 9:55
  Ефемерний стан – короткочасні буфери, такі як проміжні виходи моделі, які ви не хочете забруднювати довготривалу пам'ять.
• 10:00
  Похідний стан – переобчислювані артефакти, такі як вбудовування або відфільтровані результати, які ви можете будувати детерміновано.
• 10:05
  Правило просте – зберігайте лише те, що ви можете захистити під час аудиту.
• 10:09
  Все інше навмисно утилізується.
• 10:10
  Стратегія відкату має значення.
• 10:13
  Коли вузол змінює зовнішній світ, створює подію календаря, оновлює елемент списку,
• 10:16
  ви записуєте зворотну дію, якщо вона існує, або план компенсації, якщо її немає.
• 10:21
  Якщо вузол нижче за течією дає фатальний збій, графік може пройтися по цих компенсаціях у зворотному порядку.
• 10:25
  Ні, це не перебільшення, це спосіб уникнути помилки «Ой», подвійне бронювання, генеральний директор стає «Ой», ми не можемо це виправити.
• 10:31
  Ребра несуть контракти
• 10:33
  Ребро – це не таємничий канал, це арі між вузлами.
• 10:36
  Визначте схеми вводу-виводу, типи, обов'язкові поля, дозволені значення.
• 10:40
  Визначте списки дозволів, які інструменти або домени може викликати наступний вузол.
• 10:44
  Визначте теги можливостей, що обіцяє робити вузол-отримувач, а що відхилить.
• 10:47
  Виконавець забезпечує їх виконання під час виконання.
• 10:50
  Вузол не може контрабандою пронести токен SharePoint через резюме.
• 10:53
  Це не театр безпеки, це спосіб запобігання горизонтальному переміщенню власним агентом.
• 10:58
  Обробка помилок знаходиться в графі, а не у вібраціях.
• 11:01
  Кожен вузол оголошує свою таксономію помилок, помилка перевірки, тимчасова інфраструктура,
• 11:07
  обмеження швидкості, автентифікація, авторизація, порушення політики та невідоме.
• 11:12
  Для кожного класу граф надає шлях.
• 11:14
  Повторна спроба з експоненціальним відступом для тимчасових помилок,
• 11:17
  токен оновлення для автентифікації, альтернативний інструмент для обмеження швидкості, заборона з причиною політики.
• 11:22
  Для невідомих помилок існують черги недоставлених листів.
• 11:24
  Невдалі корисні навантаження переміщуються в карантин з повним контекстом,
• 11:27
  щоб люди могли перевіряти, не відтворюючи хаос у виробництві.
• 11:30
  Контрольні точки «Людина в циклі» не є спеціальними повідомленнями слек.
• 11:34
  Вони заморожують виконання, представляють запропоновану дію та докази,
• 11:36
  а також вимагають схвалення або редагування, яке реєструється та підписується.
• 11:40
  Після схвалення виконання відновлюється.
• 11:42
  Якщо відхилено, граф переходить до безпечного резервного режиму.
• 11:44
  Вітаємо, ви щойно впровадили контроль змін, якого розробники фактично дотримуватимуться,
• 11:48
  оскільки він швидший за електронну пошту.
• 11:50
  Ізоляція пам'яті не підлягає обговоренню.
• 11:52
  Кожен сеанс отримує обмежений контекст, лише ті документи, токени та проміжні результати, які йому потрібні.
• 11:57
  Отруєння між сеансами, коли введення запиту з однієї розмови проникає в іншу,
• 12:01
  це те, як ви випадково витягуєте дані.
• 12:03
  Граф забезпечує дотримання меж.
• 12:05
  Немає спільної змінної пам'яті, лише санкціонувані читання з перевіреного сховища з фільтрами контенту та валідаторами схем.
• 12:10
  Так, ви можете кешувати вбудовування та зведення, але ви позначаєте їх походженням та дозволами
• 12:14
  і видаляєте їх після зміни політики.
• 12:16
  Спостереження вбудоване, а не прикріплене.
• 12:18
  Трасування на рівні вузла показують вхідні дані, виходи, тривалість, повторні спроби та подальші ефекти.
• 12:23
  Ви шиваєте трасування з ідентифікатором запуску графа, щоб ви могли відтворювати, діагностувати та доводити відповідність.
• 12:28
  Хто що зробив, коли і чому.
• 12:30
  Виявлення аномалій виявляє дивні закономірності, раптові сплески у викликах інструментів, незвичайні домени, перевищення допустимих значень.
• 12:35
  Це ваша система раннього попередження, перш ніж цікаве, стане інцидентом.
• 12:39
  По суті, граф – це конституція.
• 12:40
  Виконавець – це правоохоронні органи.
• 12:42
  Магістр права – це радник, а не суддя.
• 12:44
  Коли ви кодуєте вузли, ребра та стан таким чином, ви не просто отримуєте успішні робочі процеси.
• 12:49
  Ви отримуєте робочі процеси, які безпечно зазнають невдачі, пояснюють себе та передбачувано відновлюються.
• 12:54
  Тепер, маючи план у руках, ми можемо підключитися до Microsoft 365, не перетворюючи вашого орендаря на шведський стіл.
• 12:59
  Безпечний за дизайном.
• 13:00
  Валідація графів перемагає хаотичну інженерію.
• 13:03
  Ви не доводіте надійність, кидаючи хаос у виробництво та сподіваючись, що ті, хто виживе, будуть стійкими.
• 13:07
  Ви доводіте це, відкидаючи небезпечні робочі процеси, перш ніж вони взагалі запустяться.
• 13:11
  Це валідація графів.
• 13:12
  Статичні перевірки, щоб не допустити нісенітниці, захисні бар'єри під час виконання, щоб тримати небезпеку в межах.
• 13:16
  Статична валідація – це передпольотна перевірка.
• 13:18
  Ви перевіряєте структуру, перш ніж запускатися.
• 13:20
  Цикли, які створюють необмежені цикли, відхилені або змушені оголошувати захист від ітерацій.
• 13:24
  Недосяжні вузли, мертвий код – це видалення або виправдання.
• 13:27
  Відсутні контракти, кожен вузол повинен оголошувати схеми введення та виведення, необхідні можливості та побічні ефекти.
• 13:33
  Межі привілеїв, вузли, які мутують зовнішні системи, повинні працювати в сегментах з найменшими привілеями та явними списками дозволів.
• 13:41
  І так, якщо ваш вузол підсумовування раптово запитує доступ на запис до SharePoint, валідатор упереджено каже – ні.
• 13:46
  Тепер – середовище виконання. Ось тут люди стають недбалими.
• 13:50
  Механізм-політик знаходиться поруч із виконавцем, а не за ним.
• 13:53
  Списки дозволів інструментів та доменів – це не документація, це примусові рішення.
• 13:57
  Під час виклику механізм перевіряє нашу відповідність або нашу відповідність активному принципу,
• 14:00
  токену внутрішнього ідентифікатора, областям дії, заявкам та правильно поширюється вниз по ланцюжку.
• 14:04
  Ніяких навколишніх суперсил.
• 14:06
  Токи не мають область дії, оновлюються, коли дозволено і ніколи не переносяться контрабандою через дружні ребра.
• 14:11
  Агент отримує доступ під час кожного виклику або він не викликає.
• 14:13
  Очищення, введення та виведення – це гігієна, а не необов'язковість.
• 14:17
  Запитувальне введення не є розумним, воно передбачуване.
• 14:20
  Кожне джерело вхідного контенту проходить через фільтри контенту, HTML-файли, скрубери розмітки
• 14:24
  та бранд-мауері інструкцій, які видаляють нісенітницю.
• 14:27
  Вивід проходить валідатори-схем.
• 14:30
  Якщо вузол обіцяв JSON, виконавець відхиляє прозу та запитує виправлення.
• 14:34
  Модель може сперечатися, валідатор не узгоджує.
• 14:37
  Він забезпечує дотримання типів, діапазонів та інваріантів.
• 14:40
  Пісочниця та сегментація містять радіус вибуху.
• 14:43
  Вузли, які викликають зовнішній код або ненадійні конектори, працюють в обмежених середовищах.
• 14:48
  Шлюзи АРІ з обмеженнями швидкості та мережовими політиками,
• 14:51
  що запобігають горизонтальному руху та контроль виходу, що дозволяє трафік лише до перевірених доменів.
• 14:56
  Ви не дозволяєте вузлу пошуку виявляти нове джерело даних у продакшені.
• 15:00
  Виявлення відбувається в розробці за тестами з підписаними оновленнями списку дозволених.
• 15:05
  Спостережуваність десь не реєструється, вона хірургічна.
• 15:08
  Трасування на рівні вузла записує вхідні дані, виходи, тривалість, повторні спроби та рішення з механізму політик.
• 15:12
  Ви співвідносите все під ідентифікатором запуску.
• 15:15
  Журнали аудиту незмінні та їм приписують, який принцип дозволив яку дію, з якими областями, в який час і чому політика це дозволила.
• 15:22
  Коли регулятор запитує, хто що зробив, ви не знизуєте плечима, ви шукаєте.
• 15:25
  Готовність до відповідності означає, що ваші докази нудні та повні.
• 15:28
  Виправлення та ризик третіх сторін є проблемами ланцюга поставок.
• 15:31
  Ставтеся до них відповідно.
• 15:32
  Сканування залежностей виконується для кожної збірки.
• 15:34
  Конектори та плагіни перевіряються, версії закріплюються та перевіряються на наявність розширення дозволів.
• 15:38
  Якщо ви імпортуєте специфікацію МСП або відкритого АРІ, ви перевіряєте, чи відповідають заявлені методи політиці найменших привілеїв, яку ви очікуєте.
• 15:45
  Ніяких кінцевих точок із підстановочними знаками, жодних прихованих шляхів запису, які вдають, що їх читають.
• 15:50
  Гігієна – це не гламур.
• 15:51
  Однак, це причина, чому ви спите.
• 15:53
  Валідація графа істинності перевершує інженерію хаосу, оскільки вона запобігає класам інцидентів, а не документує їхні наслідки.
• 16:00
  Ви все ще тестуєте режими збоїв, але робите це для підтвердження захисних огорож, а не для того, щоб виявити, що забули їх встановити.
• 16:05
  Давайте повернемо це до ментальної моделі.
• 16:07
  Статичні перевірки підтримують креслення в порядку.
• 16:09
  Ніяких неможливих шляхів, жодної осиротілої роботи, жодних витоків привілеїв.
• 16:13
  Захисні огорожі під час виконання підтримують поведінку в порядку.
• 16:16
  Кожен виклик автентифікуваний, авторизований, очищений та дотримується.
• 16:20
  Виконавець забезпечує дотримання обмежень графа, які визначає валідатор.
• 16:23
  Модель вона пропонує в межах і обрізається, коли блукає.
• 16:27
  Хіба це не важко? Тільки якщо вам подобаються порушення.
• 16:30
  Накладні витрати механічні та автоматизовані.
• 16:32
  Статична валідація виконується під час збірки та розгортання.
• 16:35
  Політика виконання – це допоміжна функція, швидка та локальна.
• 16:38
  Перевірки схеми займають мілісекунди.
• 16:40
  Витрати, які ви видаляєте, інциденти, ручні перевірки, модернізації перевершують мікрозатримку, яку ви додаєте.
• 16:46
  А результат вимірний.
• 16:47
  Менше несанкціонованих викликів, менше збоїв токенів і набагато менше розслідувань, чому це сталося після їх завершення.
• 16:54
  Ще один момент, який пересічний користувач пропускає.
• 16:57
  Валідація є компонувальною.
• 16:59
  Ви можете обгорнути сторонні інструменти проксів узлами, які забезпечують виконання контрактів і політик, не довіряючи самому інструменту.
• 17:04
  Ви можете сегментувати графіки зачутливістю, публічними, внутрішніми, обмеженими та просувати робочі процеси між рівнями лише після того, як валідація пройде для нової межі.
• 17:13
  Ось так ви безпечно масштабуєтеся.
• 17:14
  Безпека за дизайном – це не гасло, це властивість робочого процесу.
• 17:17
  Ви не сподіваєтеся, що агенти поводяться належним чином.
• 17:20
  Ви робите неправильну поведінку структурно-складною та операційно-видимою.
• 17:23
  З рейками на місці підключення Microsoft 365 Graph та Azure OpenAi – це не рулетка, це контрольована влада на ваших умовах.
• 17:30
  Тепер ми можемо говорити про проводку, а не про гасіння пожеж.
• 17:33
  Сценарій Microsoft M365 Graph плюс Azure OpenAi плюс Co-Pilot Studio.
• 17:39
  Зберемо акторський склад.
• 17:40
  Агент пошуку – дисциплінований бібліотекар, який отримує дані з Microsoft Graph лише з найменшими привілеями.
• 17:46
  Агент міркувань – модель Azure OpenAi, яка планує, розміщує дані та ніколи не працює поза межами своїх обов'язків.
• 17:51
  Виконавець – оператор, пов'язаний з політиками, який запускає інструменти з перевірками ідемпотентності та постумов.
• 17:58
  Валідатор – засіб видачі, схема, політика та забезпечення меж.
• 18:02
  Захисник-політик – допоміжний пристрій виконання, який пов'язує все з областями видимості EntraID та RBAC.
• 18:07
  Разом вони поводяться як компетентна команда, а не як потік комітету.
• 18:10
  Доступ до даних починається з граф, а не як з догадки.
• 18:12
  Агент пошуку зберігає реєстрацію програми з детальними областями видимості.
• 18:15
  Файли – читання для певного сайту.
• 18:17
  Пошта – читання для обмеженої поштової скриньки.
• 18:20
  Календарі – читання для календаря ресурсів.
• 18:22
  Без граф – читання, запис – всі героїчні дії.
• 18:24
  Запити використовують дельта та вибіркові поля для зменшення кількості корисних навантажень.
• 18:27
  Підкачка сторінок – це перший клас.
• 18:29
  Виконавець детермінувано слідує за наступними посиланнями з таймаутами, враховуючи обмеження сервісу.
• 18:33
  А коли трапляються помилки 429, відкат є математичним.
• 18:36
  Ніяких істерек, лише експоненціальне терпіння.
• 18:39
  Заземлення – це не вібрація, це конвейер.
• 18:41
  Отримуйте документи кандидати за допомогою пошуку граф або запитів списку.
• 18:44
  Виконуйте дедуплікацію за ідентифікатором елемента та етах версії, щоб не змішувати застарілі та поточні.
• 18:48
  Розділіть за семантичними межами, заголовками розділів, розривами слайдів, а потім додайте походження, диск, сайт, шлях, ідентифікатор елемента, дату останньої зміни та призначений хеш.
• 18:57
  Агент-міркувань бачить лише фрагменти плюс метадані та повинен виводити цитати, зіставлені з цими ідентифікаторами.
• 19:03
  Немає цитати, немає претензії.
• 19:05
  Виконавець забезпечує це як постумову перед будь-якою зовнішньою дією.
• 19:08
  Введіть Coopilot Studio для оркестрації.
• 19:11
  Ви визначаєте декларативні інструменти, пакети запитів граф, дії запису SharePoint, публікації Teams, надсилання Outlook, кожен за профсі-сервером з явними схемами та списками дозволів.
• 19:19
  Координація між агентами структурована.
• 19:21
  Агент пошуку надає інструмент наземного аналізу.
• 19:24
  Агент-міркувань запитує його з параметрами.
• 19:27
  Виконавець опосередковує, перевіряє та повертає контекст наземного аналізу.
• 19:31
  Контрольні точки людини є рідними.
• 19:33
  Вузол запропонованої дії призупиняє виконання, представляє план плюс посилання та вимагає схвалення.
• 19:38
  Схвалення підписується та реєструється.
• 19:40
  Відмова перенаправляє до безпечної альтернативи або ескалації.
• 19:43
  Токени та затримка керуються, а не видаляються.
• 19:46
  Вибірковий контекст означає, що ви передаєте лише відповідні фрагменти, а не весь ваш клієнт.
• 19:50
  Зведення попередньо обчислюється та кешуються з вбудовуваннями, ключами яких є кеш-контенту та дозволи.
• 19:55
  Змініть документ, змініть ключ, пропустіть кеш, переобчисліть.
• 19:58
  Потокові відповіді підтримують інтерфейс користувача активним, поки виконавець обробляє побічні ефекти лише після отримання повного дійсного плану схеми.
• 20:05
  Умови раннього виходу зупиняють цикл міркувань, коли впевненість плюс покриття досягають порогу.
• 20:09
  Жодних зайвих роздумів, оскільки модель здавалася поетичною.
• 20:12
  Аудит вбудовується.
• 20:14
  Кожна дія підписується принципалом служби або делегованим користувачем та позначається ідентифікатором виконання, інструментом, параметрами, редагується, де необхідно, областями та результатом.
• 20:23
  Незмінні журнали зберігаються у вашому стеку спостережуваності.
• 20:26
  Виберіть свій улюблений.
• 20:27
  І так, цитати зберігаються неушкодженими, тому ви можете перевірити, чи відповідь простежується до фактичного вмісту орендаря, а не до модельного закону.
• 20:39
  Невдача нормалізується та стає нодною.
• 20:42
  429 виконавець повторює спробу з тримтінням, а потім повертається до запиту з нижчою вартістю або зменшеного розміру сторінки.
• 20:47
  Застарілий кеш, валідатор виявляє невідповідні електронні теги та примушує до оновлення.
• 20:51
  Відмова в доступі, захист політики відхиляє з обґрунтуванням, пропонує шлях запиту на згоду або перенаправляє до відредагованого зведення, яке не витікає.
• 20:58
  Збій інструменту, граф оголошує альтернативи або паркує запуск у черзі мертвих листів з повним контекстом для виправлення людиною.
• 21:05
  Детерміновані резервні варіанти перетворюють інцидент на заявку.
• 21:08
  Тепер дуже короткий покруковий огляд.
• 21:10
  Користувач запитує, складіть зведення рішень дорожньої карти за минулий квартал із посиланнями.
• 21:14
  Агент міркування пропонує, використовуйте пошук у графі на певному сайті SharePoint та каналі Teams, фільтруйте за останнім кварталом, а потім синтезуйте.
• 21:21
  Валідатор перевіряє, чи відповідають запитувані області ролі агента.
• 21:24
  Вони відповідають.
• 21:25
  Виконавець здійснює виклики графів з підкачуванням та вибором полів, видаляє дублікати за ідентифікатором елемента, фрагментами та повертає контекст з походженням.
• 21:32
  Міркування створюють зведення з вбудованими цитатами, зіставленими з ідентифікаторами елементів.
• 21:36
  Валідатор перевіряє схему та цитати, проходить перевірку.
• 21:39
  З'являється контрольна точка людини зі зведенням та доказами.
• 21:41
  Той, хто затверджує, натискає «Гаразд».
• 21:43
  Виконавець публікує результат у тімс та надсилає електронні листи з зацікавленим сторонам.
• 21:46
  Кожна дія використовує ключі ефективності елементів, щоб повторні спроби не дублювали публікацію.
• 21:49
  Зверніть увагу на дисципліну.
• 21:50
  Жоден агент не винаходить інструмент, жоден вузол не перетинає домен поза своїм списком дозволених елементів.
• 21:55
  Токи не визначаються та поширюються правильно через EntraID, а не копіюються між вузлами.
• 22:00
  Модель ніколи не завершує успішне виконання.
• 22:02
  Виконавець доводить це за допомогою умов публікації на графі.
• 22:05
  Створено ідентифікатор повідомлення, оновив електронний тег елемента, ідентифікатор події календаря, а потім позначено завершення виконання.
• 22:10
  І так, ви можете безпечно розширити це, залучити плена, Viva або сторонні сервіси через MCP, або відкритий ARRI,
• 22:14
  але лише за проксі-інструментами зі суворими схемами та елементами керування виходом мережі.
• 22:18
  Оберніть кожен конектор однаковою логікою валідатора та захистом політик.
• 22:22
  Перехід між середовищами вимагає проходження валідації, що відповідають новим межам.
• 22:25
  Розробник для тестування для просування зі збільшенням обсягу, переглянутого, а не передбачуваного.
• 22:29
  Це архітектура Microsoft, виконана належним чином.
• 22:31
  Графіки для істини.
• 22:32
  Azure OpenAI для мислення, Co-Pilot Studio для оркестрації, виконавці для операцій, валідатори та політика для безпеки, а спостережуваність для доказів.
• 22:42
  Далі цифри, а не вібрації.
• 22:43
  Метрики допісляточність, затримка, вартість, адміністративні накладні витрати.
• 22:48
  Гарна архітектура, доведіть це.
• 22:50
  Цифри, а не вібрації.
• 22:51
  Спочатку базовий рівень агенти, що працюють лише з підказками, королеви драми.
• 22:55
  Точність непослідовна, тому що вони вигадують джерела та забувають цитати.
• 22:58
  Без обґрунтування ви отримуєте впевнену прозу, яка вказує в нікуди.
• 23:02
  Затримка хвоста жорстока.
• 23:04
  Один довгий ланцюг послідовних дзвінків для більш ретельного обдумування, кожен з яких роздутий надлишковим контекстом.
• 23:09
  Вартість зростає, тому що кожна черга надсилає повні стенограми та необроблені документи назад до моделі, як переплачена кур'єрська служба.
• 23:15
  Адміністративні накладні витрати.
• 23:17
  Високі.
• 23:17
  Інциденти, виправлення, таємничі збої та аудити, які здаються археологією з пов'язкою на очах.
• 23:22
  Тепер стан післязвиконавцями та перевіреними графіками.
• 23:25
  Точність стрибає, тому що претензії вимагають квитанцій.
• 23:28
  Обґрунтовані цитати, пов'язані з ідентифікаторами елементів графу, електронними тегами та підписаними хешами, означають, що відповідь, який не вказано походження, просто не проходить валідатор.
• 23:35
  Ефект миттєвий.
• 23:36
  Менше неправильних відповідей відправляється, менше циклів переробки та помітне підвищення рівня успішності завдань для наборів оцінювання.
• 23:42
  Коли твердження не може бути підтверджене, агент відхиляє з обґрунтуванням або запитує схвалення людини.
• 23:47
  Передбачуваність, можливість перегляду, безпека.
• 23:49
  Затримка стискається з трьох причин.
• 23:51
  По-перше, паралелізм, пошук, переранжування та вилучення цитат виконуються пліч-о-пліч, а потім синхронізуються на бар'єрному вузлі.
• 23:57
  По-друге, кешування, вбудовування та резюме, ключовані хешем контенту та областю дозволів уникають повторного обчислення того, що не змінилося.
• 24:03
  По-третє, достроковий вихід.
• 24:04
  Як тільки покриття та впевненість досягають порогу, грав зупиняє цикл.
• 24:08
  Порівняйте це з послідовним підказуванням, де модель відображає абзац, а ваші користувачі розмірковують про вихід.
• 24:13
  Вартість знижується, оскільки дисципліна токенів застосовується, а не благається.
• 24:16
  Виходи, обмежені схемою, запобігають безладному доступу.
• 24:19
  Вибірковий контекст передає метадані лише відповідним фрагментам, а не цілим сайтам.
• 24:23
  Коротші запити, менші відповіді, менше повторних спроб.
• 24:26
  Потенційність елементів виконавця та логіка від строчки дозволяють уникнути дублікатів викликів та втрачених циклів.
• 24:31
  Кінцевий ефект менше токенів на успішний результат та набагато менша дисперсія.
• 24:35
  Фінанси люблять зменшення дисперсії.
• 24:37
  Адміністративні накладні витрати зменшуються, оскільки спостережуваність спроєктована, а не імпровізована.
• 24:41
  Трасування на рівні вузлів та незмінні журнали згортають час інциденту для діагностики.
• 24:44
  Ви бачите, який вузол зазнав невдачі, чому механізм політики відмовив і що виконавець спробував далі.
• 24:49
  Повторювані розгортання скорочують роботу в моєму машинному театрі.
• 24:53
  Відповідність перестає бути сезонною кризою, оскільки кожен запуск вже містить хто, що, коли та чому.
• 24:58
  Давайте зробимо це конкретним за допомогою вимірювальної установки, яку ви можете реально запустити.
• 25:02
  Створіть оціночний набір репрезентативних завдань, запитань та відповідей з цитатами, підсумки з посиланнями та пропозицій, дій зі схваленнями.
• 25:08
  Для кожного визначено золоті відповіді або критерії прийняття.
• 25:11
  Виправте факти за допомогою зіставлених ідентифікаторів елементів, покриття цитат та дозволеної дисперсії.
• 25:15
  Інструментуйте СЛОП-50 та ПІ-95 насквізної затримки, витрати токенів на успішне завдання та коефіцієнти відхилення політик.
• 25:21
  Пов'яжіть кожну метрику зі трасами, щоб будь-яка регресія мала навігаційний шлях.
• 25:25
  Результати, яких слід очікувати, якщо дотримуватися архітектури, а не імпровізувати.
• 25:29
  Вища валідність відповідей, оскільки непідтверджені твердження ніколи не залишають проміжну стадію.
• 25:33
  Менша затримка ПІ-95, оскільки довгі хвости відсікаються паралельними вузлами та передчасними виходами.
• 25:39
  Менші витрати токенів, оскільки ви припиняєте доставляти новели та починаєте доставляти відповідні фрагменти.
• 25:44
  Менше сторінок для адміністраторів, оскільки більшість збоїв обробляються детермінованими резервними варіантами.
• 25:48
  І так, нудна метрика, про яку всі забувають.
• 25:51
  Успішний коефіцієнт завершення першого проходу більше прогонів завершується без допомоги людини.
• 25:55
  Вплив на бізнес, швидше вирішення проблем означають, що користувачі припиняють відкривати дублікати заявок.
• 25:59
  Передбачувані витрати означають складання бюджету без несподіваних затримок токенів.
• 26:02
  Впевненість у відповідності означає менше циклів аудиту, які порушують вашу дорожню карту.
• 26:06
  Неочевидна перемога – це репутаційна.
• 26:08
  Коли відповіді агента цитують контент орендаря, а посилання працюють, люди довіряють йому, використовують його та припиняють пересилати скріншоти, які починаються зі слів, чому він це сказав.
• 26:17
  Надавайте безпосередньо імперативну пораду, вимірюйте зв'язок трасування з метрикою, або ви будете керуватися думкою.
• 26:23
  Якщо ви не можете відкрити запуск і побачити, який саме вузол завищав токени або зупинив затримку, у вас немає спостережуваності, у вас є вібрації з позначками часу.
• 26:30
  Все змінюється, коли валідатор знаходиться між гарним планом і реальними діями.
• 26:34
  Точність стабілізується, затримка звужується, вартість вирівнюється, адміністратори сплять.
• 26:39
  Це не магія, це виконавці. Графіки та валідація виконують роботу, яку ви неправильно призначили підказкам.