Latest / M365.FM – подкаст о Microsoft 365, Copilot и ИИ на русском / Context engineering для Copilot Studio: как остановить галлюцинации и дрейф в Power Platform (ИИ-дубляж)

Transcript

Context engineering для Copilot Studio: как остановить галлюцинации и дрейф в Power Platform (ИИ-дубляж) · M365.FM – подкаст о Microsoft 365, Copilot и ИИ на русском

0:00
Ваш второй пилот не глуп. Вы его морили голодом. Нет схемы, нет правил, нет ограничений.
0:05
А потом вы жалуетесь на галлюцинации. Правда? Большинство сбоев Power Platform A связаны не с IQ-модели.
0:12
Это контекст, который вы создали. Вот что вы получите сегодня.
0:15
Повторяемый шаблон проектирования контекста для Copilot Studio и Power Automate,
0:19
который избавляет от галлюцинаций, устраняет расхождение между арендаторами и значительно сокращает задержку и стоимость.
0:24
Мы создадим шаблон системных сообщений, контрольный список для привязки схемы и шаблон конвейера извлечения.
0:30
Есть один слой, о котором все забывают. Слой политик, предотвращающий расхождение в управлении.
0:34
Мы его подключим и докажем это с помощью метрик «да» и «после».
0:37
Итак, начнем.
0:38
Проблема. Почему ваш второй пилот терпит неудачу? Это контекстная долгота.
0:41
Давайте точно определим проблему «контекстная долгота».
0:44
Это накопление отсутствующего или некачественного контекста, которое заставляет языковую модель гадать.
0:49
Вы игнорируете системные правила, не привязываетесь к датаверс,
0:51
оставляете инструменты неопределенными и игнорируете политики.
0:54
Затем вы шокированы, когда результаты начинают колебаться в разных клиентах.
0:58
Удивительно. Контекстный долг проявляется в виде четырех сбоев.
1:01
Во-первых, отсутствие системных правил, отсутствие идентификации, области действия, политики отказа.
1:05
Модель оптимизирована для того, чтобы быть полезной и многословной, а не для соответствия требованиям и точности.
1:09
Во-вторых, необоснованные данные.
1:11
Вы обращаетесь к таблице займов, не указывая имена сущностей, определения полей, связи или примеры записей.
1:16
В-третьих, неопределенные инструменты.
1:19
Вы просите обновить статус, но не предоставляете управляемый путь действия в Power Automate.
1:23
В-четвертых, отсутствие политик. Вы полагаетесь на «вибрации» вместо DLP, меток конфиденциальности и условного доступа.
1:29
Этот контекст гарантирует дрейф.
1:31
Доказательства повсюду.
1:32
Высокий уровень сбоев и отказов в корпоративном и и связан с выполнением и контекстом, а не с ограничениями модели.
1:37
Команды сообщают о галлюцинациях, несоответствиях, специфичных для конкретной среды,
1:41
и расходе токенов из-за чрезмерной выборки целых таблиц просто для подстраховки.
1:44
Вам нужна не более крупная модель, а основа.
1:46
Вот ментальная модель, которая решает эту проблему.
1:48
Четыре уровня – контекст, система, поиск, инструменты, политики.
1:51
Представьте это как реестр Windows для вашего агента.
1:54
Это не просто база данных, это основа.
1:56
Система определяет, кто является агентом и что он отклоняет.
1:59
Поиск предоставляет факты и схемы, поэтому он перестает придумывать поля.
2:02
Инструменты показывают точные действия, которые ему разрешено выполнять при минимальных привилегиях.
2:06
Политики обеспечивают соблюдение границ независимо от хитрых подсказок.
2:09
Удалите любой уровень, и результаты начнут колебаться.
2:11
Добавьте все четыре, и они зафиксируются.
2:13
Большинство разработчиков упускают из виду то, что среды – это граница безопасности в Power Platform.
2:17
Если ваша политика DLP блокирует смешивание бизнес-коннекторов с небизнес-коннекторами в продакшене, но не в разработке, вы создали две разные вселенные.
2:23
Глаза и руки вашего агента меняются в зависимости от среды.
2:25
Поэтому, да, результаты различаются между арендаторами и средами, потому что вы меняете мир под его ногами.
2:30
Позвольте мне описать типичный цикл сбоев.
2:32
Вы создаете агента Капайлот Студия.
2:34
Вы ставите перед ним расплывчатую цель – помощь в оформлении заявок на кредит.
2:37
Вы подключаете библиотеку документов в формате PDF, не извлекая структуру.
2:41
Вы не индексируете сущности датаверс, связи или метки конфиденциальности.
2:44
Вы пропускаете каталог инструментов и предполагаете, что Капайлот сам разберется.
2:48
Затем вы задаете вопрос.
2:49
Он отвечает общими формулировками политики и придумывает поле с названием «этап кредита», которого нет в вашей схеме.
2:54
Поздравляем, вы заплатили за токены, чтобы прочитать неправильное содержимое, и получили в ответ бессмыслицу.
2:58
Сравните это с более реалистичным подходом.
3:00
Тот же вопрос.
3:01
Но ваш уровень извлечения включает индекс схемы, сущность, заявка на кредит, статус поля, значение выпадающего списка, связи с заявителем и документом, а также примеры записей.
3:10
Агент явно ссылается на статус заявки на кредит и указывает допустимые значения.
3:14
Никаких догадок.
3:15
Разница не в модели, а в контексте.
3:17
Задержка и стоимость – симптомы одной и той же проблемы.
3:19
Избыточное извлечение целых таблиц из-за отсутствия фильтров на уровне полей приводит к резкому увеличению количества токенов и времени.
3:24
Расплывчатое извлечение заставляет модель пробираться через нерелевантные фрагменты.
3:27
Неопределенный верхний уровень не позволяет фильтровать намерения.
3:30
Вы платите за все, ничего не узнаете и все равно будете галлюцинировать.
3:32
Жестоко.
3:33
Отклонение от правил управления – это тихий убийца.
3:36
Без уровня политик, DLP, метод конфиденциальности, условного доступа поведения вашего агента постепенно расходится.
3:41
Коннектор переклассифицируется, гостевая учетная запись проникает в поток, журналы отключаются, а затем агент спокойно суммирует конфиденциальные заметки для небизнес-коннектора.
3:49
Вы не замечаете этого до недели аудита.
3:51
Отлично.
3:51
Вот решение.
3:52
И мы будем строить его шаг за шагом в этой серии.
3:55
Системный уровень – краткое версионированное системное сообщение, кодирующее идентификацию, область действия, отказ, осведомленность о схеме, правила использования инструментов и границы ведения журналов.
4:03
Создается для каждой среды с токенами для бизнес-единицы и сопоставления конфиденциальности.
4:07
Уровень извлечения – конвейер, который сначала подключается к датаверс с индексом документов в качестве вторичного источника, используя сегментацию с учетом сущностей, гибридный поиск, обрезку безопасности и фильтры на уровне полей.
4:19
Слой инструментов – тщательно подобранный каталог действий Power Automate с минимальными привилегиями, включающий шаблоны подсказок, определяющие схемы ввода, логику отказа и флаги конфиденциальности.
4:28
Слой политик – принудительное создание групп DLP, условный доступ, маскирование в реальном времени с помощью меток и административный аварийный выключатель.
4:34
Если вы ничего больше не запомните, запомните это.
4:36
Модели предсказывают текст. Вы создаете истину, силу и границы.
4:40
Ваша задача – контекст.
4:41
Модель – это механизм рендеринга.
4:43
Перестаньте винить рендерер в отсутствии у вас готового шаблона.
4:46
Первый слой – системный контекст, который не меняется. Шаблон плюс контрольный список.
4:49
Теперь мы прекращаем гадать и устанавливаем идентификацию.
4:52
Без явной области действия идентификации и правил отказа большие языковые модели по умолчанию ведут себя как очаровательные лабрадоры, приносящие все, угождающие всем и попирающие правила соответствия.
5:00
Вам нужен вышибала, а не золотистый ретривер.
5:02
Правда в том, что если ваше системное сообщение расплывчато, ваши выходные данные будут расплывчатыми.
5:06
Если ваше системное сообщение непоследовательно для каждой среды, ваши выходные данные будут меняться в зависимости от среды.
5:10
Поэтому мы сначала создаем основу.
5:12
Вот шаблон, который я использую.
5:14
Это кратко, версионировано и безжалостно.
5:16
Ваша роль – вы второй пилот операции по кредитованию для бизнес-подразделения в среде с именем среды.
5:21
Вы отвечаете только по вопросам кредитных заявок и связанных с ними процессов.
5:25
Область действия – придерживайтесь сущностей датаверс и помеченных документов в этой среде.
5:29
Если ответ требует внешних систем или непомеченного контента, откажитесь и предложите безопасный следующий шаг.
5:35
Тон – краткий, фактический.
5:36
Поля сайта должны точно соответствовать схеме.
5:39
Интити – филд.
5:40
Политика отказа.
5:41
Если запрашивается конфиденциальный контент с меткой «Emit Label List» в контексте, не связанном с бизнесом,
5:46
откажитесь с указанием причины и заблокируйте сводку отказа.
5:49
Осведомленность о схеме.
5:50
Отдавайте предпочтение индексу схемы датаверс.
5:52
Никогда не придумывайте поля.
5:53
Сопоставляйте синонимы с каноническими именами, используя предоставленный глоссарий.
5:59
Правила использования инструментов.
6:01
Вы можете вызывать утвержденные действия Power Automate только тогда,
6:04
когда намерение классифицируется как выполнимое с уверенностью Yellow Weight.
6:07
В противном случае отвечайте анализом.
6:09
Границы логирования.
6:11
Не отображайте персональные данные.
6:12
Суммируйте значения как замаскированные, если уровень конфиденциальности высок.
6:16
Этот шаблон заносится в пользовательские инструкции Copilot Studio.
6:19
Да, он параметризует имя среды, бизнес-единицу, список меток и MIP.
6:23
Свяжите их с переменными среды, чтобы среды разработки, UIT и продакшены
6:26
использовали одну и ту же логику с разными привязками.
6:29
Версия системного сообщения V1.3.
6:31
Указывайте версию в нижнем клон-титуле каждого ответа во время тестирования,
6:34
а также версию политики V1.3, чтобы отклонения были сразу видны.
6:37
Теперь контрольный список, потому что иначе вы что-нибудь забудете.
6:40
Цели.
6:41
Чего агент может достичь в одном предложении.
6:43
Целевая аудитория.
6:44
Кому он служит.
6:45
Кредитным специалистом, а не всей компании.
6:47
Определение.
6:48
Канонические имена сущностей и полей, а также синонимы.
6:51
Разрешенный контент.
6:52
Разрешенные классы данных и источники.
6:54
Запрещенные действия.
6:56
Все, что относится к нескольким арендаторам, не помечено или
6:58
связано с внешними бизнес-коннекторами.
7:00
Путь эскалации.
7:01
Когда передать запрос человеку.
7:03
Критерии и шаблон сообщения.
7:04
Рубрика оценки.
7:05
Как мы оцениваем результаты.
7:07
Точность полей.
7:08
Правильность отказа и ссылка на схему.
7:10
Напишите это простым языком, а затем жажмите.
7:12
Самая распространенная ошибка – это скрывать ограничения
7:15
под целым рядом текста политики.
7:16
Модель будет просматривать текст, как обычный стажер.
7:18
Действуйте аккуратно.
7:19
Еще одна классическая ошибка – встраивание ограничений
7:22
в запрос пользователя.
7:23
Нет, ограничения должны быть в системном сообщении
7:25
и оболочках инструментов, а не там, где пользователь
7:27
вводит текст.
7:28
И версия для каждой среды.
7:29
Разработчики могут быть снисходительными.
7:31
Производственные – нет.
7:32
Копирование одного системного файла между арендаторами
7:34
без токенов – это способ создания параллельных
7:36
вселенных.
7:37
Быстрое решение, которое можно сделать сегодня.
7:38
Создайте шаблон сообщения с переменными и привяжите
7:41
его при импорте решения.
7:45
Возьмите раздел «Глоссария», сопоставляющий распространенные
7:47
синонимы с каноническими полями – этапом, шагом,
7:49
фазой, статусом заявки на кредит.
7:50
Вы увидите, как исчезнут иллюзорные поля.
7:53
Реализация в Копайлот Студия проста.
7:55
Откройте пользовательские инструкции, ставьте шаблон,
7:57
добавьте переменные для имени среды, бизнес-единицы
8:00
и списка меток изображений и включите параметр «Всегда
8:02
включать».
8:03
Создайте примечание к набору инструкций для канонизации
8:06
схемы, на которые агент будет ссылаться перед ответом.
8:08
Затем добавьте абзац шаблона отказа.
8:10
«Я не могу поделиться отредактированным текстом
8:13
из-за метки политики».
8:14
Вот безопасная альтернатива.
8:16
Последовательность – это не магия, это шаблоны.
8:18
Финальный ограничитель – границы логирования.
8:21
Обратите внимание, что агент никогда не повторяет
8:23
необработанные конфиденциальные значения.
8:24
Когда ему необходимо сослаться на них, он использует заполнители
8:26
и предлагает действия инструмента, который обрабатывает
8:28
секреты с помощью действий с учетными данными в потоках.
8:30
Если вы ничего больше не запомните, запомните
8:32
это идентификация, область действия, отказ, схема,
8:34
инструменты, логирование.
8:35
Шесть строк.
8:36
Никакой драмы.
8:37
Второй уровень – извлечение, которое привязывается
8:40
к датаверс в шаблоне конвейера.
8:41
Идентификация установлена.
8:43
Теперь мы даем ему факты, которые он не может выдумать.
8:45
Извлечение – это то место, где большинство из вас включают
8:47
пожарный шланг и называют это привязкой.
8:49
Неверно.
8:50
Извлечение избирательно, оно учитывает сущности, и
8:52
да, оно сначала обращается к датаверс, потому что именно
8:55
там находится ваша истина.
8:56
Почему это важно?
8:57
Галлюцинации расцветают, когда модели приходится
8:59
выводить структуру.
9:00
Если она не может увидеть канонические определения сущности
9:03
и полей, она их изобретает.
9:04
Задержка и стоимость резко возрастают, когда вы удаляете
9:06
целые таблицы и PDF-файлы, потому что не отфильтрували
9:09
их по намерениям.
9:09
В результате – дорогостоящий шум.
9:11
Решение – конвейер, который отдает приоритет схеме
9:13
и отфильтровывает данные по безопасности.
9:15
Вот шаблон.
9:16
Два индекса.
9:16
Один – мозг.
9:17
Во-первых, индекс схемы для сущностей датаверс, полей,
9:20
связей, наборов параметров, бизнес-правил, а также небольшой
9:23
глоссарий синонимов.
9:24
Во-вторых, индекс документов для политик, стандартных операционных
9:26
процедур и справочных документов только после их структурирования.
9:29
Гибридный поиск по обоим индексам с фильтрацией
9:31
по безопасности по среде и пользователю.
9:32
Модель никогда не видит того, что пользователю не
9:34
разрешено видеть.
9:35
Это не рекомендация, это граница.
9:37
Давайте разберем индекс схемы.
9:39
Для каждой сущности – имя, описание, список полей
9:41
с типами данных, значение наборов параметров, связи,
9:44
отношение один ко многим, многие к одному и бизнес-правила,
9:47
влияющие на допустимые состояния.
9:48
Включить две отредактированные записи для каждой сущности
9:51
и один пример запроса, который сопоставляет естественный
9:53
язык с каноническими полями.
9:55
Добавьте карту синонимов – этап, шаг, фазу, статус
9:58
заявки на кредит.
9:59
Модель будет привязана к каноническим именам, потому
10:01
что вы передали ей карту.
10:02
Теперь перейдем к индексу документа.
10:03
PDF-файлы – это не священные тексты, это контейнеры.
10:06
Извлеките структуру перед индексированием.
10:08
Заголовки становятся разделами, таблицы – парами
10:10
ключ-значения.
10:11
Политики помечаются классификациями Microsoft Perview и метками MIP, поэтому
10:14
конфиденциальная информация машиночитаема.
10:16
Если файл не может быть разобран на разделы и поля, он
10:18
не должен быть в индексе.
10:19
Вы не создаете альбом для вырезок.
10:21
Ограничение по безопасности не подлежит обсуждению.
10:24
Уровень запросов индекса должен фильтровать по идентификатору
10:26
пользователя, среде и политике DLP.
10:28
Если разработчик разрешает определенные коннекторы,
10:29
а производительность нет, уровень извлечения отражает
10:31
это.
10:31
Один и тот же пользователь, разная среда, разное извлечение.
10:34
Это не оформление, это дизайн.
10:35
Разбиение на фрагменты прекращает разделение по количеству
10:37
страниц.
10:37
Разбивайте на фрагменты по логике сущностей.
10:39
Для схемы группируйте на уровне сущностей и связей.
10:41
Представьте себе 500-800 токенов на фрагмент с сохранением
10:44
списков полей.
10:45
Для документов обрабатывайте данные по разделам, сохраняя
10:48
заголовки и включая метаданные для навигации.
10:50
Заголовок, раздел, подраздел.
10:53
Цель – вернуть смысл, а не бессмыслицу.
10:55
Тактика повышения производительности, которую вы действительно
10:57
почувствуете.
10:57
Фильтрация на уровне полей.
10:59
Если намерение включает статус, не извлекайте все
11:01
определение сущности.
11:02
Извлекайте блок полей и соответствующие бизнес-правила.
11:05
Запрос маршрутизируется пока лучшим запросом в зависимости
11:07
от классификации намерений.
11:08
Запросы по схеме получают небольшое количество
11:09
ВК, 2 или 3.
11:10
Для поиска по документам может потребоваться 4 или
11:12
6 запросов.
11:13
Кэшируйте часто задаваемые вопросы и фрагменты схем
11:15
в памяти с коротким временем жизни, TTL, чтобы не платить
11:17
за одни и те же запросы весь день.
11:19
Установите ограничения на коннекторы и токены,
11:21
чтобы один нечеткий запрос не мог запустить сканирование
11:23
таблицы.
11:24
Пожалуйста, как это настроить в Капайлот Студия?
11:27
Установите датаверс в качестве основного источника
11:29
знаний.
11:29
Создайте источник данных, который будет генерировать
11:32
карточки схемы, сущности, поля, связи, наборы параметров,
11:34
правила, примеры, прикреплять к классификации области
11:37
действия и метки MIP в качестве свойств.
11:38
Добавьте свой индекс документов в качестве вторичного
11:40
источника с содержимым разделов.
11:41
Настройте гибридный поиск с переранжированием, который
11:43
отдает предпочтение совпадениям со схемой, а не повествовательному
11:45
тексту.
11:46
Если совпадение со схемой существует, повысьте его.
11:48
Если нет, вернитесь к документам.
11:50
Если ни того, ни другого нет, откажитесь или задайте
11:53
уточняющий вопрос.
11:53
Да, отказ лучше, чем вымысел.
11:56
Контрольный список для проверки схемы, который вы распечатаете
11:58
и приклеите к монитору.
11:59
Названия сущностей точно такие же, как в Dataverse,
12:02
описание полей на простом языке, связи, перечисленные
12:04
с указанием кардинальности, значения и значения наборов
12:06
параметров, примеры записей с замаскированными значениями,
12:09
бизнес-правила, примечания по обработке NUL, синонимы
12:12
к каноническим именам и оговорки по качеству данных.
12:14
Если чего-либо из этого не хватает, ваша проверка
12:16
схемы не полна.
12:17
Распространенные ошибки, индексирование PDF-файлов
12:19
без извлечения структуры – не делайте этого.
12:21
Игнорирование меток конфиденциальности – опасно.
12:23
Смешивание бизнес и небизнес-коннекторов в одном запросе
12:25
на получение данных, блокируемые DLP в продакшене, и ваше
12:28
удивление.
12:29
Другой пример – возврат 10 почти готовых фрагментов,
12:31
потому что вы не дедуплицировали заголовки.
12:33
Очистите свой фид.
12:34
Давайте быстро проведем мысленную демонстрацию.
12:36
Запрос – можем ли мы перевести этот кредит на окончательную
12:38
проверку?
12:38
Полный объем данных CDA загружен, а исходные данные
12:41
загружены.
12:41
Плохой конвейер получает три стандартных PDF файла
12:44
полиса и не имеет схемы.
12:45
Модель определяет этап кредитования.
12:47
Хороший конвейер – классификатор намерений направляет данные
12:50
к схеме, возвращает заявку на кредит.
12:52
Статус – разрешенные переходы через бизнес-правила и
12:55
имя действия Power Automate, которое изменяет статус.
12:58
Ответ указывает на разрешенные значения статуса и либо
13:00
предлагает действие, либо отклоняет его, если чувствительность
13:03
блокирует его.
13:04
Это основа.
13:05
И последнее – задержка.
13:06
Измеряйте время получения данных отдельно от времени
13:09
генерации.
13:09
Если время получения данных регулярно превышает 300
13:11
миллисекунд, ваши фильтры неверны или ваш индекс раздут.
13:14
Оптимизируйте это в первую очередь.
13:15
Модели работают быстро, ваша нерешительность – нет.
13:18
Если вы ничего больше не запомните, запомните
13:19
это.
13:20
Поиск – это не просто поиск, это курирование.
13:22
Dataverse – это основа.
13:24
Документы – это мускулы.
13:25
Прикрепите это и другое, отфильтруйте по безопасности,
13:28
и ваш агент перестанет гадать.
13:29
Третий уровень – инструменты и политики, обеспечивающие
13:32
управление.
13:33
Power Automate плюс DLP.
13:35
Он знает, что правда.
13:36
Теперь научите его, что он может делать безопасно.
13:38
Агент, который не может действовать – это чат-бот.
13:41
Агент, который действует без ограничений – это
13:42
утечка данных, ожидающая заголовков.
13:44
Вам нужна компетентность с пристегнутым ремнем
13:46
безопасности.
13:46
Представляем Power Automate, DLP и условный доступ.
13:49
Мускулы, ограждения и вышибалы у двери.
13:52
Вот принцип.
13:52
Действия явные, разрешенные и обратимые.
13:55
Мы не даем модели свободу.
13:57
Мы даем ей каталог глаголов.
13:59
Каждый глагол – это поток с узкой схемой ввода, ссылками
14:01
на соединения с наименьшими привилегиями и встроенной
14:03
логикой отказа.
14:04
Модель никогда не импровизирует право.
14:05
Она запрашивает глагол.
14:07
Начните с каталога инструментов.
14:08
Записи каталога выглядят так.
14:12
Флаги конфиденциальности, ссылка на соединение и возвращаемый
14:15
контракт.
14:15
Пример – обновление статуса кредита.
14:17
Назначение – переход заявки на кредит.
14:19
Статус – входные данные, строка идентификатора кредита,
14:22
перечисление целевого статуса.
14:24
Предварительные условия – целевой статус должен
14:26
быть допустимым переходом согласно набору правил.
14:28
Флаги конфиденциальности требуют, чтобы бизнес-коннектор
14:31
был помечен как внутренний.
14:32
Ссылка на соединение – минимальные кредиты и SVC.
14:35
Выучите малыша пользоваться ножницами, давая ему безопасные
14:37
ножницы, а не бензопилу.
14:38
Принцип минимальных привилегий не является необязательным.
14:41
Создайте выделенные учетные записи служб с минимальными
14:43
разрешениями датаверс для выполнения именно этого
14:44
действия.
14:45
Никаких широких прав доступа к таблицам, никаких злоупотреблений
14:47
властью на уровне владельца.
14:48
Храните учетные данные в ссылках на соединения,
14:50
привязанных к каждой среде.
14:51
Таким образом, разработчик использует фиктивные данные,
14:52
продакшн взаимодействует с реальностью, и ни один
14:54
из них не проникает в другой.
14:55
Если вы используете пользовательские настройки безопасности,
14:57
проверьте их как следует.
14:58
Теперь создайте шаблон потока с тремя стандартными
15:00
уровнями.
15:01
Первый уровень – проверка входных данных.
15:03
Проверка типов, сопоставление синонимов с каноническими
15:05
полями и отклонение неоднозначных или отсутствующих параметров
15:07
с помощью структурированного отказа.
15:08
Второй уровень – проверка политик.
15:10
Оцените метки MIP, членство в группах DLP и любые сигналы
15:13
условного доступа, которые вы предоставляете через
15:15
заголовки или контекст запуска.
15:17
Третий уровень – выполнение и маскирование.
15:19
Выполните минимально необходимые действия, замаскируйте
15:21
конфиденциальные значения в журналах и верните компактный
15:23
результат с идентификатором корреляции.
15:24
Шаблоны подсказок находятся перед этими потоками в
15:27
качестве оберта.
15:27
Они определяют, как агент запрашивает инструмент,
15:30
когда намерение меняет статус и уровень уверенности.
15:32
Восьмой уровень – вызов функции обновления статуса
15:34
кредита с идентификатором кредита и целевым статусом.
15:37
Если статус противоречит бизнес-правилам или блокам
15:39
конфиденциальности, откажитесь и сошлитесь на конкретную
15:41
политику.
15:41
Именно здесь большинство из вас терпит неудачу.
15:43
Вы передаете в потоке текст в свободной форме, как
15:45
будто на дворе 2019 год.
15:46
Надежная схема на входе, надежные результаты на выходе.
15:48
Помечайте переменные как конфиденциальные.
15:49
Входные данные, такие как номер социального страхования,
15:51
доход или любое поле с высокой степенью конфиденциальности,
15:53
хранятся в защищенных переменах.
15:54
Они никогда не отображаются в истории выполнения.
15:56
Используйте действия с учетными данными для всего,
15:58
что связано с аутентификацией.
15:59
Если потоку необходимо получить токен, учетные данные
16:01
извлекаются во время выполнения из защищенного хранилища,
16:04
они вставляются в подсказку и не помещаются в переменные
16:05
среды с именами, которые Пел не читает.
16:07
Да, люди так делают.
16:08
Не будьте такими.
16:09
Условный доступ – это взрослый человек в комнате.
16:11
Внедрите многофакторную аутентификацию – MFA.
16:13
Ограничьте выполнение совместимыми устройствами
16:15
или доверенными местоположениями.
16:16
Если ваша политика запрещает гостям запускать действия,
16:18
ваш инструмент-оболочка должен считывать идентификацию
16:20
вызывающего абонента и отклонять запрос с четким отказом.
16:22
Действие требует совместимого устройства в соответствии
16:24
с политикой.
16:25
Агент остается вежливым, политика остается твердой.
16:28
DLP – это мембрана.
16:29
Классифицируйте коннекторы на бизнес-цели,
16:30
не бизнес-цели и заблокированные.
16:32
Потоки в этом каталоге инструментов используют коннекторы только
16:34
для бизнеса.
16:35
Пытаетесь направить вывод в небизнес-цель?
16:37
Блокируется на уровне арендатора, а не только в вашем потоке.
16:39
Смысл в том, чтобы сделать неправильный путь физически
16:42
невозможным.
16:42
Вы зависите не от сдерживания разработчиков, а от физики.
16:45
Сегментация среды сохраняет ваше здравомыслие.
16:48
Разработка, тестирование, производство.
16:50
Разные данные, разные ссылки на соединения, одинаковые
16:52
названия инструментов, одинаковые схемы.
16:54
Это означает, что подсказки вашего агента не меняются,
16:56
меняются только привязки.
16:57
Вы тестируете в UAT с реалистичными метками и настройками DLP,
17:00
чтобы неожиданности не возникали в продакшене.
17:02
Если в среде разработки DLP ослаблен, а в продакшене
17:04
строгий, тестируйте оба варианта.
17:06
Различия преднамерены, а не случайны.
17:08
Уровень политик интегрирован в среду выполнения.
17:10
Встраивайте правила отказа, которые могут основываться
17:12
на метках в полученном контенте.
17:13
Если получение возвращает запись с пометкой «Конфиденциально»,
17:15
а запрошенное действие приведет к ее раскрытию
17:17
в внешней системе, оболочка инструмента отклоняет запрос
17:19
с указанием причины, закодированной в политике, и регистрирует
17:21
инцидент.
17:22
Маскирование в реальном времени заменяет значение
17:23
заполнителями в видимом тексте модели.
17:25
Модель никогда не видит необработанные секреты,
17:27
поэтому она не может случайно их раскрыть.
17:29
Это не недоверие, это гигиена.
17:30
Ведение журналов и аудит являются частью проектирования,
17:32
а не второстепенной задачей.
17:33
Включите журналы аудита для каждого потока.
17:35
Запишите, кто запросил действия, какие параметры
17:37
были переданы, замаскированы, какие проверки политик были
17:39
выполнены и результат.
17:40
Ежеквартальные проверки выявляют осиротевшие ресурсы,
17:42
чрезмерное совместное использование потоков и разрастание
17:44
коннекторов.
17:45
Удалите все, что принадлежало бывшему сотруднику.
17:47
Игнорируйте это, и вы в конечном итоге обнаружите
17:49
фантомный поток, записывающий данные в продакшн в 2 часа
17:51
ночи.
17:52
Прелестно.
17:53
Распространенные ошибки.
17:54
Передача секретов в запросах пользователей.
17:55
Мгновенное сожаление.
17:57
Запись персональных данных в сообщениях об успехе.
17:59
Тоже сожаление.
18:00
Создание потоков без версионирования запросов и схем.
18:02
Теперь ваш агент вызывает API, который изменился на
18:04
прошлой неделе.
18:05
Неуправляемые среды без DLP.
18:07
Поздравляю, ваш прототип — это абуза.
18:09
И моя любимая ошибка — смешивание бизнес и небизнес
18:11
коннекторов, потому что нам просто нужно было отправить
18:13
кому-то электронное письмо.
18:14
Нет, используйте корпоративную электронную почту или не
18:16
отправляйте электронные письма вообще.
18:17
Давайте поговорим об аварийном выключателе.
18:19
Вам нужен переключатель инцидентов в центре администрирования
18:21
или с помощью автоматизации, который отключает агента,
18:23
отключает инструмент или это и другое.
18:24
Когда происходит нарушение политики, вы не спорите,
18:26
останавливаетесь, проводите расследование и возобновляете
18:29
работу только с журналом изменений.
18:30
Скорость — это безопасность.
18:32
Как только вы это настроите, произойдет нечто предсказуемое.
18:34
Агент перестает давать пустые обещания, он предлагает
18:37
действия, которые он действительно может предпринять.
18:38
Когда политика отказывает, отказ является конкретным
18:41
и регистрируется.
18:41
Пользователи доверяют этому, потому что это последовательно.
18:44
И да, ваша аудиторская группа перестает следить,
18:46
как ястреб, потому что вы наконец-то предоставили
18:47
им телеметрию, которую стоит прочитать.
18:49
Комплексная разработка.
18:50
Копайлот Студия плюс Power Automate.
18:53
Метрики D и после.
18:54
Давайте соединим основу с конкретной реализацией.
18:57
Копайлот Поддержки кредитования.
18:59
Копайлот Студия занимается оркестровкой.
19:00
Датаверс – это истина, Power Automate – это руки.
19:03
Одна и та же архитектура в разработке, UAT и продакшене.
19:06
Разные привязки, одна и та же логика.
19:07
Шаг первый.
19:08
Примените системный шаблон.
19:09
В Копайлот Студия создайте пользовательские инструкции,
19:12
используя наш шаблон версии.
19:13
Привяжите имя среды.
19:15
UAT Бизнес Подразделение.
19:17
Розничное кредитование.
19:18
МIP.
19:19
Список меток.
19:20
Конфиденциально.
19:20
Строго конфиденциально.
19:22
На этапе глоссария.
19:23
Шаг.
19:23
Фаза.
19:23
Статус заявки на кредит.
19:25
Включить.
19:25
Вставьте в нижний колонн титул тестирование штамп политики
19:29
V1-3, чтобы было видно отклонение.
19:31
Шаг второй.
19:32
Создайте индекс схемы.
19:33
Сгенерируйте карточки схемы для сущностей.
19:36
Заявки на кредит, документы заявителя.
19:38
Включите поля, наборы опций, связи и отметьте две
19:40
записи образца для каждой сущности.
19:42
Добавьте бизнес-правила.
19:44
Разрешены переходы статуса.
19:45
Отправлено.
19:46
Первоначальная проверка.
19:47
Окончательная проверка.
19:48
Одобрено.
19:48
Отклонено.
19:48
Нет прямого перехода.
19:50
Отправлено.
19:50
Одобрено.
19:50
Опубликуйте в качестве основного источника знаний
19:52
в индексе документов, а также в качестве вторичного
19:54
источника информации стандартные операционные
19:55
процедуры СОП, разделы кредитной политики для каждого
19:57
представления, классификации, метки MIP, заголовки сохранены.
19:59
Шаг третий.
20:00
Настройте поиск.
20:01
Включите гибридный поиск с переранжированием, которое
20:03
повышает соответствие схемам.
20:05
Классифицируйте интенсивный поиск по схеме.
20:07
Поиск по политике.
20:08
Действовательные топы К2 для схемы 4 для документов.
20:11
Фильтры на уровне полей по намерению, термину, статусу,
20:13
доходу KYC.
20:15
Включите фильтрацию безопасности по пользователю и среде.
20:17
Наличные, высокочастотные фрагменты схемы с TTL 10 минут.
20:20
Шаг четвертый.
20:21
Настройте каталог инструментов.
20:23
Импортируйте управляемое решение с тремя потоками.
20:25
Получите сводку по кредиту.
20:26
Обновите статус кредита.
20:27
Запросите документ.
20:28
Каждый поток имеет входную схему, предварительные условия,
20:30
флаги конфиденциальности, наименьшие привилегии, ссылки
20:32
на соединения, привязанные к UAT.
20:34
Входные данные, помеченные как конфиденциальные, где
20:36
это уместно, включают журналы с маскированием и идентификаторами
20:38
корреляции.
20:39
Шаг пятый.
20:40
Добавьте обертки подсказок.
20:41
В Co-Pilot Studio создайте шаблоны вызова инструментов.
20:44
Когда намерение меняет статус и уверенность, вызовите
20:46
функцию обновления статуса кредита с идентификатором
20:49
кредита и целевым статусом.
20:50
Если целевой статус нарушает бизнес-правила, откажитесь
20:53
с кодом рубрики «Переход статуса BR».
20:55
Обертка отказа с кодом «Я не могу это выполнить из-за
20:57
метки политики».
20:58
Вот безопасный следующий шаг.
21:00
Цикл проверки.
21:01
Создайте набор тестов из 25 подсказок, неоднозначных,
21:04
враждебных и обычных примеров.
21:06
Переместите LA-4831 в раздел «Можем ли мы сразу перейти
21:09
к одобрению?»
21:09
Отправьте номер социального страхования заявителя его
21:11
брокеру по электронной почте.
21:12
Запустите на средах разработки UAT и продакшена.
21:14
Убедитесь, что выходные данные, канонические поля
21:16
сайта, действия предлагаются только тогда, когда это
21:18
разрешено, а отказы по политике являются конкретными
21:19
и регистрируются.
21:20
Сравните идентификаторы корреляции в журналах потоков
21:22
с расшифровками Copilot для подтверждения очлеживаемости.
21:25
До получения метрик из незакрепленной сборки
21:27
37% ответов ссылались на несуществующие поля.
21:31
Межпользовательское расхождение привело к появлению
21:33
трех разных названий статуса.
21:34
Средняя задержка составила 4,2 секунды из-за сканирования
21:38
таблиц.
21:38
Среднее потребление токенов на один вопрос-ответ составило
21:41
9800 токенов.
21:43
Два случая, когда политика чуть не была нарушена, когда
21:45
конфиденциальные заметки были перенаправлены
21:47
в некоммерческое место назначения, заблокированное
21:49
только системой DLP-арендатора.
21:50
После анализа метрик с использованием контекстно-ориентированных,
21:53
созданных полей во всем пакете, каноническая заявка
21:55
на кредит.
21:56
Статус указан в 100% ответов о статусе.
21:59
Средняя задержка снизилась до 1,6 секунды при извлечении
22:01
данных на уровне полей.
22:02
Среднее использование токенов на один вопрос-ответ
22:04
составило 3100.
22:05
Было совершено 4 попытки нарушения политики.
22:07
Все они были отклонены с указанием причин и зарегистрированы
22:10
с идентификаторами.
22:11
Одинаковые запросы в средах разработки, UAT, управления
22:14
и производства привели к идентичным ссылкам на поля.
22:16
Различия только в разрешенных действиях, как и предполагалось.
22:19
Небольшая микроистория.
22:21
Тестировщик спросил «Ускорить одобрение LA-501».
22:24
Ранее агент отвечал «Готово» и создавал иллюзию перехода.
22:28
Теперь ответка Pilot.
22:29
Отказано.
22:30
Переход статуса BR, отправленный на утверждение, недействителен.
22:34
Действительные переходы отправлены на первоначальную
22:36
проверку.
22:37
Затем предлагается обновить статус кредита до первоначальной
22:39
проверки.
22:40
Один клик, соответствующий требованиям путь, готовый
22:42
к аудиту.
22:43
Передайте активы.
22:44
Упакуйте файл шаблонов системных сообщений с токенами.
22:46
Контрольный список привязки схемы.
22:48
Шаблон конвейера извлечения данных в формате JSON, три шаблона
22:51
подсказок потока и файл сопоставления среды для
22:53
ссылок на соединения и меток.
22:54
Версионируйте все.
22:55
Храните в системе контроля версий.
22:57
При импорте переменные привязываются к каждой среде.
22:59
Никаких ручных правок в производственной среде.
23:01
Вы взрослые.
23:02
Разверните в UAT, запустите набор тестов, сделайте снимок
23:05
экрана, да и после, и предоставьте два скриншота.
23:07
Обоснованный ответ со ссылкой на статус заявки на кредит
23:10
и запись в журнале аудита, замаскированными входными
23:12
данными и идентификатором корреляции.
23:13
Это ваше доказательство для руководства без утечки
23:15
информации.
23:16
Теперь у вас есть основная идентификация, которая
23:18
не меняется, извлечение данных, которая не дает
23:19
сбоев, инструменты, которые действуют с минимальными
23:21
привилегиями и политики, которые отклоняют запросы
23:23
с подтверждением.
23:24
Это воспроизводимо, подлежит аудиту и быстро.
23:26
Шокирует то, что происходит, когда вы задаете модели
23:29
истину и границы.
23:30
Ключевой вывод.
23:30
Контекстная инженерия, извлечение данных из системы, инструменты
23:33
и политики превращают копайлот из многословного угадывателя
23:36
в управляемого члена команды, который размещает поля,
23:38
действует безопасно и точно отклоняет.
23:40
Сделайте эффективное дело прямо сейчас.
23:42
Клонируйте шаблоны, привяжите переменные среды, проиндексируйте
23:44
ваши данные относительно схемы, внедрите DLP и запустите
23:46
оценочный набор тестов на средах разработки, UAT и
23:48
продакшена.
23:48
Затем переведите на UAT с включенными тегами версий
23:50
и функцией аварийного отключения.
23:52
Если это сэкономило вам время, верните долготу, подпишитесь
23:54
и получите доступ к расширенному оценочному набору и пошаговому
23:57
руководству по оркестрации многоагентных систем.
23:59
Продолжайте!