Latest / M365.FM – подкаст о Microsoft 365, Copilot и ИИ на русском / Корпоративный ИИ на Power Platform и Azure OpenAI: архитектура, безопасность и управление за пределами демо-чат-бота (ИИ-дубляж)

Transcript

Корпоративный ИИ на Power Platform и Azure OpenAI: архитектура, безопасность и управление за пределами демо-чат-бота (ИИ-дубляж) · M365.FM – подкаст о Microsoft 365, Copilot и ИИ на русском

• 0:00
  Готовы к 10 дням погружения в Microsoft 365, Капайлот, ИИ, Азур и знакомство с людьми,
• 0:06
  создающими будущие работы. В этом январе конференция М365Кон возвращается,
• 0:11
  и мы расширяем масштабы. Присоединяйтесь к нам, прямые эфиры, реальные демо и практические
• 0:16
  знания от MVP и экспертов со всего мира. Никаких общих слайдов, никакой пустой болтовни.
• 0:22
  Мы решаем реальные задачи, Капайлот Студия, ИИ агенты, фабрик, безопасность, управление
• 0:28
  и автоматизация. Будь вы ИТ-специалист, разработчик или руководитель бизнеса,
• 0:33
  для каждого найдется подходящая сессия. За 10 полных дней вы изучите множество технологий
• 0:38
  и станете частью глобального сообщества. Смотрите в прямом эфире и используйте полученные
• 0:43
  знания в своей компании. Январь 2027 года, 10 дней, единое сообщество Microsoft.
• 0:49
  Регистрация уже открыта. Забронируйте свое место сегодня.
• 0:54
  Адрес m365con.net
• 0:59
  Присоединяйтесь на m365con.net. Увидимся в прямом эфире в январе.
• 1:05
  Задумывались ли вы, почему так много демо Power Platforms ИИ ограничиваются чат-ботами и не
• 1:11
  приживаются в реальных бизнес-процессах? Это видео покажет-то, что они упускают,
• 1:15
  как правильно связать Azure OpenAI с PowerApps и Dynamics 365, обеспечив безопасность,
• 1:21
  производительность и управление, необходимые для профессионального внедрения. Если вам
• 1:25
  нужно меньше магии и больше конкретики, вы по адресу. Помимо коннектора, реальная архитектура
• 1:32
  ИИ в Power Platform всегда начинается одинаково. Бизнес-пользователи видят эффектную демо,
• 1:37
  например, чат-бот для продаж, отвечающий за секунды, или приложение для поддержки,
• 1:41
  которое волшебным образом сортирует тикеты. И они думают, отлично, давайте встроим это в PowerApps.
• 1:47
  Коннектор готов, экраны светятся, и люди начинают представлять, как и выполняют всю рутинную работу.
• 1:52
  Но реальность быстро возвращает на землю. Коннектор работает для пары человек в демо. Но как
• 1:57
  только вы думаете, что создаете нечто грандиозное, появляются проблемы с производительностью,
• 2:02
  чат-боты начинают нести чепуху или утекают конфиденциальные данные. Именно здесь большинство
• 2:07
  и интеграции и стопорится. Виной тому миф, что добавление ИИ в Power Platform — это просто нажать
• 2:12
  плюс, добавить коннектор и связать с Azura OpenAI. Этот стереотип живуч, потому что на бумаге эти
• 2:17
  инструменты выглядят подозрительно простыми, если бы только это было самой сложной частью.
• 2:21
  Так что же на самом деле скрывается под капотом, когда вам нужно нечто большее,
• 2:24
  чем просто игрушка. Понимание того, где происходит настоящая магия ИИ — это разница между красивым
• 2:29
  демо и реальной автоматизацией бизнеса. В практически любой серьезной ИИ-системе на базе
• 2:33
  Power Platform участвуют четыре игрока. Во-первых, это сами PowerApps или Dynamics 365 — интерфейсы,
• 2:39
  с которыми работают пользователи и которые запускают каждый запрос к ИИ. Они собирают данные,
• 2:44
  сообщения клиента, результаты опроса, отзыв о продукте — все, для чего вам нужен интеллектуальный
• 2:49
  анализ. Но PowerApps не взаимодействуют с Azura OpenAI напрямую. И здесь на помощь приходит
• 2:54
  PowerAutomate, который координирует весь процесс. Каждый раз, когда пользователь нажимает кнопку или
• 2:59
  отправляет форму, поток PowerAutomate подхватывает данные, приводит их к нужному формату и направляет
• 3:03
  по адресу. Третий компонент — это конечная точка Azura OpenAI. Это настоящий мозг системы,
• 3:08
  который выполняет анализ тональности, создает краткие сводки текста или даже генерирует ответы
• 3:13
  клиентам. А где-то в глубине стека скромно расположилось решение Azura API Management,
• 3:17
  о котором незаслуженно забывают, пока что-то не пойдет не так. Это безопасность и ограничение
• 3:22
  нагрузки — грань между стабильной работой и переполнением системы. Давайте разберем,
• 3:26
  как эти части головоломки взаимодействуют друг с другом. Возьмем триггер, например,
• 3:30
  момент, когда пользователь в Dynamics 365 регистрирует звонок по продажам. Это запускает
• 3:35
  поток Power Automate. Поток не просто перемещает данные из точки А в точку Б, он может очищать текст,
• 3:40
  объединять контекст из других источников или скрывать поля в целях конфиденциальности перед
• 3:45
  отправкой запроса в Azura OpenAI. Этот путь имеет значение. Если поток работает медленно из-за того,
• 3:51
  что другие автоматизации потребляют ресурсы, в вашем приложении возникнут задержки.
• 3:56
  Если Power Automate не подготовит данные должным образом, например, в отзыве о продукте не хватит
• 4:00
  контекста или будет странное форматирование, ваша конечная точка OpenAI выдаст неверные
• 4:05
  результаты или, что еще хуже, начнет галлюцинировать. Таким образом, никакого интеллекта не
• 4:10
  получится, если на входе беспорядок. Все становится еще интереснее при добавлении
• 4:14
  Azura API Management. Пока все восторгаются интеллектуальными возможностями, немногие
• 4:18
  задумываются о том, кто и как часто должен иметь к ним доступ. API Management выступает в роли
• 4:23
  швейцара на входе. Он проверяет каждый запрос, применяет аутентификацию и следит за тем,
• 4:26
  чтобы использование системы оставалось в разумных пределах. Если вы не настроите политики
• 4:30
  ограничения трафика, одно неисправное приложение может отправлять тысячи запросов в час,
• 4:35
  перегружая экземпляр OpenAI или, что не менее, приятно, создавая огромный счет за АЗУ.
• 4:40
  Система также протоколирует действия пользователей, поэтому, если что-то сломается или кто-то
• 4:44
  нарушит правила, у вас будет след для расследования. Демонстрации никогда не показывают этих проблем.
• 4:50
  В коротких обзорах все оптимизировано для нескольких пользователей и идеальных сетевых условий.
• 4:55
  Но в реальном бизнесе существуют SLA, вопросы конфиденциальности данных и пороговые
• 4:59
  значения производительности, которые нельзя игнорировать. Например, вы запускаете PowerApp
• 5:04
  для отзывов о продажах со встроенным анализом тональности. Когда пользователей всего 10,
• 5:08
  все работает как часы, и вы получаете полезные результаты меньше, чем за секунду. Но в тот день,
• 5:12
  когда это число вырастет до 10 тысяч, возможно, после email-рассылки или слияния компаний,
• 5:17
  вы столкнетесь с 30-секундным ожиданием или ошибками, так как InPoint не будет справляться с запросами.
• 5:21
  Хуже того, вы можете обнаружить, что половина данных с отзывами внезапно перестала обрабатываться,
• 5:26
  потому что размер полезной нагрузки превысил лимиты Azure или политики безопасности в API
• 5:31
  Management не были усилены. Теперь вместо помощи отделу продаж ваш и конвейер блокирует их работу,
• 5:36
  и служба поддержки совсем не в восторге. Это тревожный звонок. Настройка коннектора – это лишь
• 5:41
  приглашение на архитектурную вечеринку. Настоящее событие – это понимание того,
• 5:46
  как взаимодействуют уровни и насколько хрупкой становится система при попытке масштабирования.
• 5:51
  Знание того, как PowerApps запускают оркестрацию, как потоки обрабатывают и защищают данные,
• 5:57
  как их интерпретируют и InPoints и как API Management служат барьером – вот что отличает бота в
• 6:03
  песочнице от корпоративного решения. Если вы понимаете только коннектор,
• 6:07
  вы всегда рискуете стабильностью и безопасностью. Любой может перетащить мышкой новую и демо в PowerApps.
• 6:14
  Создание чего-то, что выдержит работу с реальными пользователями и реальными данными,
• 6:17
  означает погружение в детали, а не просто использование готовых коннекторов. Поэтому,
• 6:22
  когда задача меняется с «пусть это просто повторяет текст» на «действительно решить мою бизнес-задачу»,
• 6:26
  интеллект должен стать гораздо умнее. Вот как мозги системы настраиваются на бизнес-результат.
• 6:31
  Настройка и для бизнеса, анализ тональности, суммаризация и многое другое.
• 6:36
  Если вы когда-либо пробовали Azure OpenAI в Power Platform, вы наверняка заметили кое-что странное.
• 6:41
  Один и тот же InPoint может выявить негатив в предложении, составить краткое
• 6:46
  изложение переписки или написать описание нового продукта, иногда за один день,
• 6:51
  используя один и тот же e-block. Но это не магия, и есть причина, по которой многие проекты
• 6:55
  рушатся в тот момент, когда вы пытаетесь делать что-то действительно полезное.
• 6:59
  Люди часто думают, что достаточно просто поменять пром и на этом закончить.
• 7:03
  Реальность. Для каждого бизнес-кейса нужен свой подход, и именно здесь фантазия
• 7:07
  подключил и работой рассыпается. Давайте поговорим о разнице между анализом тональности и генерацией
• 7:12
  текста. Допустим, вы хотите, чтобы ваше приложение Dynamics 365 помечало жалобы клиентов.
• 7:17
  Анализ тональности, очевидный первый сценарий, короткие входные данные, быстрые ответы,
• 7:22
  низкая стоимость и почти никакого контекста для отслеживания. И это работает, потому что Power
• 7:27
  Automate нужно передать на InPoint OpenAI лишь базовые данные, пару предложений и правильный промп,
• 7:32
  указывающий модели, что именно искать. Вы можете молниеносно обработать десятки записей,
• 7:37
  не опасаясь, что модель выйдет из-под контроля или истощит ваш бюджет. Такими потоками легко управлять,
• 7:42
  их легко ограничивать, и их почти никогда не нужно переписывать.
• 7:45
  Теперь перейдем к созданию сводок. Здесь ресурсы начинают расходоваться гораздо интенсивнее.
• 7:50
  Если ваше приложение PowerApp позволяет мини-джарам вставлять подробные заметки о встречах и получать
• 7:55
  связные резюме за секунды, запрос к OpenAI должен быть четко сформулирован и выдержан в нужном тоне.
• 8:00
  Даже в этом случае сводки не всегда бывают одинаково хороши. Если объем данных слишком велик,
• 8:06
  или исходный текст не структурирован, модель может выйти из образа и начать перефразировать
• 8:11
  вместо того, чтобы делать выводы или даже выдумывать детали, которых не было.
• 8:15
  Все сводится к настройке. PowerApp должен привести входные данные в порядок, убрать подписи,
• 8:19
  удалить форматирование и, возможно, разбить документ на части, если он слишком длинный.
• 8:23
  И это еще до того, как в дело вступит ИИ. Но по-настоящему сложно становится при
• 8:27
  полномасштабной генерации текста или классификации в больших объемах.
• 8:30
  Допустим, ваш отдел продаж хочет создавать персонализированные ответы на письма,
• 8:34
  на лету, или служба поддержки хочет классифицировать каждый запрос по типу проблемы.
• 8:38
  Многие не осознают, что запуск таких потоков и на тысячах записей совсем не то же самое,
• 8:43
  что в безоблачной демо-версии. Поток PowerAutomate должен последовательно обрабатывать
• 8:47
  огромные массивы данных. Конечная точка OpenAI оказывается завалена запросами,
• 8:52
  пропускная способность резко падает, а счет Azure начинает расти. Порой так быстро,
• 8:57
  что приходится подключать бухгалтерию. Главная ловушка здесь – считать эти процессы ИИ взаимозаменяемыми.
• 9:03
  Анализ тональности может стоить доли цента за запрос, но генерация длинных текстов значительно
• 9:09
  усложняет модель, расходует сотни токенов и требует больше времени на ответ. Добавьте к этому
• 9:15
  необходимость в пользовательских инструкциях. Возможно, другой тон или формулировки для разных
• 9:19
  клиентов. Каждое изменение требует точного проектирования запросов. Услышав фразу «проектирование
• 9:24
  запросов», люди думают, что это просто составление более удачных инструкций, но это больше похоже
• 9:27
  на настройку поискового алгоритма. Вы тестируете, получаете странные результаты и переписываете запрос.
• 9:32
  И каждый внесенный вами вариант влияет не только на результат, но и на время, стоимость и параметры
• 9:37
  безопасности вашего рабочего процесса. Это не теория. Слишком много примеров из реальной жизни,
• 9:42
  чтобы их игнорировать. Однажды компания создала поток Power Platform, который использовал OpenAI для
• 9:47
  сортировки обращений в службу поддержки, классификации по тональности и предложения готового
• 9:51
  ответа. На этапе тестирования все выглядело идеально. Проблемы начались, когда поток открыли для всех
• 9:56
  сотрудников поддержки, и конечная точка внезапно стала получать запросы по каждому тикету каждую минуту.
• 10:01
  Модель была настроена на общую генерацию текста, а не просто на простую классификацию.
• 10:06
  Итак, система проанализировала всю историю обращений и каждый раз писала многообзацные черновики.
• 10:11
  Затраты взлетели за ночь, рабочие процессы замедлились, а ИИ начал выдумывать информацию в своих
• 10:17
  предложениях. Никто не задумался, зачем для простой сортировки задач потребовалась
• 10:21
  конечная точка, настроенная на генерацию текста, а не на краткую классификацию.
• 10:25
  Потребовались часы расследования, прежде чем стало ясно, во всем виноваты настройки в Power
• 10:30
  Automate и конфигурация конечной точки. Если хотите контроля, начните с установки
• 10:35
  квот на потоки Power Automate и всегда очлеживайте использование запросов и токенов через портал
• 10:41
  Azure. Для быстрых задач, таких как классификация или анализ тональности, используйте параллельные
• 10:46
  потоки и самую простую модель, способную справиться с работой. Для генерации длинных текстов
• 10:51
  ограничивайте максимальное число токенов и частоту обращений пользователей к этим функциям.
• 10:57
  Регулярно проверяйте журналы, выявляйте всплески или аномалии как можно раньше. Если пропустить
• 11:02
  эти шаги, платформа напомнит о себе внушительным счетом или, что хуже, пользователи столкнутся с
• 11:07
  медленной работой приложений. Таким образом, правильная настройка ИИ – это не только обеспечение
• 11:12
  работоспособности решения, это поддержание стабильности бизнеса, предсказуемости затрат и
• 11:16
  адекватности результатов. Неверная настройка превращает ИИ из союзника в абузу в рекордно
• 11:21
  сроки. Теперь, когда вы внедрили интеллект в свои приложения, нужно решить, кто будет его
• 11:27
  использовать и как защитить конечные точки и данные в масштабе. Обеспечение безопасности потока
• 11:32
  Почему Azure API Management – ваш надежный щит? Вы могли заметить, что большинство демо-версий
• 11:38
  ИИ на платформе Power пренебрегают безопасностью, будто это просто формальность в конце. Но когда
• 11:43
  пилотные проекты переходят из песочницы в реальную эксплуатацию, быстро возникают новые риски.
• 11:48
  Внезапно конечная точка OpenAI начинает отвечать не просто на безобидные тестовые запросы. Это
• 11:53
  потенциальное окно ко всему, что открывает ваше приложение. Представьте рабочий процесс
• 11:58
  обслуживания клиентов, передающий данные через незащищенный API или чат-бота, ключ которого виден
• 12:04
  всем. Несколько ошибок могут оставить бизнес беззащитным перед несанкционированным доступом,
• 12:10
  утечкой данных или шквалом API запросов от злоумышленников. Это не гипотетическая угроза. Как только
• 12:15
  вы подключаете конечные точки Azure OpenAI, PowerApps или Dynamics 365, вы открываете доступ к мощному
• 12:20
  инструменту. Если кто-то чужой завладеет вашим API-ключом, например, найдя его в скрипте или
• 12:25
  тестовом потоке, он сможет отправлять запросы, получать ответы и увеличивать расходы.
• 12:29
  DDoS-атаки становятся реальной угрозой. Даже без злого умысла, неправильно настроенное приложение,
• 12:35
  зацикленное на неверной записи, может непрерывно нагружать ваш API. В обоих случаях вы столкнетесь
• 12:39
  не только с проблемами управления, но и с потенциально огромными расходами. И в зависимости от того,
• 12:44
  какие данные передаются по сети, возникают реальные риски нарушения нормативных требований.
• 12:47
  Именно здесь на помощь приходит Azure API Management, оставаясь зачастую в тени. Многие видят в нем
• 12:52
  лишь еще один ресурс Azure для настройки, но на деле это грань между порядком и хаосом.
• 12:56
  API Management выполняет задачи, которые не под силу Power Automate и самим коннектором. Он
• 13:01
  обеспечивает аутентификацию и авторизацию при каждом запросе, а не только тогда, когда вы не забыли
• 13:06
  это запрограммировать. Он ограничивает количество запросов к вашей конечной точке, а значит,
• 13:10
  ошибка разработчика или вышедший из-под контроля скрипт не поставят под удар ваш бюджет или
• 13:14
  репутацию. Кроме того, он ведет подробные журналы, предоставляя вам историю действий для ответов
• 13:19
  на вопросы о том, кто, что и когда запрашивал. Давайте обсудим реальный инцидент.
• 13:23
  Одна организация внедрила поток классификации клиентских писем на базе и в Dynamics 365 и передала
• 13:29
  ключ API в Power Automate. Ключ попал в общую папку с документацией и старательный, но неопытный сотрудник
• 13:35
  случайно создал рекурсивный цикл в своем тестовом приложении. За несколько часов тысячи вызовов API
• 13:40
  обрушились на конечную точку OpenAI, причем многие из них повторяли одни и те же записи.
• 13:44
  Счет за Азур неожиданно вырос, и только после тщательного изучения журналов команда поняла,
• 13:49
  что произошло. Худшим был не сам счет, а неопределенность относительно того,
• 13:53
  не попала ли конфиденциальная информация не в те руки. Если бы использовался API Management,
• 13:58
  цикл вызвал бы ошибку ограничения скорости задолго до эскалации ситуации,
• 14:02
  а улучшенное ведение журналов мгновенно выявило бы поток запросов.
• 14:06
  Политики API Management – это настоящая сеть безопасности. Вы можете установить лимиты скорости,
• 14:11
  например, максимальное количество обращений в минуту для пользователя. Вы можете ограничить
• 14:15
  вызовы по диапазону IP-адресов, чтобы разрешать запросы только от известных шлюзов Power Platform.
• 14:20
  Для организации со строгими политиками соответствия можно требовать заголовки или токены,
• 14:25
  уникальные для вашего бизнес-процесса, что делает сторонний доступ заметным и легко блокируемым.
• 14:30
  Все эти средства контроля созданы не для того, чтобы мешать пользователям,
• 14:35
  а чтобы быстрорастущие приложения с API не нарушило работу или, что еще хуже,
• 14:40
  не скомпрометировало данные клиентов. Здесь важно найти баланс. Политики безопасности
• 14:44
  должны быть достаточно строгими, чтобы предотвратить злоупотребление,
• 14:47
  но не замедлять нормальные бизнес-процессы. Если ограничение установлено слишком жестко,
• 14:51
  легитимные запросы начинают сбоить, и пользователи прибегают к обходным путям,
• 14:55
  например, отправляя одни и те же данные снова и снова.
• 14:58
  Именно здесь критически важны мониторинг и аналитика внутри API Management.
• 15:03
  Вы видите шаблоны использования, находите неудачные вызовы и корректируете политики,
• 15:08
  прежде чем пользователи заметят проблему. Итак, вы хотите, чтобы все сотрудники компании
• 15:12
  экспериментировали с функциями на базе EIF Power Apps и Dynamics 365, но вам нужен буфер,
• 15:17
  чтобы защитить данные и не допустить выхода затрат из-под контроля.
• 15:20
  Когда API Management берет на себя роль привратника, вы получаете нечто большее,
• 15:24
  чем просто защиту. Вы можете отслеживать внедрение, видеть, какие рабочие процессы действительно
• 15:28
  приносят пользу, а какие впустую расходуют ресурсы. Когда руководство спрашивает, кто,
• 15:32
  что, когда и как, у вас все записано. Когда масштаб использования вырастает с пяти человек
• 15:36
  в рамках пилотного проекта до тысяч пользователей в реальном приложении для продаж или поддержки,
• 15:41
  API Management гарантирует, что вы не просто откроете шлюзы в надежде на лучшее.
• 15:44
  Вы управляете трафиком предсказуемо. Секрет в том, что без надлежащего управления этими
• 15:49
  E-inpoint'ами большинство готовых к эксплуатации интеграции рушится при первом же столкновении
• 15:54
  с чем-то неожиданным. API Management позволяет перейти от идеи к корпоративному масштабу,
• 15:59
  не создавая скрытых рисков. Так что воспринимайте это не как водопровод, а как главные ворота.
• 16:04
  Конечно, даже лучший привратник работает только с тем, что ему дают. Защита E-inpoint'ов – это
• 16:09
  лишь одна сторона медали. Есть и более широкая картина – отслеживание использования,
• 16:14
  соблюдение бюджета и контроль за тем, чтобы правила соответствия требованиям не нарушались
• 16:18
  при обновлении приложений или смене политик. Именно тогда управление перестает быть опциональным
• 16:22
  и начинает направлять всю систему. Связующее звено управления – контроль затрат и сдерживание
• 16:27
  E. Если у вас когда-нибудь было так, что PowerApp за одну ночь превращалась из побочного проекта
• 16:31
  в любимый инструмент всех сотрудников, вы, вероятно, чувствовали внезапный страх,
• 16:35
  когда расходы начинали расти, а никто толком не понимал, кто должен держать ситуацию под контролем.
• 16:39
  Легко праздновать успешный запуск E. Анализ тональности тихо работает в фоновом режиме.
• 16:45
  Текстовые сводки экономят часы на отчетах. Но рано или поздно кто-то смотрит на счет от Азур
• 16:50
  или получает письмо от службы безопасности, и в комнате воцаряется тишина. Это первый
• 16:55
  признак пробела в управлении, и он проявляется почти всегда, когда приложение работает достаточно
• 17:00
  хорошо, чтобы люди продолжали им пользоваться. Этот паттерн почти универсален. Функции
• 17:05
  и подключены, инпоинты защищены, руководство одобрило бизнес-кейс, затем наплывают реальные
• 17:11
  пользователи, и все в среде становится намного сложнее. Кто контролирует доступ к инпоинтам Азура
• 17:17
  OpenAI? Сколько запросов поступает от каждого PowerApp, и все ли они вообще нужны?
• 17:23
  Где грань между экспериментами и автоматизацией, которая съедает бюджет? И поскольку все больше
• 17:28
  сотрудников создают или настраивают собственные автоматизации, контролировать то, что происходит
• 17:32
  за кулисами, становится все труднее с каждой неделей. Неконтролируемые расходы – это часто первая
• 17:36
  пожарная тревога в управлении. Азура идеально отшлеживает каждый токен, каждый вызов API и каждый
• 17:41
  гигабайт данных, проходящий через конечные точки OpenAI. Но если никто не следит за этими цифрами,
• 17:46
  расходы могут незаметно вырасти. Вы платите за использование, а контроль над ним теряется,
• 17:51
  когда гражданские разработчики искренне стремятся к инновациям, но не всегда знают,
• 17:56
  что их поток Power Automate обращается к конечной точке и тысячу раз в день.
• 18:01
  Большинство узнает об этом одинаково, срабатывает бюджетное уведомление или кто-то в финансовом
• 18:05
  отделе решает, что произошла ошибка в счетах. Игнорирование этого означает не только увеличение
• 18:10
  расходов, но и риск того, что кто-то закроет проект, чтобы остановить утечку средств,
• 18:13
  или, что еще хуже, руководство утратит доверие ко всему эксперименту с ИИ. Впрочем,
• 18:17
  дело не только в деньгах. Следом возникают вопросы соответствия требованиям. Даже если
• 18:21
  управление API контролирует вход, остаются вопросы о том, какие данные отправляются,
• 18:25
  как долго они хранятся и где могут оказаться их копии. Замаскировал ли разработчик персональные
• 18:30
  данные перед отправкой текста заявки в службу поддержки в Azure OpenAI? Есть ли запись о том,
• 18:37
  кто и к чему обращался? И соответствует ли это политике вашей организации? Аудиторов не впечатляют
• 18:42
  ответы в духе «Мы так думаем». В регулируемых отраслях один промах в соблюдении правил,
• 18:47
  например, отправка конфиденциальных данных для суммаризации текста без должной фильтрации,
• 18:51
  может остановить проекты на неделе или навлечь на компанию серьезные неприятности.
• 18:56
  Даже в менее регулируемых сферах IT специалисты нервничают, если кажется,
• 19:00
  что в облаке бесконтрольно циркулируют данные. Microsoft действительно старается упростить жизнь
• 19:04
  в этих вопросах. Azure Cost Management предоставляет вам панели мониторинга,
• 19:08
  оповещения и лимиты расходов. Тем не менее, кто-то должен устанавливать пороговые значения,
• 19:11
  отслеживать еженедельные всплески активности и нажимать паузу, прежде чем ситуация выйдет из-под
• 19:15
  контроля. Маркировка каждого ресурса, конечных точек и потоков и даже отдельных приложений
• 19:19
  PowerApps — это простой, но мощный способ отнести расходы на счет конкретной команды или направления
• 19:23
  бизнеса. Это также помогает при очистке ресурсов и составлении отчетов. Если автоматизация
• 19:28
  продолжает работать после завершения пилотного проекта, маркированные ресурсы сразу видны,
• 19:32
  и вы избегаете появления загадочных нагрузок, которые вечно всплывают во время проверок состояния.
• 19:37
  Что касается Power Platform, то Center of Excellence Start и Kit — это максимально близкий аналог
• 19:42
  центра управления E. Он сканирует ваш тенант на наличие всех потоков, пользовательских
• 19:47
  коннекторов, приложений и ботов, создавая инвентарный список, с которым можно работать.
• 19:52
  IT-отдел может настроить аналитику использования, отправлять оповещения при обнаружении
• 19:56
  подозрительных закономерностей и напоминать гражданским разработчикам о внутренних правилах
• 20:00
  работы. Некоторые организации используют его для создания регулярных отчетов об использовании API,
• 20:05
  о наиболее активных потоках и даже о том, кто и что разрабатывает.
• 20:08
  Набор инструментов КОИ нужен не только для наглядности. Она также предоставляет шаблоны для
• 20:12
  контролируемого развертывания, инициирует проверки для приложений с высоким уровнем риска и может
• 20:16
  обеспечивать соблюдение бизнес-политик, отключая или приостанавливая потоки, выходящие за рамки
• 20:20
  требований соответствия. Для быстрорастущей организации с десятками опытных пользователей эти защитные
• 20:25
  меры не позволяют ситуации выйти из-под контроля. Стоит отметить, что проблемы управления обычно
• 20:30
  возникают после успеха. Возьмем, к примеру, приложение для сбора отзывов клиентов,
• 20:34
  которое стало популярным гораздо быстрее, чем ожидалось. Использование удвоилось за неделю,
• 20:38
  а затем утроилось. В течение месяца расходы резко возросли. Счет от Азур заставил пересмотреть
• 20:42
  прогнозы, и выяснилось, что это же приложение без одобрения отправляло конфиденциальные данные
• 20:47
  в конечную точку и пришлось использовать временные скрипты и заплатки, но к тому моменту ситуация
• 20:51
  уже вышла из-под контроля. Процесс центра компетенции мог бы выявить рост на ранней стадии и инициировать
• 20:55
  проверку. Передовые практики накапливаются быстро. Всегда помечайте ресурсы тягами, устанавливайте бюджеты
• 21:00
  или мягкие лимиты даже для пилотных проектов. Проверяйте и аудируйте доступ к конечным точкам.
• 21:05
  Список тех, кто может подключаться к ресурсам, меняется по мере переформирования команд и изменения
• 21:09
  ролей. Документируйте, какие потоки отправляют какие данные и зачем. Это не бюрократия ради бюрократии.
• 21:15
  Это означает, что кто-то сможет ответить спустя недели или месяцы, как работает система и где
• 21:19
  проходят ее границы. Важно осознать, что управление – это не тот процесс, который можно один раз
• 21:23
  настроить и забыть. Модели меняются, бизнес-логика трансформируется, а правила конфиденциальности
• 21:27
  продолжают развиваться. Проверки и обновления должны быть регулярными. Надежное управление – это
• 21:32
  разница между функцией ИИ, которая «сдувается» под нагрузкой, и той, что устойчиво развивается по
• 21:37
  мере того, как бизнес начинает на нее опираться. И при наличии контроля ИТ-специалисты и бизнес-лидеры
• 21:42
  обретают уверенность для расширения экспериментов и внедрения инноваций.