Latest / M365.FM – подкаст о Microsoft 365, Copilot и ИИ на русском / Azure AI Foundry Threads: как подготовить ИИ к работе в компании (ИИ-дубляж)

Transcript

Azure AI Foundry Threads: как подготовить ИИ к работе в компании (ИИ-дубляж) · M365.FM – подкаст о Microsoft 365, Copilot и ИИ на русском

• 0:00
  Вот шокирующая правда, о которой никто не говорит. Развертывая и в Азур Фаундри,
• 0:04
  вы не просто запускаете громоздкую модель. Вы помещаете ее в управляемую среду исполнения,
• 0:08
  где каждое действие, сообщение, вызов инструмента и шаг выполнения регистрируются и отслеживаются.
• 0:12
  Вы увидите, как потоки, запуски и шаги формируют документальный след, делающий эксперименты
• 0:16
  прозрачными и готовыми для бизнеса. Это превращает и из непредсказуемого инструмента в
• 0:19
  дисциплинированную систему, которой можно управлять. И когда эта структура готова,
• 0:23
  возникает главный вопрос. Кто возглавит этот цифровой отряд? Знакомьтесь, командир отряда.
• 0:28
  Настраивая его в Фаундри, вы не просто открываете окно чата. Вы назначаете командира отряда.
• 0:33
  Это не стажер, который балуется автозаполнением. Это полевой капитан, созданный для выполнения
• 0:38
  задач по четкому плану. Этот план сводится к трем основным компонентам – модель,
• 0:42
  инструкции и инструменты. Модель – это мозг. Она отвечает за рассуждения и язык,
• 0:47
  умеет анализировать человеческую речь, планировать шаги и составлять ответы. Инструкции – это
• 0:51
  боевой приказ. Они не дают мозгу уйти в свободное плавание, фокусируя его на результатах,
• 0:56
  которые вам действительно нужны. Инструменты – это снаряжение, выполнение кода,
• 1:00
  поисковые коннекторы, апи-отчетности или любые сторонние системы, которые вы подключаете.
• 1:04
  Агент Azure AI строится именно на этой триаде. Без нее невозможно добиться воспроизводимости
• 1:09
  или подотчетности. Вы получите лишь генерацию текста без возможности проверки.
• 1:13
  Давайте перенесем это на пример из жизни. Модель – это боевая подготовка вашего капитана.
• 1:16
  Она знает, как владеть мечом или выносить суждения. Инструкции – это инструктаж перед миссией.
• 1:20
  Защитить конвой. Извлечь данные из набора контрактов. Предоставить результаты в заданном формате.
• 1:25
  Это делает действия капитана согласованными и предсказуемыми. Затем инструменты добавляют
• 1:29
  специализацию. Кошка для взятия стен – это как интерпретатор кода для аналитики.
• 1:33
  Защищенная рация – это как шарпойнт или коннектор MCP, передающий актуальные данные в план.
• 1:38
  Когда эти три элемента вместе, агент не импровизирует. Он выполняет миссию сведением логов
• 1:42
  и контрольными точками. Foundry делает этот механизм по-настоящему рабочим.
• 1:45
  В большинстве чат-апи вы получаете только модель и пром. И как только диалог начинается,
• 1:49
  нет никакого формального порядка или управления инструментами. Это все равно,
• 1:52
  что бросить капитана в поле без плана и экипировки. Напротив, сервис агентов Foundry гарантирует
• 1:58
  наличие всех трех уровней. Более того, вы не привязаны к одному мозгу. Вы можете переключаться
• 2:03
  между моделями в каталоге Foundry. GPT-4 для сложных стратегий. Возможно, более компактная модель
• 2:08
  для легких задач или даже Мистрал или Дипсик. Вы сами выбираете-то, что подходит для миссии.
• 2:12
  Это гибкость, разница между универсальным стажером и командиром, способным адаптироваться.
• 2:16
  Теперь представьте последствия, если этих уровней не будет.
• 2:19
  Результаты становятся противоречивыми. Одно резюме контракта звучит так, другое слегка ему
• 2:23
  противоречит. Теряется прослеживаемость, так как нет структурированного журнала,
• 2:27
  фиксирующего процесс получения ответа. Отладка превращается в угадайку, поскольку разработчики
• 2:30
  не могут восстановить цепочку рассуждений. Для предприятия это не просто мелкая неприятность,
• 2:34
  это реальный риск, который препятствует доверию и внедрению. Foundry решает эту задачу простым
• 2:38
  способом. Ограничители, guardrails, встроены в агента. Инструкции действуют как свод правил,
• 2:42
  которым необходимо следовать. Набор инструментов можно жестко ограничить или расширить в зависимости
• 2:46
  от сценария использования. Модели можно свободно менять, но всегда в рамках структуры,
• 2:50
  обеспечивающей подотчетность. Вместе этот ряд обеспечивает дисциплинированного командира
• 2:54
  отряда, предсказуемые результаты, прозрачные шаги и возможность ответственного расширения
• 2:57
  с помощью корпоративных коннекторов и пользовательских API. Это не попытка представить
• 3:01
  и как волшебного собеседника. Это демонстрация того, что ваша организация получает закаленного
• 3:05
  офицера, который ведет журналы, выполняет приказы и оснащен нужным снаряжением. И,
• 3:09
  как любой хороший капитан, он тщательно записывает все, что происходило в каждой миссии.
• 3:12
  Потому что, когда системы проходят аудит или случается сбой, вам нужен дневник. В Фаундри у
• 3:16
  этого дневника есть название. Он называется «Поток Трет». Потоки – журнал боевых действий.
• 3:21
  Потоки – это место, где начинает формироваться журнал миссии. Вазур Фаундри Поток – это необычное
• 3:25
  окно чата, которое исчезает при закрытии. Это сессия постоянного диалога. Каждый обмен информации
• 3:30
  между вами и агентом сохраняется здесь, будь то от вас, от агента или даже от другого агента в
• 3:35
  мультиагентной системе. Это журнал боевых действий, хранящий долговечную историю взаимодействий,
• 3:38
  которую можно просмотреть спустя долгое время после окончания чата. Настоящая сила в том,
• 3:42
  что потоки – это не просто статические транскрипты. Это структурированные контейнеры,
• 3:46
  которые автоматически управляют усечением, сохраняя активный контекст в пределах
• 3:49
  ограничений модели и обеспечивая при этом полный контрольный след. Это означает,
• 3:53
  что агент продолжает понимать ход беседы, пока предприятия сохраняют постоянную запись,
• 3:57
  доступную для проверки. В отличие от большинства чат-приложений, здесь ничто не исчезает в воздухе.
• 4:02
  Вы получаете непрерывность для агента и управление для бизнеса. Записи в этом журнале
• 4:05
  строятся из сообщений. Сообщение не ограничивается простым текстом. Оно может содержать
• 4:09
  изображение, файл электронной таблицы или блок сгенерированного кода. Каждая из них имеет метку
• 4:14
  времени и обозначение роли пользователя или помощника. Итак, изучая ветку обсуждения,
• 4:18
  вы видите не только сказанное, но и кто это сказал, когда это было и какой тип контента при этом
• 4:22
  использовался. Представьте, что сотрудник отдела комплайенса открывает запись и видит точный
• 4:27
  текстовый запрос, поданный вчера, изображение, диаграммы, созданное агентом в ответ и время
• 4:31
  обоих событий. Это больше, чем просто память, это полноценный журнал событий. Если использовать
• 4:35
  игровые термины, ветка обсуждения – это как блокнот в компании Dungeons & Dragons. Мастер игры
• 4:39
  записывает, какие города вы посетили, какие броски кубиков были удачными и какую добычу получили.
• 4:44
  Без этого журнала игроки в конечном итоге спорят из-за забытых деталей. С ним же споры исчезают,
• 4:48
  потому что все события задокументированы. Ветки обсуждений делают то же самое для корпоративного
• 4:52
  и они предотвращают споры о том, что именно сделал агент, так как все фиксируется по порядку.
• 4:56
  А теперь о том, почему эта запись важна. Для аудита и комплайенса ветки обсуждений – навес золота.
• 5:01
  Регуляторы или группы внутреннего аудита могут открыть одну из них и сразу увидеть всю
• 5:04
  последовательность, запрос пользователя, ответ агента, задействованные инструменты и время
• 5:08
  событий. Для разработчиков эти же записи работают как режим отладки. Если агент выдал неверный фрагмент
• 5:13
  кода, вы можете прокрутить ветку до момента запроса и увидеть, как именно он пришел к такому
• 5:16
  результату. Обе группы получают прозрачность и, полагаю, экономят время. Сравните это с системами,
• 5:22
  которые не сохраняют историю диалогов. Без веток обсуждений вам приходится отслеживать действия
• 5:26
  по скриншотам или туманным воспоминаниям. Это не работает, когда комплайенс требует доказательств
• 5:30
  или когда службе поддержки нужно воспроизвести баг. Это как если бы вас попросили переиграть
• 5:34
  битву с боссом, но вы осознали, что забыли сохраниться. Нет записи – нет доказательств. Нет следов – нет
• 5:39
  исправлений. В худшем случае вам остается лишь успокаивать стикхолдеров одними только устными
• 5:43
  обещаниями. С ветками обсуждений в Фаундри вы избегаете этой ловушки. Каждый диалог становится
• 5:48
  структурированным доказательством. Если рабочий процесс использует юридическую лексику, запись покажет
• 5:52
  исходный запрос, конкретный сгенерированный ответ и были ли вызваны вспомогательные инструменты.
• 5:57
  Если несколько агентов общаются между собой для распределения задач, их переписка также логируется.
• 6:02
  Компании могут подтвердить соблюдение требований, разработчики – найти баги, а менеджеры – доверять
• 6:06
  результатам работы системы. Именно здесь ветки обсуждений превращают хаотичные чаты в нечто готовое
• 6:11
  к промышленному использованию. Вместо мимолетной переписки они создают стабильную историю задач и решений,
• 6:16
  фундамент, на который можно положиться. Но помните, что лог – это все еще просто дневник. Реальные действия
• 6:20
  начинаются, когда агент берет написанное в ветке и приступает к непосредственному выполнению.
• 6:24
  Этот следующий этап – момент, когда миссии перестают быть записями на бумаге и начинают
• 6:28
  воплощаться в реальном времени. Запуски и шаги запуска – это бросок кубика. Запуски – это то,
• 6:32
  с чего миссия наконец начинается. В терминах «Foundry» поток содержит историю обсуждений,
• 6:36
  приказы, контекст и развернутые карты. Запуск – это триггер, который активирует агента,
• 6:40
  чтобы он взял этот контекст и приступил к исполнению. Потоки помнят, запуски действуют.
• 6:45
  Представьте запуск как кнопку «Пуск». Ваш поток может содержать команду «Проанализируй CSV-файл»
• 6:49
  или «Нарисуй линейный график». Но запуск – это момент, когда агент обрабатывает запрос с помощью
• 6:54
  инструкции моделей и инструментов. Он может запросить дополнительные данные, провести вычисления
• 6:58
  или вызвать интерпретатор кода для создания артефакта. В терминах настольных ролевых игр поток – это
• 7:02
  когда ваша группа планирует ходы за столом. Запуск – это бросок инициативы, с которого начинается бой.
• 7:07
  Без него ничего не сдвинется с места. Вот что «Foundry» делает очевидным. Запуски – это не черный ящик,
• 7:12
  это контролируемое исполнение с отшлеживанием статуса. Обычно вы видите такие статусы,
• 7:16
  как «В очереди», «В процессе», «Требует действий», «Завершено» или «Сбой». Примеры SDK часто опрашивают
• 7:21
  эти состояния в цикле. Точно так же, как мастер игры проверяет порядок ходов. Это дает вам
• 7:25
  понимание не только того, что сделано, но и того, когда это происходит. Но есть проблема посерьезнее.
• 7:30
  Откуда вам знать, что именно произошло внутри этого процесса исполнения? Возможно, ответ выглядит
• 7:34
  нормально, но без деталей вы не поймете, обращался ли агент к внешнему API, писал ли код или просто
• 7:38
  импровизировал с текстом. Эта непрозрачность опасна в корпоративной среде. Это равносильно тому,
• 7:42
  как если бы вы зашли на шахматный матч в середине игры, а вам сказали, поверьте,
• 7:45
  ходы были сделаны правильные. Вы не можете переиграть партию. Вы не знаете, был ли ход допустимым.
• 7:50
  Шаги запуска устраняют эти догадки. Каждый запуск записывается пошагово. Какие выходные данные
• 7:55
  модели были сгенерированы, какие инструменты вызваны, какие вычисления проведены и какие сообщения
• 7:59
  созданы. Это шахматная аннотация для ИИ, пешка на Е4, конь на F6. Только здесь получение файла в 10 часов 2 минуты,
• 8:05
  выполнение блока кода в 10 часов 3 минуты, возврат графика в 10 часов 4 минуты. Каждое действие
• 8:10
  записывается по порядку, чтобы вы могли воспроизвести его позже. Такая структура – огромное
• 8:13
  облегчение для разработчиков. Без шагов запуска вы смотрите на конечный ответ и понятия не имеете,
• 8:17
  как он был получен. Был ли поисковый запрос неверным? Закралась ли математическая ошибка?
• 8:21
  Вам остается только гадать. Благодаря шагам запуска вы можете прокрутить временную шкалу,
• 8:25
  найти конкретный сбой и исправить его. Отладка перестает быть гаданием и становится криминалистикой.
• 8:30
  Это как разница между туманной битвой с боссом, где неясно, кто атаковал, и логом боя,
• 8:34
  где виден каждый взмах меча и каждое заклинание. Команды по обеспечению соответствия требованиям
• 8:38
  тоже остаются в выигрыше. Когда аудиторы спрашивают, как, собственно, было создано это резюме,
• 8:42
  вам не нужно описывать логику модели абстрактными терминами. У вас есть доказательства. Вызов
• 8:46
  инструмента, шаг интерпретатора, сформированный ответ, все с отметками времени. Это превращает
• 8:50
  объяснение в систему управления. Вы предъявляете факты, а не выдумываете истории. И предприятие ценит это,
• 8:55
  потому что это меняет риски на подотчетность, а обещания — на доказательства. А в повседневных
• 8:59
  операциях шаги выполнения создают воспроизводимые шаблоны, на которые можно положиться. Если рабочий
• 9:03
  процесс нужно запустить повторно, вы можете следовать той же последовательности. Если результат
• 9:07
  оспаривается, вы можете его воспроизвести. В идеальном случае запуски с полными шагами
• 9:10
  выполнения дают вам проверяемые и воспроизводимые доказательства того, как были получены результаты.
• 9:14
  В худшем случае в других системах вы получите лишь случайный результат без какой-либо истории.
• 9:18
  Вот почему эта часть жизненного цикла агента так важна. У вас есть дневник в потоках, активация в запусках
• 9:23
  и пошаговый лоб в шагах выполнения. Вместе они превращают импровизирующий и в подотчетного члена
• 9:27
  команды, чьи действия можно отследить, протестировать и обосновать. Конечно, знание о том,
• 9:31
  что все эти детали существуют — это лишь часть головоломки. Вам понадобится способ взаимодействия
• 9:35
  с ними, нечто достаточно структурированное, чтобы запускать агентов, пригирить процессы и считывать
• 9:38
  шаги выполнения, не утопая в сырых апи-вызовах. И что удивительно, вам не нужна сияющая командная
• 9:42
  панель, чтобы это сделать. Консоль, которую использует большинство, — это нечто привычное,
• 9:46
  надежное и чуть менее гламурное сеть, арсенал и альянсы. Арсенал и альянсы — это то,
• 9:52
  что превращает агента из болтуна в работника. В Azure Foundry этот арсенал представлен в виде
• 9:56
  инструментов, практических расширений, позволяющих агенту перейти от слов к делу. Вместо того,
• 10:01
  чтобы просто описывать, как проверить документ или выполнить расчет, агент может действительно
• 10:05
  сделать это и вернуть результат. Именно это различие делает платформу ценной для реального
• 10:09
  предприятия, а не просто впечатляющей для демо-версии. Foundry дает вам три четкие категории
• 10:13
  возможностей. Первое — это встроенные инструменты. К ним относятся интерпретатор кода,
• 10:18
  поиск Bing, коннекторы SharePoint и Microsoft Fabric, а также Azure AI Search. Благодаря им агент
• 10:23
  может анализировать данные, извлекать файлы, искать корпоративный контент и даже создавать
• 10:27
  графики или отчеты без дополнительной настройки. Каждый из них расширяет возможности от простых
• 10:30
  чат-ответов до создания осязаемых рабочих продуктов, которые можно проверить и использовать
• 10:34
  повторно. Во-вторых, вы не ограничены только тем, что поставляет Microsoft. Foundry позволяет
• 10:38
  регистрировать собственные инструменты через спецификации OpenAPI или протокол
• 10:41
  модел-контекст-протокол MCP. MCP особенно важен, так как его считают аналогом USB-C для
• 10:46
  ИИ-инструментов. Вместо того, чтобы вручную писать обертки каждый раз при подключении агентов
• 10:50
  к удаленным серверам MCP, система автоматически берет на себя обнаружение, версионирование и вызов
• 10:54
  инструментов. Это значительно снижает накладные расходы на интеграцию, особенно если в вашей среде
• 10:58
  десятки систем, которые нужно объединить. В-третьих, каждый вызов инструментов Foundry является
• 11:03
  наблюдаемым. Вызовы регистрируются на уровне шагов с указанием идентификатора, входных и выходных
• 11:06
  данных, а также временных метров. Это означает, что работа этих агентов с точки зрения
• 11:09
  операций не просто черная магия. Это полноценный реестр. Вы можете точно увидеть, что было вызвано,
• 11:13
  подтвердить соблюдение прав доступа и вести постоянные записи для обеспечения соответствия
• 11:16
  требованиям. Чтобы закрепить эти категории, представьте демонстрацию быстрого запуска.
• 11:19
  Вы загружаете CSV-файл в виде сообщения в поток. Агент вызывает инструмент интерпретации кода в
• 11:24
  своих шагах выполнения, обрабатывает файл и создает график. Этот артефакт возвращается в виде
• 11:28
  прикрепленного изображения, доступного прямо в журнале потока. Вы не писали парсер или визуализатор
• 11:32
  самостоятельно. Вы дали инструкцию, агент выбрал инструмент, выполнил работу и вернул файл, который можно
• 11:38
  вставить в отчет. Это не теория, а задокументированное поведение в примерах SDK. По-настоящему это
• 11:43
  раскрывается в корпоративной интеграции. Инструменты могут связываться с логическими приложениями,
• 11:47
  что дает агенту доступ к более чем 1400 существующим SES и локальным коннекторам. Вместо переписывания
• 11:52
  адаптеров для CRM, ERP или ITSM-платформ вы просто настраиваете уже используемые бизнесом коннекторы.
• 11:57
  Это стратегия масштабирования. Один агент может безопасно работать в широком ландшафте без необходимости
• 12:02
  писать хрупкие API-мосты. Следующий вопрос, который задают все, это безопасность.
• 12:06
  Фаундри решает эту задачу в своей основе. Когда инструменты подключаются к корпоративным
• 12:10
  системам, таким как SharePoint или Fabric, они используют аутентификацию от имени пользователя
• 12:14
  через Microsoft Intro. Если вчера у вас не было доступа к файлу, сегодня агент не сможет магическим
• 12:19
  образом обойти это ограничение. Личность и права доступа остаются в силе, что является единственным
• 12:22
  условием для одобрения со стороны отделов комплайенса. Каждый вызов также отслеживается,
• 12:26
  кто его вызвал, что было отправлено, что было получено. Таким образом, у команд всегда есть квитанция.
• 12:30
  При удачном раскладе весь этот набор инструментов делает ваш отряд агентов чем-то большим,
• 12:33
  чем просто игрушкой. Вы получаете модули, способные запрашивать реальные данные,
• 12:37
  обрабатывать их и действовать в рамках правил, уже знакомых это отделу. При неудачном раскладе
• 12:40
  без этих опций у вас останется лишь сеанс чата, который много обещает, но ничего не делает.
• 12:44
  Вот почему арсенал значит не меньше, чем командир отряда. Модели и инструкции могут задавать
• 12:48
  направление мышления агента, но без ответственного подключения инструментов и надежного лагирования
• 12:52
  это лишь полумеры. Благодаря встроенному набору Фаундри, МСП, расширяемости через API и безопасности
• 12:57
  корпоративного уровня вы получаете дисциплинированную систему, а не набор случайных промптов.
• 13:01
  И это подводит нас к более масштабной картине. Агенты Фаундри созданы не для того,
• 13:05
  чтобы быть просто игрушками или случайными помощниками. Они спроектированы как управляемые
• 13:08
  операторы со структурой, учетом нагрузки и оснащением, делающим их полезными в реальной работе.
• 13:13
  Итак, на этом кампания завершается. Время подводить итоги. Фаундри — это не просто отправка
• 13:17
  запросов к модели. Это повторяемый способ создания агентов, у которых есть интеллект,
• 13:21
  свод правил и набор инструментов. И каждое их действие фиксируется в потоках,
• 13:24
  запусках и шагах выполнения. Для руководителей разработки и специалистов
• 13:28
  по комплаенсу главный вывод прост. Мы обеспечиваем воспроизводимое и проверяемое
• 13:31
  выполнение задач через SDK, предоставляя полный контроль и прозрачность жизненного цикла.
• 13:35
  Ваш следующий шаг — создайте тестовый проект, настройте базового агента, запустите поток,
• 13:39
  а затем проверьте шаги выполнения в SDK или на портале. Так вы убедитесь,
• 13:43
  что ваши логи отражают реальную картину. Если это помогло вам выбросить 20,
• 13:46
  при развертывании подписывайтесь и включайте уведомления. Или,
• 13:49
  если мы укротили еще один кластер, подписывайтесь, чтобы ваш флот всегда был в строю.