Latest / M365.FM – подкаст про Microsoft 365, Copilot і ШІ українською / Azure AI Foundry Threads: як підготувати ШІ до роботи в компанії (ШІ-дубляж)

Transcript

Azure AI Foundry Threads: як підготувати ШІ до роботи в компанії (ШІ-дубляж) · M365.FM – подкаст про Microsoft 365, Copilot і ШІ українською

• 0:00
  Ось шокуюча частина, про яку ніхто не каже.
• 0:02
  Коли ви розгортаєте ші вежур Фаундрі, ви не просто запускаєте одну надвелику модель.
• 0:06
  Ви розміщуєте її в керованому середовищі виконання, де кожна важлива дія, повідомлення, виклики інструментів і кроки виконання записуються та відстежуються.
• 0:12
  Ви побачите, як потоки, запуски та кроки виконання формують паперовий слід, що робить експерименти придатними для аудиту та готовими до корпоративного використання.
• 0:17
  Це перетворюєші з непередбачуваної сили на дисципліновану систему, якою ви можете керувати.
• 0:21
  І як тільки ця структура встановлена, виникає головне питання, хто очолює цей цифровий загін.
• 0:26
  Знаюмтеся, командир загону.
• 0:28
  Коли ви налаштовуєте його у Фаундрі, ви не просто відкриваєте вікно чату.
• 0:31
  Ви призначаєте командира загону.
• 0:33
  Це не стажер, що клацає по автозаповненню.
• 0:35
  Це польовий капітан, створений для місій, що працюють за чітким дизайном.
• 0:39
  І цей дизайн зводиться до трьох основних елементів – моделі, інструкцій та інструментів.
• 0:44
  Модель – це мозок.
• 0:45
  Вона відповідає за логіку та мову, здатна аналізувати людські слова, планувати кроки та створювати відповіді.
• 0:50
  Інструкції – це бойовий наказ.
• 0:52
  Вони не дають мозку відхилятися від курсу, спрямовуючи його до результатів, які вам дійсно потрібні.
• 0:57
  А інструменти – це спорядження, виконання коду, пошукові конектори, арізвітності чи будь-яка сторонню систему, яку ви підключаєте.
• 1:04
  Агент Azure AI створений саме з цієї тріади.
• 1:07
  Без неї ви не отримаєте відтворюваності чи можливості аудиту.
• 1:10
  Ви отримаєте лише генерацію тексту без підтвердження дій.
• 1:12
  Давайте перенесемо це, наприклад, поля бою.
• 1:14
  Модель – це бойова підготовка вашого капітана.
• 1:16
  Він знає, як ворудувати мечем або виносити вирок.
• 1:19
  Інструкції – це брехінг перед місією.
• 1:20
  Захистити конвой.
• 1:21
  Витягнути дані з набору контрактів.
• 1:23
  Повідомити результати у визначеному форматі.
• 1:25
  Це тримає капітана сфокусованим та передбачуваним.
• 1:27
  Потім інструменти додають спеціалізацію.
• 1:29
  Гак для підйому на стіни – це як інтерпретатор коду для виконання аналітики.
• 1:33
  Захищена рація – це як SharePoint або власний MCP-коннектор, що подає актуальні дані в план.
• 1:38
  Коли ці троє поєднуються, агент не імпровізує.
• 1:40
  Він виконує місію з логами та контрольними точками.
• 1:43
  Foundry робить цей механізм практичним.
• 1:45
  У більшості чат-арі ви отримуєте лише модель і промп.
• 1:48
  І як тільки все починається, немає офіційного розуміння наказів чи оркестрації інструментів.
• 1:52
  Це як кинути капітана в поле без плану чи обладнання.
• 1:55
  Натомість сервіс агентів Foundry гарантує, що всі три рівні присутні.
• 1:59
  Ще краще те, що ви не прив'язані до одного мозку.
• 2:02
  Ви можете перемикатися між моделями в каталозі Foundry.
• 2:05
  GPT-4 для складної стратегії, можливо, легша модель для простих завдань або навіть Містрал чи Діпсік.
• 2:10
  Ви обираєте те, що відповідає місії.
• 2:12
  Ця гнучкість – різниця між універсальним стажером і командиром, здатним адаптуватися.
• 2:16
  Тепер уявіть ризики, якщо ці рівні відсутні.
• 2:19
  Результати стають суперечливими.
• 2:20
  Один підсумок контракту виглядає так, а наступний, ледь помітно, йому суперечить.
• 2:24
  Ви втрачаєте можливість відстеження, бо жоден структурований журнал не фіксує формування відповіді.
• 2:28
  Налагодження перетворюється на вгадування, оскільки розробники не можуть простежити ланцюжок міркувань.
• 2:32
  Для підприємства це недріб'язкова незручність.
• 2:34
  Це реальний ризик, що блокує довіру та впровадження.
• 2:37
  Foundry вирішує це досить просто.
• 2:38
  Механізми безпеки вбудовані в агента.
• 2:40
  Інструкції діють як незмінний збірник правил, якого необхідно дотримуватися.
• 2:43
  Набір інструментів можна суворо обмежити або розширити залежно від варіанта використання.
• 2:47
  Модель можна вільно змінювати, але завжди в межах структури, яка забезпечує підзвітність.
• 2:51
  Разом ця тріада забезпечує дисциплінованого командира загону,
• 2:54
  передбачувані результати, видимі кроки та можливість відповідального розширення
• 2:57
  за допомогою корпоративних конекторів і власних ARRI.
• 3:00
  Це не про рекламу щі як магічного співрозмовника.
• 3:02
  Це про те, що ваша організація отримує досвідченого офіцера,
• 3:05
  який веде журнали, виконує накази та має необхідне спорядження.
• 3:08
  І як будь-який хороший капітан, він ретельно записує все, що сталося під час кожної місії.
• 3:12
  Бо коли системи проходять аудит або трапляється збій, вам потрібен цей щоденник.
• 3:15
  У Фаундри цей щоденник має назву.
• 3:17
  Він називається «Потік Сред».
• 3:19
  «Потоки» – це журнал бойових дій.
• 3:21
  «Потоки» – це те місце, де починає формуватися звіт про місію.
• 3:24
  «Вежур Фаундри Потік» – це незвичайне вікно чату, яке зникає після закриття.
• 3:27
  Це постійна сесія розмови.
• 3:29
  Кожен обмін репліками між вами та агентом зберігається тут,
• 3:32
  незалежно від того, походить він від вас, агента чи іншого агента в системі з багатьма учасниками.
• 3:36
  Це журнал бойових дій, що зберігає тривалу історію взаємодій,
• 3:39
  яку можна переглянути довго після завершення чату.
• 3:41
  Справжня сила в тому, що «Потоки» – це не просто статичні стенограми.
• 3:44
  Це структуровані контейнери, які автоматично обробляють скорочення,
• 3:48
  утримуючи активний контекст у межах лімітів моделі та зберігаючи повний аудиторський слід.
• 3:52
  Це означає, що агент продовжує розуміти хід розмови,
• 3:55
  а підприємства зберігають постійний запис для перевірки.
• 3:58
  На відміну від більшості чат-додатків, тут нічого не зникає безслідно.
• 4:01
  Ви отримуєте безперервність для агента та управління для бізнесу.
• 4:04
  Записи в цьому журналі створюються на основі повідомлень.
• 4:06
  Повідомлення не обмежується лише простим текстом.
• 4:09
  Воно може містити зображення, файл електронної таблиці або блок згенерованого коду.
• 4:13
  Кожне з них має мітку часу та роль, користувач або асистент.
• 4:16
  Отже, коли ви перевіряєте потік, ви бачите не лише те, що було сказано,
• 4:20
  а й хто це сказав, коли і який тип контенту був задіяний.
• 4:23
  Уявіть офіцера з комплеєнсу, який відкриває запис і бачить точний текстовий запит,
• 4:27
  поданий вчора зображення графіка, яке агент створив у відповідь і час обох подій.
• 4:32
  Це більше, ніж пам'ять, це повноцінний реальний реєстр.
• 4:35
  Висловлюючись ігровими термінами, потік – це як блокнот у кампанії Dungeons & Dragons.
• 4:39
  Майстер-підземель записує, які міста ви відвідали,
• 4:41
  які китки кубиків були успішними та яку здобичу отримали.
• 4:43
  Без цього журналу гравці врешті-решт сваляться через забуті деталі.
• 4:47
  З ним суперечки зникають, тому що події задокументовані.
• 4:50
  Потоки роблять те саме для корпоративного щі.
• 4:52
  Вони запобігають суперечкам про те, що насправді зробив агент,
• 4:54
  оскільки все зафіксовано по порядку.
• 4:56
  А тепер поясню, чому цей запис має значення.
• 4:58
  Для аудиту та комплеєнсу потоки – це справжнє золото.
• 5:01
  Регулятори або внутрішні аудитори можуть відкрити такий запис
• 5:03
  і миттєво побачити повнопослідовність запит користувача, відповідь агента,
• 5:06
  які інструменти були використані та коли все відбулося.
• 5:08
  Для розробників ці самі записи працюють як режим налагодження.
• 5:11
  Якщо агент видав неправильний фрагмент коду,
• 5:13
  ви можете відмотати потік до моменту запиту
• 5:15
  і побачити, як саме він до цього прийшов.
• 5:17
  Обидві групи отримують прозорість і, я припускаю, уникають марнування часу.
• 5:20
  Порівняйте це із системами, які не зберігають розмови.
• 5:23
  Без потоків ви намагаєтеся відстежити поведінку
• 5:25
  за допомогою скриншотів або туманних спогадів.
• 5:28
  Це не спрацює, коли комплеєнс вимагає доказів
• 5:30
  або коли служба підтримки має відтворити помилку.
• 5:32
  Це як отримати вказівку переграти битву з боссом у грі,
• 5:34
  щоб потім усвідомити, що ви ніколи не зберігалися.
• 5:37
  Немає запису, немає доказів, немає сліду, немає виправлення.
• 5:40
  У критичній ситуації вам залишається лише заспокоювати
• 5:42
  зацікавлені сторони усними обіцянками.
• 5:44
  З потоками у фаундриви уникаєте цієї пастки.
• 5:47
  Кожна розмова стає структурованим доказом.
• 5:49
  Якщо робочий процес витягує юридичні формулювання,
• 5:52
  запис покаже оригінальний запит,
• 5:53
  конкретно згенеровану відповідь і те,
• 5:55
  чи були задіяні допоміжні інструменти.
• 5:56
  Якщо кілька агентів спілкуються між собою,
• 5:59
  щоб розподілити завдання, їхні листування також записуються.
• 6:02
  Корпорації можуть довести до тримання вимог,
• 6:04
  розробники – знайти помилки,
• 6:05
  а менеджери – бути впевненими,
• 6:06
  що результати роботи системи є підзвітними.
• 6:08
  Саме в цей момент потоки перетворюють хаотичні чати
• 6:10
  на щось готове до виробництва.
• 6:12
  Замість ефемерного спілкування вони створюють
• 6:14
  стабільну історію місій і рішень,
• 6:16
  фундамент, на який можна покластися.
• 6:18
  Але пам'ятайте, журнал – це лише щоденник.
• 6:26
  Запуск – це момент, коли агент обробляє цей запит
• 6:53
  за допомогою інструкцій, моделі та інструментів.
• 6:55
  Він може звернутися по додаткові дані,
• 6:57
  провести розрахунки або викликати інтерпретатор коду
• 6:59
  для створення артефакту.
• 7:00
  Мовою настільних рольових ігор потік –
• 7:02
  це ваша група, що планує ходи за столом.
• 7:04
  Запуск – це кидок на ініціативу, що розпочинає бій.
• 7:07
  Без цього нічого не рухається вперед.
• 7:09
  Ось що робить фаундри очевидним.
• 7:11
  Запуски – це не чорна скринька.
• 7:12
  Це виконання процесів, які контролюються
• 7:14
  та відстежуються за статусом.
• 7:15
  Зазвичай ви бачите такі статуси, як у черзі
• 7:17
  виконується, потребує дії, завершено або помилка.
• 7:20
  Приклади SDK часто опитують ці стани в циклі,
• 7:22
  подібно до того, як майстер гри перевіряє черговість ходів.
• 7:24
  Це дає вам видимість не лише того,
• 7:26
  що робиться, а й того, коли це відбувається.
• 7:28
  Але ось головне занепокоїння.
• 7:30
  Як дізнатися, що насправді відбувалося
• 7:32
  під час виконання.
• 7:33
  Можливо, відповідь виглядає нормально,
• 7:34
  але без деталей неможливо сказати,
• 7:35
  чи звертався агент до зовнішнього Арі,
• 7:37
  чи писав код, чи просто імпровізував текст.
• 7:39
  Така непрозорість небезпечна в корпоративному середовищі.
• 7:42
  Це все одно, що зайти на шахову партію,
• 7:43
  побачити дошку всередині гри і почути
• 7:45
  «Вірте нам, ходи були правильними».
• 7:47
  Ви не можете це відтворити.
• 7:48
  Ви не знаєте, чи був цей хід легальним.
• 7:50
  Кроки запуску RunSteps усувають ці здогадки.
• 7:52
  Кожен запуск записується крок за кроком,
• 7:54
  які вихідні дані моделі були згенеровані,
• 7:56
  які інструменти викликані, які розрахунки проведені
• 7:58
  та які повідомлення створені.
• 7:59
  Це шахова нотація для щі, пішак на І4, кінь на F6.
• 8:03
  Тільки тут отримати файл O10.02,
• 8:05
  виконати блок коду O10.03,
• 8:07
  повернути графік O10.04.
• 8:09
  Кожна дія записується по порядку,
• 8:11
  щоб ви могли відтворити її пізніше.
• 8:12
  Така структура – величезне полегшення для розробників.
• 8:15
  Без кроків запуску ви дивитеся на фінальну відповідь
• 8:16
  і не маєте уявлення, як вона з'явилася.
• 8:18
  Чи був пошуковий запит неправильним?
• 8:20
  Чи закрилася математична помилка?
• 8:21
  Вам залишається тільки вгадувати.
• 8:23
  З кроками запуску ви можете переглянути хронологію,
• 8:25
  виявити точне місце збою та виправити його.
• 8:27
  Налагодження перестає бути з догадками
• 8:28
  і стає криміналістикою.
• 8:30
  Це різниця між туманною битвою з босом,
• 8:32
  де незрозуміло, хто атакував, і бойовим логом,
• 8:34
  що показує кожен удар мечем чи закляття.
• 8:36
  Команди з комплеєнсу також виграють від цього.
• 8:39
  Коли аудитори питають, як було створено це резюме,
• 8:41
  ви знаєте.
• 8:42
  Вам не потрібно описувати міркування моделі абстрактними термінами.
• 8:44
  У вас є докази.
• 8:46
  Виклик інструменту, крок інтерпретатора,
• 8:48
  сформована відповідь, усе з мітками часу.
• 8:50
  Це перетворює пояснення на управління.
• 8:52
  Ви демонструєте докази замість того, щоб вигадувати історії.
• 8:54
  І корпорації це цінують, бо це перетворює ризики на підзвітність,
• 8:57
  а обіцянки – на докази.
• 8:58
  А для щоденних операцій етапи виконання
• 9:00
  створюють повторювані шаблони, на які можна покластися.
• 9:03
  Якщо робочий процес потрібно запустити повторно,
• 9:04
  ви можете дотримуватися тієї самої послідовності.
• 9:06
  Якщо результат оскаржується, ви можете його відтворити.
• 9:09
  У найкращому випадку запуски з повними кроками виконання
• 9:11
  дають вам аудиторні, відтворювані докази створення результатів.
• 9:14
  У найгіршому випадку в інших системах
• 9:15
  ви отримаєте лише хаотичний результат без жодного сліду.
• 9:17
  Ось чому ця частина життєвого циклу агента має значення.
• 9:20
  У вас є щоденник у потоках, активація у запусках
• 9:23
  та покроковий журнал у кроках виконання.
• 9:25
  Разом вони перетворюють імпровізаційний щі на підзвітного колегу,
• 9:28
  чиї дії можна відстежити, перевірити та захистити.
• 9:30
  Звісно, знання про те, що всі ці деталі існують,
• 9:32
  це лише частина загадки.
• 9:33
  Вам знадобиться спосіб взаємодії з цим,
• 9:35
  щось достатньо структуроване для запуску агентів,
• 9:37
  ініціювання процесів і читання кроків без потопання у викликах ARRI.
• 9:40
  І найцікавіше те, що для цього не потрібна сяюча командна панель.
• 9:43
  Консоль, яку використовує більшість,
• 9:45
  це щось звичне, надійне і менш гламурне.
• 9:48
  Мережа, арсенал та альянси.
• 9:50
  Арсенал та альянси перетворюють агента з балаку на напрацівника.
• 9:54
  В Azure Foundry цей арсенал представлений у вигляді інструментів практичних розширень,
• 9:58
  що дозволяють агенту перейти від слів до дій.
• 10:00
  Замість того, щоб просто описувати, як перевірити документ чи виконати розрахунок,
• 10:04
  агент може дійсно зробити це і повернути результат.
• 10:07
  Ця відмінність робить платформу цінною для реального бізнесу,
• 10:09
  а не просто вражаючою на демо-версії.
• 10:11
  Foundry надає вам три чіткі категорії можливостей.
• 10:14
  По-перше, це вбудовані інструменти.
• 10:16
  До них належать інтерпретатор коду, біндсерч, коннектори SharePoint і Microsoft Fabric,
• 10:21
  а також Azure і iSearch.
• 10:22
  Завдяки цьому агент може аналізувати дані, завантажувати файли,
• 10:25
  шукати корпоративний контент і навіть створювати діаграми чи звіти без додаткових налаштувань.
• 10:29
  Кожен із них розширює можливості від простої балакани недовідчутних робочих результатів,
• 10:32
  які можна перевірити та використовувати повторно.
• 10:34
  По-друге, ви не обмежені лише тим, що постачає Microsoft.
• 10:37
  Foundry дозволяє реєструвати власні інструменти через специфікації OpenARIE або протокол контексту моделі MCP.
• 10:43
  MCP особливо важливий, оскільки він діє як USB-C для ші інструментів.
• 10:46
  Замість ручного написання обгорток щоразу, коли ви підключаєте агентів до віддалених серверів MCP,
• 10:51
  система автоматично виконує пошук, версіоновання та виклик інструментів.
• 10:55
  Це значно зменшує витрати на інтеграцію, особливо якщо у вашому середовищі десятки систем, які потрібно поєднати.
• 11:00
  По-третє, кожен виклик інструменту у Foundry є прозорим для спостереження.
• 11:04
  Виклики реєструються на рівні кроків з ідентифікацією, вхідними даними, результатами та мітками часу.
• 11:07
  Це означає, що робота цих агентів з точки зору операцій – це не магія на довірі.
• 11:11
  Це реєстр.
• 11:12
  Ви можете точно бачити, що було викликано, переконатися у дотриманні прав доступу та зберігати постійні записи для відповідності вимогам.
• 11:17
  Щоб закріпити ці категорії, уявіть швидкий демонстраційний запуск.
• 11:19
  Ви завантажуєте CSV-файл як повідомлення у поті.
• 11:22
  Агент викликає інструмент інтерпретатора коду в межах своїх кроків виконання, обробляє файл і генерує діаграму.
• 11:26
  Цей артефакт повертається як прикріплене зображення, видиме безпосередньо у журналі потоку.
• 11:30
  Ви не писали парсер або засіб візуалізації самостійно.
• 11:33
  Ви дали інструкцію «Агент обрав інструмент», виконав його та повернув файл, який ви можете додати у звіт.
• 11:38
  Це не теорія, це задокументована поведінка у прикладах SDK.
• 11:42
  Де це справді відкриває можливості, так це корпоративна інтеграція.
• 11:45
  Інструменти можуть підключатися до логічних програм, що дозволяє агенту отримати доступ до понад 1400 наявних SAS та локальних конекторів.
• 11:51
  Замість перекодування адаптерів для платформ CRM, ERP або ITSM, ви налаштовуєте конектори, які вже використовує бізнес.
• 11:57
  Це гра на масштабування.
• 11:59
  Один агент може безпечно працювати в широкому ландшафті без написання вами крихких арі мостів.
• 12:04
  Наступне питання, яке ставить кожен, це безпека.
• 12:06
  Foundry вирішує це на базовому рівні.
• 12:08
  Коли інструменти підключаються до корпоративних систем, таких як SharePoint або Fabric, вони використовують автентифікацію від імені користувача, опосередковану Microsoft Entra.
• 12:16
  Якщо вчора у вас не було доступу до файлу, агент сьогодні магічно не омине цей захист.
• 12:20
  Ідентичність та дозволи залишаються незмінними, що є єдиним способом отримати схвалення від команд з питань відповідності.
• 12:24
  Кожен виклик також є відстежуваним.
• 12:26
  Хто його викликав?
• 12:27
  Що було надіслано?
• 12:28
  Що було отримано?
• 12:29
  Тож команди завжди мають підтвердження.
• 12:30
  За вдалого збігу обставин, цей набір інструментів робить вашу групу агентів чимось більшим, ніж просто іграшкою.
• 12:34
  Ви отримуєте одиниці, які можуть запитувати реальні дані, обробляти їх і діяти в межах правил вже знайомих і те відділу.
• 12:39
  Без цих опцій ви залишаєтесь із сеансом чату, який багато обіцяє, але ніколи не виконує справжньої роботи.
• 12:44
  Ось чому арсенал має таке ж значення, як і командир загону.
• 12:47
  Модель та інструкції можуть визначати хід до МОК агента, але без відповідально підключених та надійно задокументованих інструментів це лише напівзаходи.
• 12:53
  Завдяки вбудованому набору Foundry MCP розширюваності через відкритий арі та безпеці корпоративного рівня ви отримуєте дисципліновану силу, а не набір випадкових запитів.
• 13:02
  І це підводить нас до ширшої картини.
• 13:04
  Агенти у Foundry створені не як випадкові помічники чи іграшки.
• 13:07
  Вони розроблені як керовані оператори зі структурою, обліком навантаження та інструментарієм, що робить їх корисними у виробництві.
• 13:13
  Отже, тут ми завершуємо нашу кампанію.
• 13:15
  Час підбивати підсумки.
• 13:16
  Foundry – це не просто надсилання запитів до моделі.
• 13:18
  Це спосіб створення агентів, що мають мозок з від правил та набір інструментів, які можна повторно використовувати.
• 13:22
  І кожна їхня дія реєструється в потоках, запусках та кроках виконання.
• 13:26
  Для керівників розробки та фахівців із комплеєнсу головний висновок простий.
• 13:29
  Ми забезпечуємо відтворюване та аудитоване виконання за допомогою SDK, таких як нет, надаючи повний контроль та видимість життєвого циклу.
• 13:36
  Ваш наступний крок – запустіть тестовий проєкт, створіть базового агента, запустіть потік, а потім перевірте кроки виконання в SDK або на порталі.
• 13:42
  Так ви підтвердите, що ваші логи відповідають реальності.
• 13:45
  Якщо це допомогло вам зробити ідеальний деплой, підписуйтесь і вмикайте сповіщення.
• 13:49
  Або якщо ми приборкали ще один кластер, підписуйтесь, щоб тримати свій флот у строю.