Latest / M365.FM – подкаст про Microsoft 365, Copilot і ШІ українською / Як зупинити галюцинації ШІ: RAG з опорою на дані в Azure AI Search (ШІ-дубляж)

Transcript

Як зупинити галюцинації ШІ: RAG з опорою на дані в Azure AI Search (ШІ-дубляж) · M365.FM – подкаст про Microsoft 365, Copilot і ШІ українською

• 0:00
  Ви натиснули, бо в подкасті було сказано, що Azure AI Foundry – це пастка, чи не так?
• 0:04
  Чудово! Ви в потрібному місці.
• 0:06
  Ось обіцянка з самого початку.
• 0:07
  Копілоти руйнуються без заземлення, але такі інструменти, як Rattrival Augmented Generation або REG,
• 0:12
  з гібридним та семантичним пошуком Azure AI, а також оцінювачі заземленості,
• 0:16
  релевантності та узгодженості – це фактичні виправлення, які не дають вам доставляти галюцинації,
• 0:21
  замасковані під відповіді.
• 0:22
  Ми пройдемо повз маркетингові колоди та покажемо вам посібник з виживання з реальними прикладами з практики.
• 0:27
  Підпишіться на розсилку M365 Show та слідкуйте за прямими трансляціями з MVP.
• 0:32
  Саме там живуть шрами та виправлення.
• 0:34
  А оскільки перші тріщини зазвичай з'являються в мультимодельних додатках, почнемо звідти.
• 0:38
  Чому мультимодельні додатки зазнають невдачі в реальному світі?
• 0:41
  Коли ви бачите мультимодельну демонстрацію на сцені, вона виглядає бездоганно.
• 0:44
  Ведучий додає текстову підказку «Чисте зображення», можливо, навіть швидкий голосовий від, і модель видає ідеальну діаграму або чіткий зведений опис контракту.
• 0:51
  Все це схоже на магію, але щойно ви спробуєте те саме в реальній компанії, близьк швидко зникає.
• 0:56
  Демонстрації працюють на бездоганних вхідних даних.
• 0:58
  Робочі місця працюють на смітті.
• 1:00
  Ось у чому справжній розкол.
• 1:01
  У виробництві ніхто не надає вашій моделі ретельно підготовлені скріншоти чи CSV-файли, відформатовані комітетом зі стандартів.
• 1:07
  Відділ кадрів здає її розмиті державні посвідчення особи.
• 1:10
  Закупівлі затягують PDF-файли, які вже працюють на п'ятому поколінні факсів.
• 1:13
  Хтось у фінансовій сфері фотографує рахунок фактуру з ламаною камерою Android.
• 1:17
  Мультимодельні моделі можуть обробляти текст, зображення, голос та відео,
• 1:21
  але їм потрібні добре індексовані дані та пошук, щоб працювати в незручних умовах.
• 1:24
  В іншому випадку ви просто просите модель імпровізувати на смітті.
• 1:27
  І жодні витрати на графічний процесор не виправляють сміття на вході та на вигоді.
• 1:31
  Ось тут вас має врятувати розширена генерація пошуку або ганчірка.
• 1:35
  Простими словами, модель не знає вашого бізнесу, тому ви підключаєте її до джерела знань.
• 1:39
  Вона отримує фрагмент даних і формує відповідь навколо нього.
• 1:42
  Коли збіг є чітким, ви отримуєте корисні обґрунтовані відповіді.
• 1:45
  Коли все не дбало, модель вередує, виплювуючи впевнену нісенітницю.
• 1:48
  І ось так ви отримуєте чат-бота, який лається, що у вашої компанії нова політика знижок за третій квартал, якої не існує.
• 1:54
  Вона не стала розумною, вона просто витягла неправильні дані.
• 1:57
  Azure AI Studio та Azure AI Foundry спираються на цей шаблон і підтримують усі типи модельностей,
• 2:02
  мову, зір, мовлення, навіть пошук відео.
• 2:05
  Але заковика в тому, що ганчірка настільки хороша, наскільки хороші її дані.
• 2:08
  Ось головний момент, який більшість команд пропускають.
• 2:10
  Ви не можете просто підключити один метод пошуку та назвати його хорошим.
• 2:13
  Якщо ви хочете, щоб результати залишалися цілісними, вам потрібен гібридний пошук за ключовими словами та вектором,
• 2:17
  доповнений семантичним переранжирувачем, вбудованим у пошуке Azure AI.
• 2:19
  Це дозволяє системі збалансувати буквальні збіги ключових слів із семантичним значенням,
• 2:23
  а потім перевпорядкувати результати так, щоб правильний контекст був зверху.
• 2:26
  У вашій мультимодельній конфігурації модель раптово може пережити криві сканування та розмиті зображення,
• 2:30
  замість того, щоб галюцинувати вашу політику відповідності з повітря.
• 2:33
  Тепер давайте поговоримо про те, чому так багато розгортань зазнають невдачі.
• 2:37
  Підприємства очікують відшліфованих результатів з першого дня, але вони не закладають у бюджет цикли оцінювання.
• 2:42
  Без перевірок на обґрунтованість, релевантність та узгодженість, що виконується у фоновому режимі,
• 2:46
  ви не помічаєте дрейфу, доки користувачі вже не перегорять.
• 2:48
  Багато ранніх розгортань швидко зазнають невдачі саме з цієї причини.
• 2:51
  Вихідні дані здаються правильними, але ніхто не перевірив їх на відповідність джерелу.
• 2:55
  Подумайте, ви ніколи не розгорнете нову базу даних без моніторингу.
• 2:58
  Однак, завдяки мультимодельному штучному інтелекту, керівники запускають його у виробництво,
• 3:01
  Це не обов'язково має закінчуватися невдачею.
• 3:05
  Карвана – одна з історій клієнтів, яка доводить цю думку.
• 3:08
  Вони зробили штучний інтелект самообслуговування справді корисним,
• 3:11
  налаштувавши пошук, належним чином заземливши своїх агентів та інвестуючи у спостережуваність.
• 3:15
  Це перетворило те, що могло бути черговим іграшковим ботом на щось, чому клієнти могли б довіряти.
• 3:20
  Тепер переверніть це до компаній, які розмістили універсального чат бота
• 3:23
  на своїй сторінці підтримки без заземлення чи оцінювання.
• 3:25
  Ви бачили результат.
• 3:27
  Гарантійні претензії неправильно подані як потенційні клієнти,
• 3:29
  черги підтримки роздуті, а довіра знищена.
• 3:31
  Той самий стеки ежур – протилежний результат.
• 3:33
  Отже, ось суцільний підсумок.
• 3:35
  Мультимодельний бізнес руйнується не тому, що штучний інтелект недостатньо розумний.
• 3:38
  Він руйнується тому, що дані не підготовлені, не проіндексовані або не контролюються.
• 3:42
  Завантажуйте сміття в систему пошуку, пропускайте оцінювання та спостерігайте, як згорає довіра.
• 3:46
  Але за допомогою гібридного пошуку, семантичного переранжування та постійних запусків оцінювачів
• 3:50
  ви можете обробляти рахунки фактури, контракти, зображення, навіть приблизні аудіозаписи з відповідями,
• 3:54
  які все одно опиняються в реальності, а не у фантазії.
• 3:56
  І як тільки заземлення налагоджено, виникає інший ризик.
• 3:59
  Тому що навіть якщо канали передачі даних чисті, система, яка ними керує, все одно може вийти з ладу.
• 4:04
  Ось тут і зміщується питання.
• 4:06
  Чи агент, який координує все це, насправді допомагає вашому бізнесу,
• 4:09
  чи він просто непомітно перетворює ваш ІТ-бюджет на паливо для багаття?
• 4:12
  Корисний агент чи дороге – прес-пап'є.
• 4:14
  Агент координує моделі, дані, тригери та дії.
• 4:17
  Уявіть собі його як дорожнього поліцейського для ваших автоматизованих робочих процесів.
• 4:21
  Іноді він плавно керує всім, іноді махає трьома самоскидами та машиною-клоуном, а потім йде на обід.
• 4:26
  Саме в цьому розриві між чистим визначенням та безладною реальністю більшість команд провалюється.
• 4:30
  На папері агент виглядає чудово.
• 4:33
  Здайте йому інструкції, направте його на ваші дані та програми,
• 4:35
  і він має запускати процеси, отримувати відповіді та навіть запускати робочі процеси.
• 4:39
  Але це не ідеальний колега.
• 4:41
  Він з такою ж ймовірністю виправить повторювану проблему о 2.00 ночі,
• 4:44
  який завалить вашу чергу сотнею фантомних квитків, тому що неправильно прочитав журнал помилок.
• 4:47
  Уявіть собі, це всередині сервіси нову.
• 4:49
  При щільному обмеженні Ші генерує справжні квитки лише для справжніх проблем і викуповує людям години назад.
• 4:55
  Якщо залишити його без нагляду, він може поховати службу підтримки під стіною фальшивих сповіщень
• 4:58
  про критичні збої принтера на обладнанні, і це нормально.
• 5:00
  Спробуйте пояснити це підвищення продуктивності своєму ІТ-директору.
• 5:03
  Ось різниця, яку багато хто не помічає.
• 5:05
  Копілоти та агенти – це не одне й те саме.
• 5:07
  Копілот – це, по суті, швидкий приятель.
• 5:09
  Ви запитуєте, він відповідає, і ви контролюєте ситуацію.
• 5:12
  Агенти ж вирішують речі, не чекаючи на вас.
• 5:14
  Вони дотримуються ваших розпливчастих інструкцій до букви, навіть коли результати не мають сенсу.
• 5:19
  Саме тоді автоматизація або економить реальний час, або впадає в хаос,
• 5:22
  і ви витратите вдвічі більше часу на прибирання.
• 5:24
  Правда в тому, що багато команд надають своїм агентам опис роботи, який читається як передвиборча обіцянка.
• 5:28
  Оптимізуйте процеси, надавайте аналітичні дані, допомагайте людям.
• 5:31
  Вітаємо, ви фактично сказали боту діяти неконтрольовано.
• 5:34
  Агенти без визначення обсягу роботи неввічливо залишаються на своїй смузі.
• 5:37
  Вони руйнуються. Вони вигадують проблеми для вирішення.
• 5:39
  Вони дублюють записи. Вони зациклюються безкінечно.
• 5:42
  А потім керівництво дивується, чому блискуча демонстрація перетворилася на виробничий біль.
• 5:45
  Тепер давайте прояснимо ситуацію.
• 5:47
  Не те, щоб більшість організацій зазнавали невдачі в перші два місяці.
• 5:50
  Цього не підтверджують дослідження.
• 5:51
  Що трапляється і швидко, так це те, що багато організацій на ранніх етапах стикаються з перешкодами,
• 5:55
  тому що вони ніколи чітко не визначали обсяг роботи своїх агентів,
• 5:57
  ніколи не додавали кроки перевірки та ніколи не використовували телеметрію.
• 6:00
  Без цих захисних огорож ваш новий блискучий інструмент – це просто безрозсудний стажер з правами адміністратора.
• 6:05
  І ось тут стек Майкрософт насправді дає вам необхідні деталі.
• 6:07
  Co-Pilot Studio – це лоу-коуд-платформа, де розробники розробляють поведінку агентів,
• 6:12
  продумають потоки дій, підказки, тригери подій.
• 6:14
  Тоді, оскільки служба агентів вашого AI Foundry є корпоративною структурою,
• 6:18
  яка вводить цих агентів у виробництво зі спостережуваністю,
• 6:20
  служба агентів – це місце, де ви додаєте моніторинг, журнали, метрики.
• 6:23
  Вона навмисно розроблена для автоматизації з вбудованим людським наглядом,
• 6:27
  тому що Майкрософт знає, що станеться, якщо ви довірите непротестованому агенту в реальних умовах.
• 6:31
  Отже, як дізнатися, чи ваш агент дійсно корисний?
• 6:34
  Проведіть його через простий лакмусовий контрольний список.
• 6:37
  По-перше, чи зменшує він людський час, чи залучає ваш персонал до налагодження.
• 6:40
  По-друге, чи фіксуєте ви такі метрики, як обґрунтованість, плавність та узгодженість,
• 6:45
  чи просто дивитися на гарні маркетингові панелі.
• 6:47
  По-третє, чи є у вас телеметрія, щоб ви могли вловити відхилення,
• 6:50
  перш ніж користувачі почнуть подавати скарги.
• 6:52
  Якщо ви відповіли неправильно на будь-які з цих питань, у вас немає інтелектуального агента.
• 6:55
  У вас є дорога-заставка, вихід використовувати функції спостереження Azure AI Foundry та вбудовані оцінювачі.
• 7:02
  Це не додаткові функції.
• 7:03
  Це документований спосіб вимірювання обґрунтованості, релевантності, узгодженості та істинності джерела.
• 7:08
  Без них ви здогадуєтесь, чи ваш агент розумний, чи просто вигадує щось вічливим тоном.
• 7:12
  З ними ви можете впевнено втручатися та точно налаштовувати результати, коли результат відхиляється.
• 7:17
  Тож так, агенти можуть змінити правила гри.
• 7:18
  Якщо неправильно визначити масштаб, вони стають підселювачами хаосу, які витрачають більше часу, ніж економлять.
• 7:23
  Якщо правильно визначити масштаб, з чіткими межами роботи, реальною телеметрією та обґрунтованими відповідями,
• 7:27
  вони можуть виконувати завдання, поки люди зосереджуються на роботі з вищою цінністю.
• 7:29
  І саме тоді, коли ви думаєте, що досягли правильного балансу, історія знову змінюється.
• 7:33
  Майкрософт вже просуває автономних агентів, ботів, які не чекають на вас перш ніж діяти.
• 7:38
  Що переводить ставки з корисності чи преспап'я в зовсім іншу категорію,
• 7:41
  тому що тепер ми говоримо про системи, які працюють навіть тоді, коли ніхто не дивиться.
• 7:46
  Пастка автономного агента
• 7:47
  Автономні агенти – це те, де галас стає небезпечним.
• 7:51
  На папері вони мрія.
• 7:52
  Дозвольте штучному інтелекту діяти за вас, автоматизуйте рутинну роботу
• 7:55
  та перестаньте витягувати себе з ліжка о 2.00 ночі, щоб чекати в чергах за квитками.
• 7:59
  Звучить чудово в залі засідань.
• 8:00
  Пастка проста. Вони не чекають дозволу.
• 8:02
  Копілоти зупиняються для вас. Автономні агенти цього не роблять.
• 8:06
  І коли вони роблять поганий вибір, шкода поширюється миттєво та поширюється на вашого орендаря.
• 8:09
  Концепція досить проста.
• 8:10
  Копілоти реагують на події. Агенти діють проактивно.
• 8:13
  Замість того, щоб сидіти тихо, поки хтось не введе запит,
• 8:15
  ви обираєте агентів для спостереження за станом служби,
• 8:18
  обробки сигналів безпеки або автоматичного запуску робочих процесів.
• 8:20
  Microsoft презентує це як ефективність, менше людських втрат,
• 8:23
  швидше виявлення, плавнішу роботу.
• 8:25
  Обіцянка реальна, але ось важливий контекст.
• 8:28
  Автономні агенти в Co-Pilot Studio сьогодні все ще знаходяться в режимі попереднього перегляду.
• 8:32
  Попередній перегляд не означає зламаний, але це означає неперевірений у безладному реальному світі.
• 8:36
  І навіть Microsoft каже, що вам потрібні захисні огородження для управління життєвим циклом
• 8:39
  та консульна система Co-Pilot перш ніж думати про їх широке розгортання.
• 8:42
  Розглянемо реальний ризик.
• 8:44
  Скажімо, ви створюєте автономного агента служби підтримки
• 8:46
  та надаєте йому повноваження реагувати на аномалії входу.
• 8:48
  У демонстрації з п'ятьма користувачами він працює ідеально.
• 8:51
  З повіщення піднімаються, облікові записи керуються.
• 8:53
  Потім у продакшені з'являються шумні вхідні дані.
• 8:55
  Замість того, щоб чекати, він починає масово скидати сотні облікових записів на основі хибних спрацювань.
• 9:00
  Результатом є негіпотетичний збій.
• 9:02
  Це реально може призвести до зупинки операції наприкінці місяця.
• 9:05
  Це не наукова фантастика.
• 9:06
  Це режим відмови, на який ви підписуєтесь, якщо пропустите визначення обсягу операцій.
• 9:09
  Виправлення полягає не в тому, щоб відмовитися від технологій.
• 9:11
  Спочатку потрібно побудувати систему безпеки.
• 9:13
  Отже, який контрольний список для виживання?
• 9:15
  Три обов'язкові пункти передують будь-які яскраві автоматизації.
• 9:17
  По-перше, визначення обсягу ідентифікації та доступу.
• 9:19
  Надайте своєму агенту мінімальні права, жодних загальних ролей адміністратора.
• 9:22
  По-друге, ведення журналу та відкат.
• 9:24
  Кожна дія повинна залишати слід, який ви можете перевірити.
• 9:27
  І кожна серйозна дія потребує шляху зворотного зв'язку, коли агент дає збій.
• 9:30
  По-третє, фільтри контенту та поведінки.
• 9:32
  Майкрософт виявляє це за допомогою конфігурації безпеки та знань контенту Azure AI.
• 9:36
  Фільтри, які не дають завзятому боту генерувати невідповідні відповіді або відхилятися від сценарію.
• 9:41
  Зробіть це спочатку, інакше кмітливість вашого агента поховає ваш пар, а не допоможе йому.
• 9:45
  Етичний рівень робить це ще гострішим.
• 9:47
  Уявіть собі, як HR-агент автоматично позначає співробітників як ризикованих, або фінансовий агент утримує платежі постачальникам, які він неправильно класифікує як шахрайство.
• 9:54
  Це не нешкідливі примхи, це збої, пов'язані з людським впливом, з юридичними та нормативними наслідками.
• 9:59
  Упередженість у навчальних даних або їх отриманні не зникає лише тому, що ви тепер працюєте в попередньому перегляді для підприємства.
• 10:04
  Без фільтрів, перевірок та людських резервних варіантів ви передаєте на аутсорсинг рішення, які ваші юристи точно не хочуть приймати від неконтрольованого алгоритму.
• 10:11
  Власне, повідомлення Microsoft на Ignite було відвертим щодо цього.
• 10:14
  Hardruns, управління життєвим циклом, моніторинг та система управління Coopilot – це неприємні речі, вони необхідні.
• 10:19
  Попередній перегляд сьогодні – це не стільки блискучі демонстрації, скільки тестувальники, які доводять, де з'являються тріщини.
• 10:24
  Якщо ви запускаєте без етапів тестування робочих процесів затвердження та аудитів, ви не запускаєте агента, ви проводите стрес-тестування свого орендаля у виробництві.
• 10:31
  Ось чому спостереження не є необов'язковим.
• 10:33
  Вам потрібні панелі інструментів, які показують кожен крок агента та перевіряють, чи його вихідні дані були обґрунтованими, релевантними та узгодженими з вашою політикою.
• 10:40
  І вам потрібні опції «Людина в циклі».
• 10:42
  Microsoft цього не приховує. Вони посилаються на шаблони, де людина залишається надійним захистом.
• 10:47
  Уявіть собі це як автопілот польоту. Неймовірно корисний, але завжди розроблений зручним керуванням.
• 10:52
  Якщо бот вважає, що оптимальна посадка в озеро, вам потрібно взяти керування в свої руки перш ніж приземлитися.
• 10:57
  Правильна аналогія тут – дозволити підлітку навчитися водити.
• 11:00
  Потенціал реальний, швидкість вражаюча, але ви не передаєте ключі, не залишаєте під'їзну доріжку та не сподіваєтеся на краще.
• 11:05
  Ви сидите з боку пасажира, даєте їм межі та встановлюєте гальма, в які можете вдарити себе.
• 11:09
  Це управління життєвим циклом на практиці. Тренуєте колеса, доки не переконаєтеся, що система не з'їде з дороги.
• 11:15
  І це підводить нас до більшого заводського цеху, де агенти, другі пілоти та кожен робочий процес, який ви протестували, об'єднуються.
• 11:20
  Microsoft називається Azure AI Foundry універсальним простором для створення штучного інтелекту з усіма інструментами.
• 11:25
  Чи стане він виробничою потужністю, чи місцем, де ваш проект самозгорить, повністю залежить від того, як ви до нього ставитеся.
• 11:31
  Azure AI Foundry – ваша фабрика чи ваше мінне поле?
• 11:35
  Azure AI Foundry – це нова флагманська пропозиція Microsoft, так звана фабрика для всього, що пов'язано зі штучним інтелектом.
• 11:41
  Проблема? Занадто багато команд заходять і ставляться до цього, як до Ікеа.
• 11:45
  Вони блукають по каталогах, засліплені каталогами, беруть пару блискучих великих мовних моделей, додають якісь конектори, а потім збирають щось докупи без інструкцій.
• 11:52
  Зрештою, вони отримують не корпоративну систему штучного інтелекту, а демонстраційну іграшку, яка перевертається, коли реальний користувач завантажує безладний PDF-файл.
• 11:59
  Ось що насправді пропонує Foundry прямо з офіційного посібника. Каталог моделей, що охоплює Microsoft, OpenAI, Meta, MiiStral, Dipsic та інші.
• 12:07
  Параметри налаштування, такі як генерація доповненого пошуку, точне налаштування та дистиляція.
• 12:12
  Служба агентів для оркестрації інструменти, такі як потік запитів для оцінки та налагодження, базові функції безпеки, контроль ідентифікації та доступу, фільтри безпеки контенту та панелі спостереження.
• 12:22
  Коротше кажучи, це все, що потрібно для створення копілетів агентів, автономних потоків та забезпечення їхньої відповідності. Це і є інвентар.
• 12:29
  Проблема не в тому, що набір інструментів порожній, а в тому, що занадто багато адміністраторів ставляться до цього як до перемикання перемикача GPT-4 Turbo та оголошення готовності до виробництва.
• 12:36
  Правда в тому, що Foundry – це заводський цех, а не коробка з іграшками для хакатону.
• 12:39
  Це означає встановлення меж ідентифікації, щоб лише потрібні люди торкалися правильних моделей.
• 12:43
  Це означає огортання безпеки контенту навколо кожного конвейера.
• 12:47
  Це означає використання спостережуваності, щоб ви знали, коли відповідь обґрунтована, а коли це модель, яка винаходить політику компанії з повітря.
• 12:54
  І це означає зіставлення роботи з правильною моделью, а не просто вибір найбільшої, тому що вона звучить розумно.
• 12:59
  Пропустіть ці кроки, і хаос увійде через бічні двері.
• 13:02
  Я бачив, як команда зв'язалася з другим пілотом Foundry в SharePoint, який із задоволенням надав доступ до обмежених даних HR 20 стажерам.
• 13:07
  Це не було розумно, це була катастрофа з дотриманням вимог, якої можна було уникнути за допомогою вбудованих правил доступу.
• 13:12
  Давайте поговоримо про реальні режими невдачі.
• 13:14
  Одна організація колись запустила GPT-4 Turbo для позначення фотографій продуктів тегами.
• 13:17
  У лабораторії це розгромило демонстрацію.
• 13:20
  Чисті студійні фотографії, ідеальні теги всі плескали в долоні.
• 13:23
  У виробництві вхідні дані були не глянцевими JPG-файлами, а розмитими фотографіями зі складу з телефоном.
• 13:28
  Раптом штучний інтелект помилково позначив дитячі коляски як офісні стільці та переробив етикетки UPC у фальшиві серійні номери.
• 13:34
  На додачу до удару по довірі витрати почали зростати.
• 13:37
  І це не казка про 0,01 долара за повідомлення.
• 13:39
  Ціноутворення у FAMDRI базується на споживанні та прив'язане до конкретних послуг, які ви використовуєте.
• 13:43
  Кожен конектор, кожен виклик пошуку, кожен лічильник повідомлень виставляється рахунок вашому орендарю.
• 13:47
  Кожна одиниця має власну модель виставлення рахунків.
• 13:50
  Така гнучкість чудова, але якщо ви не оцінюєте за допомогою калькулятора ціни ажур та не відстежуєте використання,
• 13:54
  ваша фінансова команда буде в захваті від вашого несподіваного рахунку фактури.
• 13:57
  Це пастка виставлення рахунків.
• 13:59
  Ціноутворення на основі споживання працює, якщо ви плануєте, контролюєте та оптимізуєте.
• 14:02
  Якщо ви цього не зробите, це дуже схоже на використання спортивного автомобіля як самоката для піци, дорого, шумно та безглуздо.
• 14:07
  Ми всі стикалися з такими речами, як Pava BI, чудова демонстрація, неконтрольований рахунок.
• 14:11
  Не дозволяйте Foundry ставити вас в одне й те саме становище.
• 14:13
  Розробники люблять створювати прототипи у Foundry, тому що пісочниця здається гладкою.
• 14:17
  А в пісочниці вона гладка.
• 14:18
  Чисті демонстраційні дані, жодного безладу, миттєве вау.
• 14:21
  Але ось у чому вся суть.
• 14:22
  Команди заштовхують цей прототип у продакшні без конвейерів оцінки.
• 14:25
  Якщо ви пропускаєте оцінювачів на предмет обґрунтованості, плавності, релевантності та узгодженості,
• 14:29
  ви розгортаєте його на осліп.
• 14:30
  І що відбувається?
• 14:31
  Користувачі бачать дрейф у результатах?
• 14:33
  Певненість падає, керівники скорочують фінансування.
• 14:35
  Це не провал Foundry, це провал команд в управлінні.
• 14:37
  Багато прототипів Foundry зупиняються перед продакшеном саме з цієї причини.
• 14:41
  Немає спостережуваності, немає перевірок якості, немає телеметрії.
• 14:44
  Відповідь є прямо в платформі.
• 14:46
  Використовуйте спостережуваність Azure AI Foundry з першого дня.
• 14:48
  Підключіть потоки запитань.
• 14:50
  Запускайте вбудовані оцінювачі в кожному тесті.
• 14:52
  Заземліть свою систему за допомогою пошуку Azure AI, використовуючи гібридний пошук плюс семантичне переранжування,
• 14:56
  перш ніж ви навіть подумаєте про запуск.
• 14:57
  Microsoft не закупала ці інструменти в додатку, вони задокументовані для безпеки виробництва.
• 15:01
  Але занадто часто розробники просіюють їх повз як виноски.
• 15:04
  Такий менталітет контрольних точок – це те, як ви уникаєте мінного поля.
• 15:08
  Ставтеся до Foundry як до фабрики, управління як до першого кроку, політики відповідності,
• 15:12
  такі як умовний доступ, конвейери спостереження, що працюють з самого початку.
• 15:15
  І так, визначення області видимості, ідентифікації та безпека контенту не повинні бути додані пізніше, вони є в переліку матеріалів.
• 15:21
  Пропустіть управління і ви ризикуєте не лише поганими відповідями.
• 15:24
  Без нього ваш мультимодельний бот може із задоволенням розкривати зарплати HR відділу зовнішнім користувачам
• 15:28
  або позначати рахунки фактури вигаданими номерами полісів.
• 15:30
  Це не просто зламаний щі, це приманка для заголовків, яку ваш відділ відповідності не хоче пояснювати.
• 15:34
  І саме тут зміщується акцент, тому що наступний камінь з потикання зовсім не технічний.
• 15:39
  Це те, чи відповідає ваш щі.
• 15:41
  Усі люблять вставляти ці слова в слайд основної доповіді, але на практиці йдеться про аудити, фільтри, відповідність та гору рішень, які ви робите перед запуском.
• 15:48
  І саме тут починаються справжні головні болі.
• 15:50
  Відпишіться та слідкуйте за нами в розсилці М365, шоу, щоб отримувати прості виправлення, та слідкуйте за нами на сторінці М365, шоу у LinkedIn, щоб отримувати прямі трансляції з MVP, які тестували фамдри у продакшені та бачили, що йде не так.
• 16:01
  Відповідальний щі чи відповідальний головний біль?
• 16:03
  Усі люблять згадувати відповідальний щі у своїй основній доповіді.
• 16:06
  Це виглядає стильно поруч із такими модними словами, як справедливість та прозорість.
• 16:10
  Але в окупах це не надихаюча філософія.
• 16:12
  Це конфігурація, аудити, фільтри та кроки управління, які більше схожі на обслуговування сервера, ніж на інновації.
• 16:18
  Відповідальний щі це ремінь безпеки, а не спортивний автомобіль.
• 16:20
  Пропустіть його один раз, і крах настане швидко.
• 16:23
  Майкрософт одразу говорить про етику та безпеку, але для адміністраторів, які запускають це в прямому ефірі, це перетворюється на практичні захисні бар'єри.
• 16:29
  Вам потрібні політики доступу, які не згинаються під тиском, фільтри, які фактично блокують шкідливі запити,
• 16:34
  Це не гламурна робота. Це ізоляція HR-пілотів від фінансових даних, встановлення правил визначення обсягу,
• 16:43
  щоб місця в команді не потрапляли в секрети SharePoint, та позначення журналів, щоб ви могли точно довести, як була сформована відповідь.
• 16:49
  Робіть це правильно, і відповідальність – це не корпоративний слоган, це виживання.
• 16:52
  Потворна версія пропуску цього підключення бота безпосередньо до вашого HR-репозиторію без визначення обсягу орендарів.
• 16:59
  Користувач запитує про страхові пільги.
• 17:01
  Бот корисно публікує зарплатні шкали співробітників у чаті.
• 17:05
  Тепер у вас є порушення конфіденційності, кошмар морального духу, і, можливо, регулятори дихають вам у спину.
• 17:10
  Найшвидший спосіб знищити впровадження – це непоганий UX, а один витік конфіденційних даних.
• 17:14
  То що ж запобігає цьому безладу?
• 17:15
  Почніть з безпеки контенту Azure AI.
• 17:17
  Він створений для фільтрації насильницьких, непристойних та образливих запитань і відповідей,
• 17:21
  перш ніж вони просочаться назад до користувачів.
• 17:23
  Але це базова гігієна.
• 17:24
  Foundry та Coopilot Studio об'єднують конвейери оцінки, які обробляють наступний рівень.
• 17:29
  Перевірки обґрунтованості, оцінка релевантності, панелі інструментів, прозорості та пояснювальність.
• 17:34
  Англійською мовою ви можете налаштовувати порогові значення,
• 17:36
  фільтрувати як вхідні, так і вихідні дані та змушувати ботів показувати свою роботу.
• 17:40
  Без цього ви просто кидаєте кубики на основі того, що видає ші.
• 17:43
  А ось реальність ресурсів.
• 17:45
  Microsoft ставить це на перше місце.
• 17:46
  34 тисячі інженерів, що працюють повний робочий день і займаються безпекою,
• 17:50
  плюс 15 тисяч партнерів з глибоким досвідом у сфері безпеки.
• 17:53
  Це фортеця.
• 17:54
  Але не почувайтеся комфортно.
• 17:56
  Жоден з цих інженерів не знаходиться всередині вашого орендаря та не створює для вас правила доступу.
• 17:59
  Microsoft надає вам захисні огорожі, але ваша робота все ще полягає в тому,
• 18:02
  щоб блокувати ідентифікаційні дані, встановлювати ізоляцію даних,
• 18:04
  застосовувати шифрування та налаштовувати політики.
• 18:06
  Якщо ваше визначення обсягу не дбали, ви все одно будете відповідальні за порушення.
• 18:09
  Справжнім виправленням є управління життєвим циклом.
• 18:12
  Уявіть це як рецепт, який рекомендує сама Microsoft.
• 18:15
  Тестування, затвердження, випуск, аудит ітерація.
• 18:18
  Завдяки контрольним точкам на кожному циклі ви постійно помічаєте відхилення,
• 18:21
  перш ніж воно стане приманкою для заголовків.
• 18:23
  Команди, які один раз відправляють завдання та йдуть, завжди провалюються.
• 18:26
  Моделі розвиваються, підказки змінюються, а результати блукають.
• 18:36
  Відповідальність не вбиває швидкість, вона не дає швидкості вбити вас.
• 18:43
  Гарне управління означає, що ви можете пережити аудити
• 18:45
  та все одно продовжувати рухатися вперед через проекти.
• 18:47
  Пропустіть це, і ви стрибаєте з обриву.
• 18:49
  Швидкість без контролю дає вам лише один вид запису.
• 18:52
  Найкоротший час доростину.
• 18:53
  Уявіть собі їзду гірськими серпантинами.
• 18:55
  Ви не проклинаєте огорожі, ви дякуєте їм, коли дорога падає на 60 метрів.
• 18:59
  Відповідальний щі – це те саме.
• 19:00
  Охоплення, політики, фільтри, журнали, вони не зупиняють вашу швидкість,
• 19:03
  вони тримають вашу машину подалі від вечірніх новин.
• 19:06
  Зрештою, Майкрософт дав вам серйозну силу.
• 19:08
  Безпека контенту, конвейери оцінки, системи безпеки, огорожі SDK,
• 19:12
  але ваша робота все ще полягає в тому, щоб оцінювати орендарів,
• 19:15
  налаштовувати доступ і підключати ці цикли до вашого виробничого циклу.
• 19:19
  Зробіть це, і ви отримаєте щі, який переживе відповідність вимогам,
• 19:22
  а не зруйнується під ними.
• 19:23
  Ігноруйте це, і це не просто ризик збою, це кар'єра на кону.
• 19:27
  Відповідальний щі – неповільний.
• 19:28
  Відповідальний щі – життєздатний, а життєздатність – це справжнє випробування,
• 19:31
  тому що те, що буде далі, це не функції, а те,
• 19:33
  чи ставитися ви до цієї платформи як до Plug&Play,
• 19:35
  чи поважаєте її як інфраструктуру, що орієнтована на управління.
• 19:38
  Ця відмінність вирішує, хто витримає, а хто вигоріть.
• 19:41
  Ось суть.
• 19:42
  Пастка не фаундри, чи Coopilot Studio, а в тому, щоб думати,
• 19:44
  що вони підключаються за принципом «Підключи і працюй».
• 19:46
  Зачіпка з пам'яттю проста – управління – спочатку, експеримент – потім,
• 19:49
  виробництво – наостанок.
• 19:50
  Пропускайте ідентифікацію та спостережуваність на свій страх і ризик.
• 19:53
  Інструменти є, але лише управління перетворює прототипи на реальне виробництво.
• 19:57
  Тож, якщо ви хочете отримати суттєві виправлення,
• 19:59
  які дійсно підтримують життя вашого орендаря,
• 20:01
  підпишіться на подкаст і залиште мені відгук.
• 20:03
  Я щодня витрачаю на це години, і ваша підтримка справді допомагає.
• 20:06
  Інструменти змінюватимуться, тактика виживання виживе.