Latest / M365.FM – подкаст про Microsoft 365, Copilot і ШІ українською / ШІ-агенти в Microsoft Teams: зростання продуктивності чи загроза безпеці? Управління цифровими працівниками (ШІ-дубляж)

Transcript

ШІ-агенти в Microsoft Teams: зростання продуктивності чи загроза безпеці? Управління цифровими працівниками (ШІ-дубляж) · M365.FM – подкаст про Microsoft 365, Copilot і ШІ українською

• 0:00
  Уявіть, що ви входите в Teams і вас зустрічає рій агентів ЩІ, кожен з яких обіцяє оптимізувати ваш робочий день.
• 0:05
  Вони рекламують продуктивність, але без правил можуть неправильно тлумачити цілі та розширювати доступ таким чином, що ви будете відповідальні.
• 0:11
  Це як вручити своєму стажеру кредитну картку компанії та сподіватися, що звіт про витрати не повернеться з яхтою на ній.
• 0:16
  Ось гарна новина.
• 0:17
  У цьому епізоді ви отримаєте просту структуру, три практичні елементи керування та кілька перших кроків, щоб ці агенти були корисними, безпечними та узгодженими.
• 0:25
  Тому що, перш ніж ви зможете їм довіряти, вам потрібно зрозуміти, якими колегами вони стануть.
• 0:29
  Познайомтеся зі своїми новими цифровими колегами.
• 0:31
  Познайомтеся зі своїми новими цифровими колегами.
• 0:34
  Вони не сидять у кабінках, не користуються значками і точно ніколи не читають посібник для співробітників.
• 0:38
  Це не ті запилені макроси Excel, за якими ми колись доглядали.
• 0:40
  Агенти спостерігають, планують і діють, тому що вони поєднують три основні інгредієнти – пам'ять, права доступу та доступ до інструментів.
• 0:46
  Це фреймворк Microsoft та BCG, і це справжня різниця.
• 0:49
  Ваш новий колега може відстежувати минулі взаємодії, переходити між системами, яким ви вже довіряли, і насправді використовувати програми так, як це робила б звичайна людина.
• 0:56
  Звичайно, є спокуса знову пожартувати про стажерів.
• 0:59
  Вони з'являються сповнені енергії, але не мають уявлення, де знаходиться степлер.
• 1:02
  Те саме стосується агентів, вони вриваються у ваші робочі процеси, не розуміючи насправді меж.
• 1:06
  Але на відміну від стажера, вони можуть отримати доступ до Outlook, SharePoint або Dynamics, як тільки ви їх розгортаєте.
• 1:11
  Ця здатність не просто дивна, це проблема управління.
• 1:13
  Без належного запобігання втраті даних та прав доступу ви фактично розширили поверхню атаки на весь ваш степ.
• 1:19
  Якщо ви хочете відчути, як швидко це стане реальністю, подивіться на дорожню карту.
• 1:23
  Microsoft вже анонсувала агентів SharePoint, які керують документами безпосередньо на сайтах, а не лише в результатах пошуку.
• 1:29
  Уявіть, що ви просите помічника очистити файли проекту, і він фактично реорганізує спільні папки між командами.
• 1:34
  Вражаючи на слайдпанелі, але також одне неправильне тлумачення відділяє вас від архівування фінансових показників не за той квартал.
• 1:40
  Це не теоретичний ризик, це операційний квиток наступного року.
• 1:43
  Автоматизація старої школи здавалася торговим автоматом.
• 1:45
  Ви натискали одну кнопку, твік спадав, і якщо вам пощастило, він не застряг.
• 1:48
  Агенти зовсім не такі. Вони можуть помічати стан вашого робочого процесу, переглядати доступні варіанти та генерувати кроки, які ніхто заздалегідь не запрограмував.
• 1:55
  Це адаптивно, і в цьому є одночасно і привабливість, і небезпека.
• 1:58
  У природному випадку результат не застряг на батончику.
• 2:01
  Це впевнений звіт, отриманий з трьох систем з визначеннями лінії руху, представленими як Євангеліє через місяці.
• 2:06
  Вгадайте, хто підписує, коли фінансовий відділ запитує, звідки взялася розбіжність.
• 2:09
  Тим не менш, їхня перевага очевидна.
• 2:11
  Один агент може з'єднувати між ізоляційними слотами так, як ваша команда ледве може зрівнятися.
• 2:16
  Йому байдуже, чи дані знаходяться в Teams, SharePoint чи якомусь модулі Dynamics, що ховається у фоновому режимі.
• 2:21
  Він перемикатиметься між ними та компілюватиме результати без потреби у вкладеннях електронної пошти, нагадуваннях календаря чи тому одному майстрі Excel у вашому відділі.
• 2:28
  З точки зору пропускної здатності, це як найняти когось, хто працює в 10 разів швидше і ніколи не зупиняється, щоб прибалити в кімнаті відпочинку.
• 2:34
  Але швидкість без узгодженості небезпечна.
• 2:36
  Агенти не поділяють ваші бізнес-цілі, вони діляться буквальними інструкціями, які ви їм подаєте.
• 2:40
  Цей розрив – проблема принципа лата агента в технічній оболонці.
• 2:44
  Ви хочете точності та відповідності, вони надають найбільш близьку інтерпретацію з недоречною впевненістю.
• 2:49
  Це не ворожість, це неуважність.
• 2:50
  А неуважність до прав системного рівня може бути гарячішою за злість.
• 2:54
  Ось так ви отримуєте надмірно завзятого помічника, який надсилає конфіденційні електронні таблиці зовнішнім контактам, тому що ви попросили його поділитися оновленням.
• 3:01
  Тож реальність така, агенти – це не дивакуваті другорядні працівники, вони цифрові колеги, які проникають в основні робочі процеси, надзвичайно здібні, але надзвичайно не тямущі щодо контексту.
• 3:09
  Ви можете закохатися в їхню демонстраційну поведінку, але справжнє випробування починається, коли ви запускаєте їх у реальні процеси без захисних огорож, навчання чи нагляду.
• 3:17
  І ось вам розрив у допитливості.
• 3:19
  Залишайтеся зі мною, бо за кілька хвилин ми розглянемо три речі, необхідні кожному агенту – пам'ять, права доступу та інструменти, і чому кожна з них є одночасно суперсилою та точкою провалу, якщо її не контролювати.
• 3:28
  Це визначає вашу наступну роботу не лише з використанням інструментів, а й з управлінням цифровими працівниками, так, ніби вони є частиною вашої команди.
• 3:34
  І це без посібника з управління персоналом, але з великою відповідальністю.
• 3:38
  Менеджери як керівники цифрових працівників.
• 3:40
  Уявіть, що ви відкриваєте свій огляд ефективності та бачите новий рядок, керував 12-ма співробітниками людьми та 48-ма агентами зі штучним інтелектом.
• 3:46
  І це не науково-фантастичне хвастощі, це стає справжнім показником управлінських навичок.
• 3:50
  Експерти зараз кажуть, що цінність менеджера частково оцінюватиметься за тим, скількома цифровими працівниками він може керувати, оскільки підказки, перевірка та нагляд швидко стають основними лідерськими здібностями.
• 4:00
  Майбутній керівник не просто делегує людям, він керує поєднанням персоналу та програмного забезпечення.
• 4:05
  Цей суп важливий, тому що агенти зі штучним інтелектом працюють не як інструменти, які ви залишаєте бездіяльними, доки не знадобляться.
• 4:10
  Вони рухаються самостійно, коли їх запитують, і вони не піднімають руку, коли їх бентежать.
• 4:14
  Ваша роль менеджера тепер вимагає навичок, які виглядають не стільки як написання службових записок, скільки як визначення порогів ескалації.
• 4:20
  Коли агент зупиняється та уточнює у вас, а коли продовжує.
• 4:23
  Згідно з PwC та Всесвітнім економічним форумом, три критичні управлінські дії тут – це чіткі підказки, нагляд людини в процесі роботи та перевірка результатів.
• 4:31
  Якщо ви пропустите один із цих моментів, ризик швидко зростає.
• 4:34
  З працівниками-людьми зворотний зв'язок постійний. Тон голосу, швидке запитання, ледь помітне вагання.
• 4:39
  Агенти цього не виконують. Вони повернуть завершену роботу незалежно від того, чи мали сенс їхні припущення.
• 4:44
  Ось чому підказки – це не просто невимушені фрази, а системний дизайн.
• 4:47
  Одна розпливчаста інструкція може призвести до неправильно поданих даних, недбалого доступу до записів або впевнених, але неправильних звітів.
• 4:54
  Тестування підказок перед їх розгортанням стає таким же важливим, як і перегляд планів проєктів.
• 4:58
  Перевірка – це інша половина. Керівники звикли до вибіркової перевірки якості, але можуть вважати, що автоматизація дорівнює точності.
• 5:04
  Неправильне припущення. Агенти імпровізують, а імпровізація без перевірки може бути надзвичайно руйнівною.
• 5:09
  Як зазначає Аюмі Мур Аокі, Ші має талант генерувати відшліфовану нісенітницю.
• 5:14
  Менеджери не можуть вважати, що професійний тон означає фактичну правильність.
• 5:18
  Верифікація, підтвердження джерел, перевірка шляхів даних – це вже лідерство.
• 5:21
  Нагляд замикає цикл. Уявіть собі, це не стільки як старий мікроменеджмент, скільки як контроль доступу.
• 5:27
  Бабак Ходжат формулює це як знання меж довіри.
• 5:29
  Коли ви передаєте агенту права та доступ до інструментів, ви все ще володієте тим, що він виробляє.
• 5:34
  Менеджери повинні заздалегідь вирішити, скільки влади є доцільним, і встановити захисні бар'єри.
• 5:38
  Цей нагляд часто означає необхідність схвалення людиною, перш ніж агент внесе потенційно ризиковані зміни,
• 5:43
  такі як надсилання даних назовні або зміна записів в основних системах.
• 5:51
  Завдання полягає не у виборі одного стилю керівництва, а в одночасному виконанні обох.
• 6:03
  Люди потребують мотивації та емпатії. Агенти потребують суворих меж та постійного калібрування.
• 6:08
  Підтримка їхньої узгодженості, щоб вони не заважали робочим процесам один одного, стає частиною вашого щоденного управлінського рефлексу.
• 6:13
  Уявіть собі свою роль зараз як диригента не в сенсі відділу кадрів, а буквально як того, хто контролює ритм двох різних відділів.
• 6:18
  Працівники-люди привносять креативність та емпатію. Агенти штучного інтелекту привносять швидкість та охоплення, але якщо їх ніхто не спрямовує, результатом є розбрат.
• 6:25
  Найкращих лідерів майбутнього оцінюватимуть не лише за моральним духом їхньої команди, але й за тим, чи людський та цифровий персонал досягають одного темпу,
• 6:31
  не розкриваючи конфіденційні дані та не спотворюючи прийняття рішень по ходу справи.
• 6:35
  У природному випадку невідповідність тут не просто порушує робочий процес, а й створює розслідування щодо дотримання вимог.
• 6:40
  Отже, висновок простий. Ваша посада не змінилася, але зміст вашої ролі змінився.
• 6:44
  Ви більше не просто керуєте людьми, ви керуєте помічниками операторів, вбудованими в кожну систему, яку ви використовуєте.
• 6:50
  Це вимагає нових навичок, створення точних підказок, тестування інструкцій на наявність непередбачуваних наслідків,
• 6:54
  перевірки результатів на відповідність довіреним джерелам та забезпечення дотримання правил взаємодії людини в процесі.
• 6:59
  Успіх тут – це те, що відрізняє шанованих менеджерів завтрашнього дня від тих, кого тихо відправлять на дострокову пенсію.
• 7:04
  І оскільки теорія – це добре, але практика краще, ось ваше однодинне завдання.
• 7:09
  Відкрийте налаштування другого пілота або агента та знайдіть, де знаходяться схвалення або контрольні елементи контролю, пов'язані з людиною в циклі.
• 7:15
  І якщо ви не можете їх знайти, сама ця прогалина є знахідкою.
• 7:18
  Це означає, що ви ще не знаєте, як повернути процес, що не встигає.
• 7:21
  Тепер, якщо управління людьми завжди починалося з адаптації, справедливо запитати, як виглядає адаптація для агента зі штучним інтелектом.
• 7:26
  Кожен агент, якого ви розгортаєте, постачається з власним стартовим набором.
• 7:30
  І вміст цього набору, пам'ять, права доступу та інструменти визначають,
• 7:34
  чи ваш новий цифровий колега зробить вас блискучим, чи спалить ваші вихідні, відновлюючи збитки.
• 7:45
  Це стартовим набором три основні елементи – пам'ять, права доступу та інструменти.
• 7:49
  Пропустите один пункт, і замість цифрового колеги, якому можна довіряти, у вас буде недосконалий бот, що блукає вашим середовищем.
• 7:55
  Зробивши помилку, ви реєструєте себе на прибирання, на яке не заплановали бюджет.
• 7:59
  По-перше, пам'ять. Це те, що дозволяє агентам пов'язувати завдання разом,
• 8:02
  замість того, щоб щоразу починати все спочатку, як золота рибка за клавіатурою.
• 8:05
  Завдяки пам'яті агент може переносити ваші налаштування, завжди створювати діаграми синім кольором з одного звіту в наступний.
• 8:11
  Перевагою є безперервність, недоліком на полегливість.
• 8:14
  Помилки та погані вказівки переносяться так само легко, як і корисний контекст.
• 8:17
  Microsoft підкреслює це своєю роботою з фрагментації та ланцюжування.
• 8:21
  Агенти зберігають фрагменти взаємодій для створення потоку.
• 8:24
  Але PwC попереджає, що на полегливість також тягне за собою ризик для конфіденційності,
• 8:28
  оскільки конфіденційні дані можуть залишатися, коли це необхідно.
• 8:31
  У природному агенті ви не просто отримуєте корисного помічника,
• 8:34
  ви отримуєте того, хто нескінченно повторює вашу найгіршу друкарську помилку.
• 8:37
  Далі – права доступу.
• 8:38
  Уявіть їх як бейдж доступу агента.
• 8:40
  З людьми ви не даєте кожному головний ключ до штаб-квартири, ви обмежуєте доступ за ролями.
• 8:44
  Те саме правило застосовується і тут.
• 8:46
  Якщо ви занадто щільно тримаєте права доступу,
• 8:48
  агент постійно відскакуватиме від замкнених дверей і вимагатиме від вас дозволів.
• 8:51
  Якщо ж ви занадто щільно тримаєте свої права,
• 8:53
  ви фактично передали свою систему управління персоналом та фінансові записи чомусь,
• 8:55
  що не розуміє дотримання вимог.
• 8:57
  Рекомендації PwC тут прямолінійні.
• 8:58
  Використовуйте контроль доступу на основі ролей, RBAC,
• 9:01
  забезпечте багатофакторну автентифікацію для дій з підвищеними правами
• 9:03
  та обгорніть конфіденційні області засобом запобігання втраті даних.
• 9:05
  Наприклад, якщо агенту потрібно зробити запит до інтернету,
• 9:08
  PwC рекомендує виконувати це через проксі-сервер з політикою DLP,
• 9:11
  щоб уникнути витоку даних клієнтів у пошукові запити.
• 9:13
  У природному середовищі RBAC та MFA тримають його в межах його можливостей.
• 9:17
  У природному середовищі надмірні привілеї перетворюють його
• 9:19
  на найшвидшого випадкового інсайдера у світі.
• 9:21
  Потім є інструменти.
• 9:22
  Це програми, ARRI та коннектори, які агенти фактично використовують для дії.
• 9:25
  Без інструментів вони просто дивляться в порожнечу.
• 9:35
  Майкрософт створює тут захисні бар'єри, розміщуючи роз'єми Coopilot
• 9:41
  всередині каналів керування, а не просто надаючи агенту вихідний доступ.
• 9:44
  Найкраща практика та сама.
• 9:45
  Обмежте в область дії, перевірте налаштування за замовчуванням
• 9:47
  та прив'яжіть зовнішні інструменти до журналювання та DLP.
• 9:50
  Тримайте викрутку міцно затиснутою, інакше ви створите неконтрольовану машину
• 9:52
  Руба Голдберга, яка прикручує деталі до систем, до яких вона ніколи не мала торкатися.
• 9:55
  Тут допомагає швидка мнемоніка.
• 9:57
  Пам'ять – це досвід, те, що працівник уже пам'ятає.
• 10:00
  Право – це посвідчення особи, куди їм дозволено ходити.
• 10:03
  Інструменти – це ноутбук та ліцензовані програми, які вони насправді можуть використовувати.
• 10:06
  Компактно, але залишається.
• 10:08
  Паралель з адаптацією людини має сенс, але з агентами ставки швидші,
• 10:11
  менш помітні та важче перевіряти після факту.
• 10:13
  Баланс має значення.
• 10:14
  Баланс пам'яті забезпечує безперервність без нескінченного збереження особистих даних.
• 10:18
  Права з обмеженою областю дії дають їм достатньо ключів для виконання роботи, не відкриваючи сховища.
• 10:23
  Інструменти розміру підвищують продуктивність, не збільшуючи радіус вибуху.
• 10:26
  Занадто багато будь-якого з них перетворює результат з корисного на ризикований за один раз.
• 10:30
  І, як і у випадку з реальними речами, ви не можете уникнути відповідальності.
• 10:33
  Власні рекомендації Microsoft щодо відповідального щі нагадують нам, агентам, що потрібно підвищувати планку.
• 10:37
  Нижча толерантність до помилок, суворіша прозорість, чіткіший контроль.
• 10:41
  Ви все ще той, хто приймає рішення, коли неправильне право доступу або доступ до інструментів дають змогу отримати звіт.
• 10:45
  У випадку з природним досвідом 20 пам'ять забезпечує розумніший контекст.
• 10:48
  Права чітко узгоджуються з політикою, а інструменти розблоковують лише безпечні дії.
• 10:52
  У випадку з природним досвідом агент пам'ятає погані інструкції, має забагато ключів і з повною впевненістю використовує неправильний роз'єм.
• 10:57
  Це не якби це крива ризику, на якій ви знаходитесь.
• 11:00
  І ось те, що більшість людей пропускають.
• 11:02
  Навіть коли ви правильно налаштуєте стартовий комплект, ви не поза безпекою.
• 11:05
  Ці три елементи також розкривають тихішу, тонкішу небезпеку.
• 11:08
  Агент, зрештою, знає більше за вас про те, що він щойно зробив.
• 11:11
  А коли ви не бачите причин його вибору, прямо під вашим носом закрадається новий вид управлінської проблеми.
• 11:18
  Невидима проблема – інформаційна асиметрія.
• 11:21
  Чи траплялося вам коли-небудь, що співробітник кидав вам руку з легким?
• 11:23
  Не хвилюйтеся, я впорався з цим.
• 11:25
  А тепер уявіть собі ту саму фразу від агента штучного інтелекту,
• 11:28
  тільки ви не можете запитувати про подальші дії та не можете зазирнути в процес домов.
• 11:31
  Ви отримуєте відшліфований результат, акуратно упакований,
• 11:34
  але шлях прийняття рішень всередині не прозорий.
• 11:36
  Це невидимий головний біль – інформаційна асиметрія.
• 11:38
  Агенти мають більше даних та обчислювальної потужності,
• 11:41
  ніж ви коли-небудь матимете, але саме ви відповідаєте за результати.
• 11:44
  California Management Review називає це хрестоматійною проблемою «Принципал Агент».
• 11:48
  Система має конфіденційну інформацію, яку ви не можете спостерігати,
• 11:51
  тоді як ви несете відповідальність.
• 11:52
  Це ніби ваш цифровий колега кидає кубики за екраном
• 11:55
  і показує вам лише остаточне число, а не модифікатори, які він накопичив по ходу справи.
• 11:59
  І проблема не проявляється м'яко.
• 12:01
  Агенти працюють впевнено, вони не підстрахуються, не кваліфікуються,
• 12:05
  не дозволяють вам побачити шви.
• 12:06
  Тож ви залишаєтеся дивитися на готовий звіт і розмірковуєте,
• 12:09
  чи цей відшліфований артефакт надійний, чи він непомітно зламаний.
• 12:12
  На той час, як ви заглиблюєтесь у нього,
• 12:14
  команди нижче за течією вже можуть будувати роботу над помилкою.
• 12:17
  Візьмемо поширений випадок «Агент неправильно класифікує рахунок фактуру»,
• 12:20
  пов'язаний з критичним контрактом з постачальником, як низькопріоритетний.
• 12:23
  На перший погляд, звіт виглядає бездоганно, нічого не помічено червоним.
• 12:26
  Через кілька місяців система дотримання вимог виявляє пропущені платежі.
• 12:29
  Ви відстежуєте це та виявляєте неправильну класифікацію, заховану на ранній стадії.
• 12:32
  Це і є інформаційна асиметрія в дії.
• 12:34
  Агент знав, що робив, але ви не мали доступу до його логіки.
• 12:37
  PwC виділяє саме цей сценарій у своїх рекомендаціях щодо запобігання виникненню помилок – DLP.
• 12:41
  Такі заходи, як доступ на основі ролей, перевірки класифікації та пороги ескалації,
• 12:45
  запобігають переростенню незначного промаху у фінансове стягнення.
• 12:49
  Ця динаміка безпосередньо впливає на проблему принципала та агента.
• 12:52
  Ви, принципал, ставите собі за мету, наприклад, впорядковуєте рахунки фактури постачальника.
• 12:56
  Агент оптимізує процес для буквального послуху, класифікує та реєструє їх.
• 12:59
  Він не бачить ширшого наміру, не інтерпретує нюанси та, звичайно ж, не зважує стратегічні наслідки.
• 13:04
  Те, що здається саботажем, часто є просто сліпою вірністю інструкціям, сприйнятим надто буквально.
• 13:08
  Тепер додайте зону морального краху.
• 13:10
  Коли все ламається, відповідальність піднімається нагору.
• 13:13
  Аудитори не звинувачують невидимий алгоритм, вони запитують, чому ви його не помітили.
• 13:18
  Машина знімає відповідальність, а людина поглинає вм'ятину від репутації.
• 13:22
  Ефект схожий на подушку безпеки під час аварії.
• 13:24
  Ви несете удар, але приймаєте на себе удар, поки справжній водій їде далі, не звертаючи на це уваги.
• 13:28
  Отже, що ви робите?
• 13:29
  Ви не можете магічним чином зазирнути всередину повного нейронного мислення генеративної моделі, але ви можете створити видимість на краях.
• 13:35
  Крок перший – наполягайте на детальних журналах та слідах походження.
• 13:39
  Не ілюзія внутрішнього мислення, а конкретний запис того, до яких даних зверталися, які дії були запущені та в якому порядку.
• 13:45
  Крок другий – розгорніть панелі прозорості.
• 13:48
  Вони висвітлюють ключові змінні рішень, хто, що, коли, щоб ви могли хоча б побачити контури того, як збиралися результати.
• 13:54
  Крок третій – вимагайте простих обґрунтувань для дій з високим впливом.
• 13:58
  CMR підкреслює це в такому контексті, як найм.
• 14:01
  Змушення агентів надавати людину читані критерії для кожного рішення створює рівень пояснень.
• 14:05
  Крок четвертий – об'єднайте своїх агентів у команди.
• 14:07
  Надайте їм дивні тестові випадки, навмисно порушуйте їх та документуйте недоліки.
• 14:11
  Якщо ви самостійно не виправляєте ці недоліки, вони з'являться, коли ставки набагато вищі.
• 14:15
  Кожен із цих заходів пом'якшення не вирішує асиметрію повністю, але разом вони розсіюють туман.
• 14:20
  Журнали аудиту дають вам можливість реконструкції, панелі інструментів дають вам ситуаційну обізнаність,
• 14:24
  обов'язкові обґрунтування формуються мовою, яку ви можете оцінити.
• 14:28
  Червоне командування виявляє сліпі зони, перш ніж це зроблять клієнти чи регулятори.
• 14:31
  Як наголошує Microsoft, нашарування схвалень людини в циклі в точках ескалації гарантує,
• 14:36
  що найризикованіші дзвінки зупиняються на живому столі перед виконанням.
• 14:40
  Суть не в тому, щоб прагнути ідеальної прозорості, тому що генеративне мислення завжди буде частково непрозорим.
• 14:44
  Суть в тому, щоб надати собі достатньо поверхневих даних для моніторингу закономірностей,
• 14:48
  виявлення аномалій та забезпечення відповідальності, перш ніж проблеми вийдуть за межі вашого досяжності.
• 14:52
  Без цих заходів ви, зрештою, не сете відповідальність за невидимий вибір, який ніколи не підписували,
• 14:56
  поки ваші агенти продовжують швидко виконувати результати,
• 14:58
  що підводить нас до справжнього рішення, з яким ви стикаєтеся.
• 15:01
  Ви можете або залишити ці системи без обмежень і сподіватися, що нічого не згоріть,
• 15:05
  або ви можете почати ставитися до їхньої поведінки як до групової політики,
• 15:08
  правил обмежень та ескалації, вбудованої з першого дня.
• 15:10
  Тому що якщо ви пропустите рівень управління, хаос не станеться колись просто так.
• 15:14
  Це трапляється вперше, коли ваш цифровий колега тікає на побічний квест, який ви ніколи не схвалювали.
• 15:19
  Запобігання старінню агентів
• 15:20
  Запобігання тому, що я люблю називати агентським проникненням, це не параноя.
• 15:24
  Йдеться про те, щоб керувати всіма принципами, які не дають вашому парку
• 15:27
  ще перетворитися на пожежну небезпеку.
• 15:29
  Це тактичний рівень, де зустрічаються управління, ризики та інфраструктура.
• 15:32
  PWC чітко викладає це.
• 15:34
  Якщо ви хочете, щоб агенти масштабувалися, не руйнуючи ваше середовище,
• 15:37
  вам потрібно 5 швидких тактик.
• 15:39
  Адаптуйте управління, оновіть управління ризиками, побудуйте інфраструктуру,
• 15:42
  забезпечте тестування та моніторинг і завжди тримайте людину в курсі критичних викликів.
• 15:45
  Почніть з управління.
• 15:47
  Поточні програми відповідального щі були створені для моделей, а не для вільнопересувних працівників.
• 15:50
  Ви повинні адаптувати нагляд, щоб комітети з ризиків на рівні ради директорів
• 15:53
  чітко включали ризик агентів.
• 15:55
  Агентам потрібні вбудовані правила ескалації.
• 15:57
  Коли ставки досягають певного рівня, робота зупиняється, доки людина не схвалить її.
• 16:01
  Уявіть це як дерево ескалації у вашій системі служби підтримки.
• 16:04
  На природному рівні 20 агент закриває заявки протягом усього дня.
• 16:07
  У природному випадку він знає, що потрібно зупинитися та запросити схвалення
• 16:10
  перш ніж торкатися заробітної плати чи конфіденційного зовнішнього зв'язку.
• 16:13
  Регуляторні поштовхи, такі як закон Європейського Союзу про штучний інтелект,
• 16:16
  лише посилюють цю потребу.
• 16:17
  Вони формалізують очікування, що нагляд має бути продемонстрованим
• 16:20
  і що ви можете задокументувати, хто що і коли схвалив.
• 16:23
  Потім управління ризиками.
• 16:24
  Агенти не рівні за рівнем ризику, тому ви розподіляєте їх так само, як і системи.
• 16:28
  Боти з низьким рівнем ризику, що працюють у вузьких ізоляціях, можуть швидко рухатися.
• 16:31
  Агенти з високою автономією, які торкаються даних клієнтів або фінансових записів,
• 16:34
  потребують ретельнішого контролю.
• 16:36
  Структура PwC тут прагматична.
• 16:38
  Відстежуйте використання, вимірюйте автономію відносно потенційного впливу
• 16:41
  та підштовхуйте агентів вищого рівня до повільніших циклів схвалення та тестування.
• 16:44
  Якщо бот пише нагадування в календарі, мінімальний нагляд спрацьовує.
• 16:47
  Якщо бот надсилає платежі постачальникам, він повинен мати червоні прапорці та реєстрацію,
• 16:51
  яка витримує аудит.
• 16:52
  Інфраструктура – це наступний блок.
• 16:54
  Ці інструменти не просто зникають.
• 16:55
  Вам потрібен RBA, щоб обмежити те, до чого можуть торкатися агенти MFA щоразу,
• 16:59
  коли вони підвищують привілеї, DLP для запобігання випадковим витокам та анонімізація,
• 17:02
  щоб журнали непомітно не переносили ідентифікатори користувачів до неправильного архіву.
• 17:06
  Ставтеся до кожної особи агента як до людського облікового запису.
• 17:09
  Принцип найменших привілеїв реєструється та перевіряється.
• 17:12
  Надання агенту необмежених прав, оскільки це пришвидшує тестування,
• 17:14
  є автоматизованим еквівалентом надання тимчасового адміністратора домену.
• 17:17
  Це не інновація, це квиток на порушення, який очікує на створення.
• 17:20
  Тепер тестування та моніторинг.
• 17:22
  Припустімо, що вихідні дані врешті-решт дадуть збій.
• 17:32
  Кидаєте їм дивні дані, щоб знайти тріщини, коли ставки низькі.
• 17:36
  Постійний моніторинг також важливий.
• 17:38
  Журнали доступу до даних в житті дії та частота викликів з високим рівнем ризику повинні бути перевірені.
• 17:43
  PwC та Microsoft зазначають, що журнали аудиту та регулярні перевірки – це ваша машина часу.
• 17:48
  Без них ви не бачите, що насправді зробив агент.
• 17:50
  І п'ята тактика – людський нагляд ніколи не зникає.
• 17:53
  Навіть за умови найгладшої оркестрації та захисних огорож,
• 17:55
  виклики з високими ставками все одно потребують людини.
• 17:57
  Встановіть чіткі пороги.
• 17:59
  Якщо агент схвалює транзакцію на суму понад певний долар,
• 18:01
  редагує конфіденційні записи або ініціює вихідне спілкування,
• 18:04
  яке стосується регульованих даних, він повинен зупинитися та передати вам кубики.
• 18:07
  Система Microsoft Co-Pilot має вбудований цей підхід.
• 18:10
  Штучний інтелект може написати чернитку електронного листа,
• 18:13
  але людина натискає кнопку «Відправити».
• 18:14
  Цей останній штрих є надійним балансом між продуктивністю та ризиком дотримання вимог.
• 18:18
  Коли ви масштабуєте агентів, це стає оркестрацією.
• 18:21
  З одним ботом легко.
• 18:22
  Натовпи можуть перетворитися на емерджентну дивність,
• 18:24
  що повторює один одного або женеться за дивними циклами.
• 18:27
  Безпорядку це виглядає як немодорований потік слег, що закручується в спіраль.
• 18:30
  Проти отрутою є оркестратор або один координуючий агент,
• 18:33
  або центральна команда людського огляду.
• 18:35
  Уявіть собі це як диригента, який запобігає конфлікту інструментів.
• 18:38
  Один дієвий початковий крок почніть з єдиного шаблону оркестратора,
• 18:41
  перш ніж відкривати шлюзи для багатоагентних натовпів.
• 18:44
  Цей рівень може координувати спеціалістів, придушувати цикли зворотного зв'язку
• 18:47
  та узгоджувати їх з бізнес-намірами, замість того,
• 18:49
  щоб дозволяти їм імпровізувати власні правила.
• 18:51
  Жоден з цих елементів контролю не існує для того, щоб уповільнювати вас.
• 18:54
  Якщо все зробити правильно, вони саме те, що дозволяє вам безпечно масштабуватися.
• 18:57
  PWC, BCG, McKinsey – усі вони сходяться в одному.
• 19:00
  Керовані та оркестровані агенти стають мультиплікатором сили.
• 19:03
  Вони усувають повторювану роботу, прокладають зв'язки між ізоляційними слотами
• 19:06
  та дозволяють вашій команді зосередитися на стратегічних зосиллях з вищою цінністю.
• 19:09
  У випадку з природним числом 20 це означає більшу пропускну здатність,
• 19:12
  менше ручного зволікання та відповідність вимогам, вбудовану в процес.
• 19:14
  Запобігання агентам – це непідготовка до загибелі,
• 19:16
  це встановлення захисних огорож, щоб ви отримали реальні переваги,
• 19:18
  не стикаючись із найгіршими наслідками.
• 19:20
  Контролюйте інструменти розподілу прав на пам'ять і ви зменшите приховані ризики.
• 19:23
  Адаптуйте управління, управління ризиками інфраструктуру, моніторинг та нагляд
• 19:27
  і ви збережете видимість керівництва неушкодженою.
• 19:29
  Зробіть усе це і те, що виглядало як хаос, стане основою для швидшої,
• 19:32
  дешевшої та більш відповідної роботи.
• 19:34
  І зрештою, ця відповідальність повертається до вас.
• 19:37
  Це не безликі інструменти, це колеги без файлів відділу кадрів,
• 19:39
  а це означає, що справжній тест полягає не в тому,
• 19:42
  чи замінять агенти вашу роль, а в тому,
• 19:43
  чи можете ви керувати їхньою автономією з тим самим наглядом,
• 19:46
  який ви вже використовуєте для людей,
• 19:48
  не дозволяючи стимулам втрачати баланс.
• 19:50
  Отже, ось завершальний етап.
• 19:51
  Агенти не замінюють менеджерів, вони змушують вас удосконалювати сам менеджмент.
• 19:55
  Дослідження чітко показують, що це лише проблема головного агента, який носить худій.
• 19:59
  Вони зберігають дані, ви несете відповідальність
• 20:01
  і єдиним реальним рішенням є керована автономія плюс постійний нагляд.
• 20:04
  Ось ваші перші три кроки.
• 20:06
  Проведіть інвентаризацію своїх агентів та розподіліть їх за ризиком та автономією,
• 20:09
  встановіть пороги ескалації, де людина повинна схвалити їх,
• 20:11
  та проведіть один тест червоної команди або крайнього випадку на критичному агенті.
• 20:14
  Це ваше початкове завдання.
• 20:16
  Якщо цей контрольний список допоміг, натисніть «Підписатися»
• 20:18
  та залиште коментар про те, якого агента ви проінвентаризуєте першим.
• 20:21
  З природним числом 20 ви запобіжите хаосу до його виникнення.
• 20:23
  З природним числом 20, ну, ви принаймні знатіміте, звідки почалася пожежа.