Latest / M365.FM – подкаст о Microsoft 365, Copilot и ИИ на русском / ИИ-агенты в Microsoft Teams: рост продуктивности или угроза безопасности? Управление цифровыми сотрудниками (ИИ-дубляж)

Transcript

ИИ-агенты в Microsoft Teams: рост продуктивности или угроза безопасности? Управление цифровыми сотрудниками (ИИ-дубляж) · M365.FM – подкаст о Microsoft 365, Copilot и ИИ на русском

• 0:00
  Представьте, что вы заходите в Teams, а вас встречает Рой и агентов, каждый из которых обещает
• 0:04
  оптимизировать ваш рабочий день. Они сулят продуктивность, но без правил могут неверно
• 0:08
  истолковать цели и расширить доступ так, что вы окажетесь виноваты. Это все равно,
• 0:12
  что дать стажеру корпоративную кредитку и надеяться, что в отчете о расходах не появится яхта.
• 0:16
  Но есть и хорошие новости. В этом выпуске вы получите простую структуру, три практических
• 0:20
  элемента контроля и первые шаги, чтобы сделать этих агентов полезными, безопасными и управляемыми.
• 0:25
  Ведь прежде чем довериться им, нужно понять, какими коллегами они станут.
• 0:29
  Знакомьтесь, ваши новые цифровые сотрудники.
• 0:31
  Знакомьтесь, ваши новые цифровые сотрудники. Они не сидят в кабинках, не отмечаются на проходной
• 0:36
  и точно не читали руководство для сотрудников. Это не пыльные макросы Excel, за которыми мы раньше
• 0:40
  присматривали. Агенты наблюдают, планируют и действуют, объединяя три ключевых компонента – память,
• 0:45
  право доступа и инструменты. Такова концепция Microsoft и BCG, и именно в этом их главное отличие.
• 0:49
  Ваш новый коллега помнит прошлое взаимодействия, переключается между доверенными системами и работает
• 0:55
  с приложениями почти как человек. Конечно, велик соблазн снова пошутить про стажер.
• 0:59
  Они полны энергии, но понятия не имеют, где лежит степлер. Также и агенты, они бросаются в ваши
• 1:04
  рабочие процессы, не понимая границ. Но в отличие от стажера, они получают доступ к Outlook,
• 1:08
  SharePoint или Dynamics, как только вы их запустите. Это сила, не просто особенность,
• 1:12
  это проблема управления. Без должной защиты от утечек данных и прав доступа вы фактически
• 1:16
  расширяете поверхность атаки на весь свой стэк. Если хотите понять, как быстро это станет
• 1:21
  реальностью, взгляните на дорожную карту. Microsoft уже анонсировала агентов для SharePoint,
• 1:25
  которые управляют документами на сайтах напрямую, они просто выдают результаты поиска.
• 1:29
  Представьте, вы просите помощника навести порядок в файлах проекта, а он перестраивает общие
• 1:33
  папки во всех командах. Впечатляет на слайдах, но стоит один раз ошибиться, и можно отправить
• 1:37
  в архив финансовую отчетность не за тот квартал. Это не теоретический риск, это заявка в техподдержку
• 1:42
  на следующий год. Автоматизация старой школы была похожа на торговый автомат. Нажал кнопку,
• 1:46
  шоколадка выпала, и если повезло, она не застряла. Агенты совсем не такие, они оценивают состояние
• 1:51
  рабочего процесса, ищут доступные варианты и генерируют шаги, которые никто не прописывал заранее.
• 1:55
  Они адаптивны, и в этом их преимущество и главная опасность. При ошибке результатом будет
• 2:00
  незастрявший батончик. Это будет уверенный отчет, собранный из трех систем с неверными данными,
• 2:04
  которые спустя месяца будут выдаваться за истину в последней инстанции. Угадайте,
• 2:07
  кто будет подписывать объяснительную, когда финодел спросит, откуда взялась эта нестыковка.
• 2:10
  И все же их преимущества очевидны. Один агент способен выстраивать связи между разрозненными
• 2:14
  отделами так, как ваша команда не сможет. Ему неважно, находятся ли данные в Teams,
• 2:18
  SharePoint или в каком-то скрытом модуле Dynamics. Он перескочит между ними и соберет
• 2:22
  результаты без вложений в письмах, напоминаний в календаре или помощи того самого Excel-гуру
• 2:27
  из вашего отдела. С точки зрения производительности, это как нанять кого-то, кто работает в 10 раз
• 2:31
  быстрее и никогда не отвлекается на разогрев рыбы в микроволновке. Но скорость без согласованности
• 2:35
  опасна. Агенты не разделяют ваши бизнес-цели, они следуют буквальным инструкциям, которые вы им
• 2:40
  даете. Этот разрыв – классическая проблема принципала агента в технологической обертке. Вы ждете
• 2:44
  точности и соответствия, а они выдают наиболее подходящую интерпретацию с неуместной самоуверенностью.
• 2:48
  Это не враждебность, это неосведомленность. А неосведомленность с системными правами доступа
• 2:52
  может быть разрушительней, чем злой умысел. Именно так чрезмерно усердный помощник рассылает
• 2:56
  конфиденциальные таблицы внешним контактам, потому что вы попросили его поделиться обновлением.
• 3:01
  Реальность такова. Агенты – это непричудливое дополнение, а цифровые коллеги, проникающие в рабочие
• 3:06
  процессы, они невероятно способны, но совершенно не понимают контекста. Вам может понравиться их поведение
• 3:11
  на демо, но настоящее испытание начинается, когда вы пускаете их в живые процессы без ограничений,
• 3:16
  обучения или контроля. И вот здесь возникает пробел в ваших знаниях. Оставайтесь со мной.
• 3:20
  Через пару минут мы разберем три вещи, необходимые каждому агенту – память, права доступа и
• 3:24
  инструменты, и почему каждая из них – это одновременно суперсила и точка отказа, если за ними не
• 3:28
  следить. Это подводит вас к следующей задаче – не просто использовать инструменты, а управлять
• 3:32
  цифровыми работниками как полноценной частью команды. И к этому не прилагается инструкция из отдела
• 3:36
  кадров, зато ответственности хоть отбавляй.
• 3:38
  Менеджеры как начальники цифровых сотрудников. Представьте, что вы открываете отчет об
• 3:42
  эффективности и видите новую строку – управлял 12 людьми и 48 и агентами. И это уже не хвастовство
• 3:47
  из научной фантастики, а реальный показатель управленческого мастерства.
• 3:50
  Эксперты говорят, что ценность менеджера будет отчасти оцениваться по количеству цифровых
• 3:54
  работников, которых он может направлять, ведь промптинг, проверка и контроль становятся
• 3:59
  ключевыми навыками лидерства. Босс будущего не просто делегирует задачи людям, он дирижирует
• 4:03
  сочетанием персонала и программного обеспечения. Этот сдвиг важен, потому что и агенты работают не как
• 4:07
  инструменты, которые можно оставить в покое до востребования. Они действуют самостоятельно,
• 4:11
  получив команду, и не поднимают руку, если чего-то не понимают. Ваша роль как менеджера теперь
• 4:15
  требует навыков, которые меньше похожи на написание служебных записок и больше,
• 4:18
  на определение порогов эскалации. Когда агенту нужно остановиться и свериться с вами?
• 4:22
  А когда можно продолжать работу? Согласно данным PwC и Всемирного экономического форума,
• 4:26
  тремя важнейшими управленческими действиями здесь являются четкие промпты, контроль с участием
• 4:30
  человека и проверка результата. Если упустить что-то одно, риски быстро возрастают. В работе с людьми
• 4:35
  обратная связь постоянно. Тон голоса – быстрый вопрос, едва заметное колебание. Агенты этого не дают,
• 4:40
  они выдадут готовую работу, независимо от того, были ли их предположения верны.
• 4:44
  Вот почему промптинг – это не просто формулировка, это системный дизайн. Одна
• 4:48
  нечеткая инструкция может привести к ошибкам в данных, небрежному доступу к записям или
• 4:52
  уверенным, но ошибочным отчетам. Тестирование промптов перед их внедрением становится таким же
• 4:56
  важным, как и проверка планов проектов. Проверка – это вторая половина задачи. Руководители
• 5:00
  привыкли к выборочному контролю качества, но могут ошибочно полагать, что автоматизация равна
• 5:04
  точности. Ошибочное мнение. Агенты импровизируют, а импровизация без проверки может быть
• 5:08
  крайне разрушительной. Как отмечает Айуми Мураоки, ИИ талантливо генерирует внешне
• 5:12
  безупречную чепуху. Менеджеры не должны считать, что профессиональный тон означает
• 5:16
  фактическую точность. Верификация, подтверждение источников и проверка путей передачи данных – вот
• 5:20
  что такое лидерство сегодня. Контроль замыкает цикл управления. Думайте об этом не как
• 5:24
  об устаревшем микроменеджменте, а как о контроле доступа. Бабак Хаджат называет это знанием
• 5:29
  границ доверия. Когда вы предоставляете агенту право и доступ к инструментам, вы все равно несете
• 5:33
  ответственность за результат. Менеджеры должны заранее решить, какой объем полномочий допустим,
• 5:37
  и установить ограничители. Такой контроль часто означает необходимость одобрения человеком,
• 5:41
  прежде чем агент внесет рискованные изменения, например, отправит данные вовне или изменит
• 5:46
  записи в ключевых системах. А вот и неприятный нюанс. Ваша репутация как менеджера теперь
• 5:50
  зависит от того, насколько хорошо вы балансируете между людьми и цифровыми коллегами. Слишком много
• 5:54
  контроля, и вы подавляете все преимущества. Слишком мало контроля, и вас застанут врасплох ошибки,
• 5:58
  которых вы даже не видели. Сложность не в выборе одного стиля лидерства, а в совмещении
• 6:02
  обоих. Людям нужны мотивация и эмпатия. Агентам нужны строгие границы и постоянная
• 6:07
  калибровка. Обеспечение их слаженной работы, чтобы они не мешали процессам друг друга,
• 6:11
  становится вашим ежедневным управленческим навыком. Представьте свою роль как роль дирижера,
• 6:15
  не в смысле HR, а буквально задающего ритм двум разным секциям оркестра.
• 6:19
  Сотрудники-люди привносят креативность и эмпатию. И агенты дают скорость и масштаб,
• 6:23
  но если ими никто не руководит, возникает разлад. Лучших лидеров будущего будут оценивать не только
• 6:28
  по моральному духу команды, но и потому, работают ли люди и цифровые сотрудники в тандеме,
• 6:32
  не допуская утечек данных и искажений в принятии решений. В худшем случае,
• 6:35
  несогласованность здесь не просто ломает рабочий процесс, а приводит к расследованию на предмет
• 6:39
  комплаенса. Итак, вывод прост. Название вашей должности не изменилось, но содержание вашей работы – да.
• 6:45
  Вы больше не просто управляете людьми, вы управляете помощниками-операторами,
• 6:48
  встроенными в каждую используемую вами систему. Это требует новых навыков, составления точных
• 6:52
  промптов, проверки инструкции на непредвиденные последствия, подтверждения результатов
• 6:56
  по надежным источникам и обеспечения контроля со стороны человека. Успех в этом деле отличает
• 7:00
  уважаемых менеджеров будущего от тех, кого тихо отправят на досрочную пенсию. И поскольку теория – это
• 7:06
  хорошо, а практика – лучше. Вот вам задача на один день. Откройте настройки вашего капилота или
• 7:11
  агента и посмотрите, где находятся функции одобрения действий человеком или элементы контроля.
• 7:15
  И если вы не можете их найти, сам этот пробел уже является результатом. Это значит,
• 7:19
  что вы еще не знаете, как остановить вышедший из-под контроля процесс. Если управление людьми
• 7:22
  всегда начиналось с анбординга, логично спросить, как выглядит анбординг для и-агента. Каждый агент,
• 7:27
  которого вы внедряете, поставляется со своим стартовым набором. И содержимое этого набора – память,
• 7:32
  права доступа и инструменты – определяет, сделает ли ваш новый цифровой коллега вас героем или заставит
• 7:37
  потратить выходные на устранение ущерба. Три элемента, которые нужны каждому агенту.
• 7:41
  Если разобрать, что именно движет агентом, Microsoft и BCG называют это стартовым набором из трех основ – память,
• 7:47
  право доступа и инструменты. Упустите хоть один, и вместо цифрового коллеги, которому можно доверять,
• 7:52
  вы получите недоработанного бота, блуждающего по вашей среде. Ошибитесь с ними, и вы обречете себя
• 7:56
  на работу по очистке последствий, на которую не рассчитывали. Во-первых, память – это то,
• 8:00
  что позволяет агентам связывать задачи воедино, а не начинать все с нуля каждый раз,
• 8:04
  как золотая рыбка за клавиатурой. Благодаря памяти агент может переносить ваши предпочтения
• 8:08
  всегда делать графики синими из одного отчета в другой. Плюс – это непрерывность. Минус – это устойчивость
• 8:13
  данных. Ошибки и неверные указания переносятся вперед так же легко, как и полезный контекст.
• 8:17
  Microsoft подчеркивает это в своей работе с фрагментацией и цепочками данных. Агенты сохраняют
• 8:21
  фрагменты взаимодействия для построения общей нити. Но PwC предупреждает, что такая устойчивость
• 8:26
  также несет риски для конфиденциальности, так как чувствительные данные могут задерживаться
• 8:30
  дольше, чем нужно. При неудачном стечении обстоятельств вы получите неполезного помощника,
• 8:34
  а того, кто бесконечно повторяет вашу худшую опечатку. Далее – права доступа. Представьте их как
• 8:39
  пропуск для агента. С людьми вы не даете каждому мастер-ключ от штаб-квартиры, вы ограничиваете доступ
• 8:44
  по ролям. То же самое правило применимо и здесь. Если вы слишком ограничите права, агент будет
• 8:48
  постоянно натыкаться на закрытые двери и докучать вам запросами разрешений. Если предоставите
• 8:52
  слишком много, вы фактически передадите свою HR-систему и финансовые записи тому, что не понимает
• 8:55
  принципов комплайенса. Рекомендация PwC здесь предельно прямолинейна. Используйте контроль доступа
• 9:00
  на основе ролей RBC, внедряйте многофакторную аутентификацию для важных действий и защищайте
• 9:03
  чувствительные области средствами предотвращения утечки данных. Например, если агенту нужно выполнить
• 9:07
  веб-запрос, PwC рекомендует пропускать его через прокси с политикой DLP, чтобы данные клиентов не
• 9:12
  попали в поисковую выдачу. При удачном стечении обстоятельств RBC и MFA удерживают его в рамках
• 9:16
  дозволенного. При неудачном, избыточные привилегии превращают его в самого быстрого в мире
• 9:20
  случайного инсайдера. Далее, инструменты. Это приложения, API и коннекторы, которые агенты
• 9:24
  используют для выполнения задач. Без инструментов они просто смотрят в пустоту. С неправильными
• 9:28
  инструментами они приносят больше вреда, чем пользы. Это как дать стажеру в первый же день право
• 9:32
  доступа к продакшену вместо безопасной панели отчетов. Инструменты определяют область,
• 9:36
  к которой агент может прикоснуться. Microsoft создает здесь защитные барьеры,
• 9:40
  помещая коннектор Экопайлот в каналы управления, а не просто предоставляя агенту прямой доступ.
• 9:44
  Лучшая практика остается прежней. Ограничивайте область действия, проверяйте настройки по умолчанию
• 9:47
  и связывайте внешние инструменты с лагированием и DLP. Держите набор инструментов под контролем,
• 9:51
  иначе вы построите неуправляемую машину Руба Голдберга, которая будет крепить детали к системам,
• 9:54
  которым ей нельзя прикасаться. Здесь поможет простая мнемоника. Память – это опыт, то,
• 9:59
  что сотрудник уже помнит. Права доступа – это пропуск, определяющий, куда можно зайти.
• 10:03
  Инструменты – это ноутбук и лицензионная па – то, чем они реально пользуются. Коротко,
• 10:07
  но запоминается. Параллель с адаптацией человека понятна, но с агентами ставки выше,
• 10:10
  процессы быстрее, менее заметны и их сложнее проверить постфактум. Баланс имеет значение.
• 10:15
  Сбалансированная память дает преемственность без бесконечного сохранения личных данных.
• 10:18
  Ограниченные права дают ровно столько ключей для работы, чтобы не открывать сейф целиком.
• 10:22
  Выверенные инструменты повышают продуктивность, не расширяя зону поражения. Избыток любого из
• 10:27
  этих компонентов мгновенно превращает пользу в риск. И, как и в реальной жизни,
• 10:32
  вам не уйти от ответственности. Руководство Microsoft по-ответственному и напоминает – агенты
• 10:36
  повышают планку. Меньше терпимости к ошибкам, строже прозрачность, четче контроль.
• 10:41
  Вам все равно придется отвечать, если из-за неверных прав или доступа к инструменту произойдет
• 10:44
  утечка отчета. При удачном стечении обстоятельств память обеспечивает более умный контекст.
• 10:48
  Права доступа точно соответствуют политике, а инструменты открывают только безопасные действия.
• 10:52
  При неудачном агент помнит плохие инструкции, имеет слишком много ключей и с полной уверенностью
• 10:56
  использует не тот коннектор. Это не вопрос, если это кривая риска, по которой вы идете.
• 11:00
  И вот что упускает большинство людей. Даже если вы правильно настроили стартовый набор,
• 11:04
  вы еще не в безопасности. Эти три элемента также открывают путь к более тихой и тонкой угрозе.
• 11:08
  В итоге агент знает о своих действиях больше, чем вы сами. И когда вы не видите логику его решений,
• 11:14
  у вас под носом незаметно возникает новая управленческая проблема.
• 11:17
  Невидимая проблема – асимметрия информации. Бывало ли, что сотрудник подает вам работу со словами
• 11:23
  «Не волнуйтесь, я все сделал». А теперь представьте, что это говорит и агент. Только вы не можете
• 11:28
  задать уточняющие вопросы и заглянуть в ход его мыслей. Вы получаете безупречный результат,
• 11:33
  но путь принятия решения остается скрытым. Это и есть невидимая головная боль – асимметрия
• 11:38
  информации. Агенты обладают большими данными и вычислительной мощностью, чем вы,
• 11:42
  но ответственность за результат несете именно вы. California Management Review называет это
• 11:46
  классической проблемой «Принципал-агент». У системы есть скрытая информация, которую вы не видите,
• 11:51
  а ответственность ложится на ваши плечи. Это как если бы ваш цифровой коллега бросал кости за экраном
• 11:55
  и показывал вам только итоговое число, скрывая все промежуточные модификаторы. И проблема не дает
• 12:00
  о себе знать сразу. Агенты выдают результат уверенно, без оговорок, не показывая швы своей работы.
• 12:06
  В итоге вы смотрите на готовый отчет и гадаете, надежен ли он или в нем скрыта ошибка.
• 12:11
  К тому времени, как вы разберетесь, другие отделы могут уже начать работу на основе этой ошибки.
• 12:17
  Возьмем частый случай. Агент ошибочно помечает счет по важному контракту как маловажный.
• 12:23
  Внешний отчет выглядит безупречно. Никаких тревожных сигналов. Спустя месяц и отдел контроля
• 12:27
  находит просроченные платежи. Вы очлеживаете проблему и находите эту ошибку классификации в самом
• 12:32
  начале. Вот как работает асимметрия информации. Агент знал, что сделал, но у вас не было доступа к его
• 12:36
  логике. PwC подчеркивает именно этот сценарий в своих рекомендациях по предотвращению утечек.
• 12:41
  Такие меры, как контроль доступа, проверки классификации и пороги эскалации, не дают мелкой
• 12:47
  ошибке превратиться в крупный штраф. Эта динамика прямо относится к проблеме принципал-агент.
• 12:52
  Вы, как принципал, ставите задачу организовать счета поставщиков. Агент оптимизирует процесс
• 12:57
  под буквальное исполнение, классифицировать и подшить. Он не видит общую цель, не понимает нюансов и уж точно
• 13:02
  не оценивает стратегические последствия. То, что кажется саботажем, часто является лишь слепой верностью
• 13:06
  слишком буквально понятым инструкциям. А теперь добавьте сюда зону моральной ответственности.
• 13:10
  Когда что-то идет не так, вся ответственность перекладывается на вас. Аудиторы не винят алгоритм,
• 13:15
  они спрашивают, почему вы этого не заметили. Машина снимает с себя ответственность,
• 13:19
  а человек принимает удар по репутации. Это похоже на то, как если бы вы были подушкой безопасности в аварии.
• 13:24
  Вы принимаете удар на себя, в то время как настоящий виновник продолжает свой путь, ничего не замечая.
• 13:28
  Так что же делать? Вы не можете волшебным образом заглянуть в нейронную логику генеративной модели,
• 13:33
  но можете обеспечить видимость на периферии. Шаг первый. Требуйте подробные журналы и истории
• 13:38
  происхождения данных. Не иллюзию внутренних размышлений, а конкретную запись того,
• 13:41
  каким данным был получен доступ, какие действия были запущены и в каком порядке.
• 13:45
  Шаг второй. Внедрите панели мониторинга прозрачности. Они отображают ключевые переменные
• 13:49
  принятия решений, кто, что и когда, чтобы вы могли хотя бы увидеть контуры того, как формировался результат.
• 13:54
  Шаг третий. Требуйте обоснований простым языком для действия с серьезными последствиями.
• 13:57
  CMR подчеркивает это в таких контекстах, как на имперсонала. Принуждение агентов предоставлять
• 14:02
  понятные человеку критерии для каждого решения создает уровень объяснимости. Шаг четвертый.
• 14:05
  Проводите красные команды Red Timing для ваших агентов. Подбрасывайте им странные тестовые примеры,
• 14:09
  специально ломайте их и фиксируйте все слабые места. Если вы сами не проверите эти ошибки,
• 14:13
  они проявятся тогда, когда ставки будут гораздо выше. Каждая из этих мер не решает проблему асимметрии
• 14:17
  полностью, но вместе они рассеивают туман. Журналы аудита дают возможность реконструкции,
• 14:22
  панели управления обеспечивают ситуационную осведомленность, а обязательные
• 14:25
  обоснования закрепляют решения в языке, которые вы можете оценить. Тестирование красными
• 14:28
  командами выявляет слепые зоны раньше, чем это сделают клиенты или регуляторы.
• 14:32
  И, как подчеркивает Microsoft, внедрение утверждения человеком в контурных этапах
• 14:35
  эскалации гарантирует, что самые рискованные решения будут проверены специалистам перед
• 14:39
  исполнением. Смысл не в том, чтобы гнаться за идеальной прозрачностью, ведь генеративное мышление
• 14:43
  всегда будет частично непрозрачным. Смысл в том, чтобы иметь достаточно поверхностных данных для
• 14:47
  отслеживания паттернов, обнаружения аномалий и обеспечения подотчетности до того,
• 14:50
  как проблемы станут неуправляемыми. Без этих мер вы в итоге отвечаете за невидимые решения,
• 14:54
  которые никогда не одобряли, пока ваши агенты продолжают выдавать результаты на высокой скорости,
• 14:58
  что подводит нас к реальному выбору, который стоит перед вами. Вы можете либо оставить эти системы
• 15:02
  без контроля и надеяться, что ничего не сгорит, либо начать относиться к их поведению как в групповой
• 15:07
  политике, с правилами, лимитами и эскалацией, встроенными с первого дня. Потому что, если пропустить
• 15:11
  уровень управления, хаос не просто случится когда-нибудь потом. Он наступит в первый же момент,
• 15:15
  когда ваш цифровой коллега отправится выполнять задачу, которую вы не одобряли.
• 15:19
  Предотвращение агентагидона. Предотвращение того, что я называю агентагидоном,
• 15:23
  это не паранойя. Это настройка механизмов, которые не дадут вашему парку и превратиться в
• 15:27
  источник опасности. Это тактический уровень, где встречаются управления, риски и инфраструктура.
• 15:32
  PWC излагает это предельно ясно. Если вы хотите, чтобы агенты масштабировались,
• 15:36
  не разрушая вашу среду, вам нужны пять быстрых тактик. Адаптируйте управление,
• 15:39
  обновите систему оценки рисков, создайте инфраструктуру, внедрите тестирование и мониторинг,
• 15:43
  и всегда оставляйте человека в контуре принятия критических решений. Начните с управления.
• 15:46
  Текущие программы ответственного использования и создавались для моделей,
• 15:49
  а не для автономных агентов. Вам необходимо адаптировать надзор так, чтобы комитеты по рискам
• 15:52
  на уровне совета директоров четко учитывали риски от и-агентов. В агентов должны быть встроены
• 15:56
  правила эскалации. Когда ставки достигают определенного уровня, работа приостанавливается
• 16:00
  до одобрения человеком. Представьте это как дерево эскалации в вашей системе поддержки.
• 16:04
  При штатной ситуации агент может закрывать тикеты весь день напролет. При возникновении проблем
• 16:08
  он должен мгновенно остановиться и запросить подтверждение, прежде чем затрагивать
• 16:11
  зарплатные ведомости или важные внешние коммуникации. Регуляторные инициативы,
• 16:15
  такие как Акт ЕСАБИ, лишь усиливают эту потребность. Они формализуют требования к тому,
• 16:19
  что надзор должен быть доказуемым, а вы должны документировать, кто, что и когда одобрил.
• 16:23
  Затем управление рисками. Агенты различаются по уровню риска, поэтому ранжируйте их так же,
• 16:27
  как вы ранжируете системы. Низкорисковые боты, работающие в узких сегментах,
• 16:30
  могут действовать быстро. Агенты с высокой автономией, работающие с данными клиентов или финансовыми
• 16:34
  записями, требуют более тщательной проверки. Здесь прагматична методология PwC.
• 16:38
  Очлеживайте использование, соизмерите автономию с потенциальным воздействием и проводите
• 16:41
  высокоуровневых агентов через более строгие циклы согласования и тестирования.
• 16:44
  Если бот создает календарные напоминания, достаточно минимального надзора. Если бот отправляет
• 16:48
  платежи контрагентам, это должно сопровождаться красными флажками и логированием, которое выдержит
• 16:52
  аудит. Инфраструктура — следующий блок. Эти инструменты не появляются из ниоткуда.
• 16:56
  Вам нужен RBA для ограничения доступа агентов, MFA при повышении привилегий, DLP для предотвращения
• 17:01
  утечек и анонимизация, чтобы логи не содержали персональные данные пользователей.
• 17:06
  Относитесь к каждой учетной записи агента как к учетной записи человека.
• 17:09
  Принцип минимальных привилегий с регистрацией и проверкой.
• 17:12
  Предоставление агенту неограниченных прав для ускорения тестирования — это
• 17:14
  автоматизированный эквивалент выдачи прав администратора домена временному сотруднику.
• 17:17
  Это не инновация, это заявка на инцидент безопасности, которая ждет своего часа.
• 17:20
  Теперь тестирование и мониторинг. Исходите из того, что результат рано или поздно окажется ошибочным.
• 17:24
  Ваша задача — обнаружить ошибку до того, как она нанесет ущерб.
• 17:26
  Это означает использование детекторов аномалий в реальном времени для фиксации странных отклонений в поведении.
• 17:30
  Это означает RedTiming для ваших агентов, а не только для Firewall.
• 17:33
  Используйте необычные входные данные, чтобы найти уязвимости, пока ставки невелики.
• 17:37
  Постоянный мониторинг также важен.
• 17:38
  Логи доступа к данным, предпринятых действий и частоты высокорисковых операций должны регулярно проверяться.
• 17:43
  PwC и Microsoft подчеркивают журналы аудита и регулярные проверки — это ваша машина времени.
• 17:47
  Без них вы слепы к тому, что на самом деле сделал агент.
• 17:50
  И пятая тактика — надзор со стороны человека остается необходимым всегда.
• 17:53
  Даже при самой совершенной оркестрации и защитных механизмах критические решения требуют участия человека.
• 17:57
  Установите четкие пороговые значения.
• 18:00
  Система Копайлот от Microsoft имеет встроенный подобный подход.
• 18:10
  И может составить черновик письма, но кнопку «Отправить» нажимает человек.
• 18:14
  Этот финальный штрих — предохранитель между продуктивностью и рисками нарушения нормативных требований.
• 18:18
  При масштабировании агентов это превращается в оркестрацию.
• 18:21
  Один бот — это просто.
• 18:22
  Раи могут привести к неожиданным странностям, повторяя друг друга или попадая в бесконечные циклы.
• 18:27
  Беспорядка — это похоже на немодерируемую ветку вслеп, вышедшую из-под контроля.
• 18:30
  Противоядие — это оркестратор, будь то координирующий агент или центральная группа проверки людьми.
• 18:35
  Представьте это как дирижера, который не дает инструментам фальшивить.
• 18:38
  Один практический шаг для начала — используйте подтерн с одним оркестратором, прежде чем открывать шлюзы для мультиагентных райов.
• 18:44
  Этот уровень может координировать специалистов, подавлять циклы обратной связи и выравнивать их с бизнес-целями, не позволяя им импровизировать свои правила.
• 18:51
  Ни один из этих элементов контроля не существует для того, чтобы вас замедлить.
• 18:54
  При правильном подходе именно они позволяют вам безопасно масштабироваться.
• 18:57
  PwC, BCG, McKinsey — все они сходятся в одном.
• 19:00
  Управляемые и оркестрованные агенты становятся множителем силы.
• 19:03
  Они устраняют рутину, связывают разрозненные отделы и позволяют вашей команде сосредоточиться на более ценных стратегических задачах.
• 19:09
  При идеальном раскладе это означает большую пропускную способность, меньше ручного труда и соблюдение требований, встроенная в процесс.
• 19:14
  Предотвращение ошибок агентов — это не паранойя, а установка ограждений, чтобы получить реальную выгоду без худших последствий.
• 19:20
  Контролируйте право доступа к памяти и инструментам, и вы снизите скрытые риски.
• 19:23
  Адаптируйте управление, контроль рисков, инфраструктуру, мониторинг и надзор, чтобы сохранить прозрачность управления.
• 19:29
  Сделайте все это, и то, что казалось хаосом, станет фундаментом для более быстрой, дешевой и соответствующей стандартам работы.
• 19:34
  И в конечном счете, эта ответственность возвращается к вам.
• 19:37
  Это не безликие инструменты, а коллеги без личных дел в отделе кадров.
• 19:40
  А значит, настоящее испытание не в том, заменят ли вас агенты, а в том, сможете ли вы направлять их автономность с тем же надзором, что и у людей, не допуская нарушения баланса стимулов.
• 19:50
  Итак, вот заключительная мысль.
• 19:51
  Агенты не заменяют менеджеров, они заставляют вас совершенствовать самоуправление.
• 19:55
  Исследования ясны, это просто проблема принципала агента в худе.
• 19:59
  У них данные, у вас ответственность.
• 20:00
  И единственное реальное решение — это управляемая автономия плюс постоянный надзор.
• 20:04
  Вот ваши первые три шага.
• 20:06
  Проведите инвентаризацию агентов, классифицируйте их по риску и автономности, установите пороги эскалации для обязательного участия человека и проведите один тест на критическом агенте.
• 20:15
  Это ваш стартовый квест.
• 20:16
  Если этот чек-лист был полезен, подпишитесь и напишите в комментариях, какого агента вы проверите первым.
• 20:20
  При выпадении естественной двадцатки вы предотвратите хаос еще до его появления.
• 20:24
  При выпадении единицы, что ж, по крайней мере вы будете знать, где начался пожар.
• 20:27
  Спасибо за субтитры Алексею Дубровскому!