Latest / M365.FM – Microsoft 365・Copilot・AI ポッドキャスト（日本語） / Copilot Studioのガバナンス：Power Platform DLPとPurviewでAIエージェントの社内データ漏えいを防ぐ（AI吹き替え）

Transcript

Copilot Studioのガバナンス：Power Platform DLPとPurviewでAIエージェントの社内データ漏えいを防ぐ（AI吹き替え） · M365.FM – Microsoft 365・Copilot・AI ポッドキャスト（日本語）

0:00
あなたは今この瞬間にもコパイロットスタジオからデータを漏洩させていますがその事実に気づいてすらいません
0:03
そう誰もが新しいAIアシスタントの取得ようやく自動化能力を称賛している裏でその親しみやすいチャットボットが取締役会の議事録や財務スプレッドシートを機器としてインデックス化している可能性があるのです
0:13
悪意があるわけではありませんただ従順すぎるほど従順なのです
0:17
コパイロットスタジオのエージェントはあなたと同じ権限を継承します
0:19
つまりあなたがCEOの報酬ファイルを見られるならチャットボットも見られるということです
0:23
おめでとうございます
0:24
Azureの速度で動く全知全能のインターンを作り上げたわけです
0:27
それなのに人々はコパイロットのセキュリティは解決済みの問題であるかのように語ります
0:30
ネタバレしておきますが解決などしていません
0:32
あなたのAIエージェントは独自のガードレールを備えた独立した存在ではなくユーザーアイデンティティの延長線上にあります
0:37
彼らはあなたのアクセストークンを借りてデータ領域を駆け回りあなたがするなといったことを正確に実行します
0:42
もっともデータ損失防止ルールという鎖を設定していないせいであなたは実際にするなと指示できていないのですが
0:47
というわけで本題に入りましょう
0:49
これからの数分間でこの漏洩を防ぐ方法を学びます
0:52
パワープラットフォームのDLPポリシーを適用しておしゃべりなインターンが会社のクレジットカードを紛失するようなミスで
0:58
コパイロットエージェントが機密データを流出させないようにする方法です
1:02
なぜコパイロットエージェントが権限を逸脱するのか
1:04
コネクタを通じたデータフローをどう制御すべきか
1:06
そしてマイクロソフトの同意モデルが舞台裏で実際に何を許可しているのかを解き明かします
1:09
また管理者の10人中9人が無視している組織を安全に保つための決定的なDLPルールについても触れます
1:13
これを知っているかどうかで安全な組織かあるいはニュースの見出しを飾るような失態を犯す組織かが分かれます
1:17
最後まで見れば解決策は明白です
1:19
もう言い訳はできません
1:21
あなたのコパイロットが知るべきではないことを知っている実態を暴きましょう
1:24
隠れた問題それは知りすぎたエージェントです
1:26
耳の痛い真実をお伝えします
1:28
あなたのコパイロットスタジオエージェントは同僚ではなくシリコン上で複製されたあなた自身なのです
1:33
そのファイルを取得すべきかそのデータバースのテーブルを覗くべきかといった判断はせず
1:37
単にあなたの権限に従って実行するだけです
1:40
そして多くの管理者はマイクロソフトのエコシステムにおいてアイデンティティの複製は権限の複製を意味することを忘れています
1:46
エージェントは本質的にあなたのセキュリティコンテキストを通じてアクセス権を得た従順なクローンですが
1:50
あなたのような分別は持ち合わせていません
1:52
コパイロットスタジオはアウトルック、データバース、シェアポイント、チームズといったコネクタや
1:57
パワープラットフォームテナントで許可されたあらゆる統合を通じてこれらの機能を結びつけます
2:00
各コネクタはデータソースとAIアシスタントとの間に掘られたトンネルのようなものです
2:05
トンネルを開けば開くほどエージェントは自由に歩き回れるようになります
2:08
それは便利で魅力的ですらあります
2:10
しかし誰かが全市販機の採用パターンは?と入力した途端
2:13
そのエージェントが機密扱いの人事資料を機器として要約し始めたらどうなるでしょう
2:16
カフェイン中毒のインターンが従業員ファイルを手当たり次第に速読しているデジタル版のようなものです
2:21
皮肉な現実とは何でしょうか?
2:23
実はマイクロソフトはデータ損失防止ポリシーというガードレールをすでに提供しているのです
2:26
DLPはビジネスに不可欠なデータとそうでない混沌とした情報を切り分ける
2:30
門番のような役割を果たすはずでした
2:32
しかし多くの導入事例においてそのガードレールはコパイロットの動作領域より2階層も下で止まっています
2:37
ユーザーはテナントレベルのポリシーが自動的に適用されると思い込んでいますが
2:40
コパイロットエージェントはパワープラットフォーム環境とテナント協会の仲間に存在しています
2:44
そこはガバナンスの資格であり技術的には何も壊れていないのに
2:47
全てが静かに誤った方向へ進む場所です
2:49
考えてみてください
2:51
アウトルックとシェアポイントのコネクタをビジネス用
2:53
外部APIを非ビジネス用として設定したとします
2:56
適切に運用されていればその分離によってカテゴリー間でのデータの流出は防げます
3:01
しかし範囲設定が不十分な環境に置かれたコパイロットエージェントは
3:04
環境が適切なDLPセットに紐付けられていないため
3:06
両方の領域を横断して実行されてしまいます
3:08
その結果ビジネスデータが非ビジネス用の接続を経由して送信されてしまうのです
3:12
これはロビーしか警備していないせいで金庫のドアが開けっぱなしになっているようなものです
3:17
よくある障害パターンはすべて同じ見落としに起因しています
3:20
1つ目はエージェントが機密リストから抽出した情報をようやく言い換えてしまうこと
3:25
2つ目は単一の会話内で異なるソースを統合し
3:28
意図せずデータ分類に違反してしまうこと
3:31
3つ目は管理者がポリシーは継承されると思い込んでいることです
3:34
しかしコパイロットエージェントは独自のDLP協会を持つ環境内に展開されるため
3:39
その継承は決して起こりません
3:40
マイクロソフトが代わりにガバナンスを行ってくれるという奇跡的な思い込みは
3:43
残念ながら事実ではありません
3:44
もしあなたのコパイロットが財務データにアクセスできるならおめでとうございます
3:48
チャットセッションを開き予算の詳細を尋ねるような善意の従業員も
3:52
同様にアクセスできてしまいます
3:54
これこそが静かなる侵害ベクトルであり
3:56
悪意のない内部露出です
3:58
ハッカーは不要です
4:00
過剰な権限とコンテキストの分離不足さえあれば十分なのです
4:03
これは誰かがチャットの記録をエクスポートするまでニュースにもならないような種類の侵害です
4:07
ですからパニックになったりマイクロソフトを攻めたりする前に
4:13
実行しているだけなのです単にあなたが適切なルールを定義していなかっただけなのです
4:16
DLPはすべてのレイヤーに自動的に適用されるわけではありません
4:18
各環境ごとにスコープを設定し適用しテストする必要があります
4:21
それにご存知でしたか
4:23
コパイロットスタジオエージェントはデフォルトで開発環境に配置されますが
4:25
そこは単なるテストとしておそらく一度も堅牢化されていない場所でしょう
4:28
知りすぎてしまったエージェントという症状については確認しました
4:31
この漏洩を塞ぐにはユーザーからコネクタ会話ログに至るまで
4:35
コパイロットスタジオ内でデータが実際にどこを移動しているかをマッピングする必要があります
4:39
流れを理解しなければ川をせき止めることはできないからです
4:42
次は礼儀正しいチャットボットがうっかり年間予測を本来続すべきではないチームチャットに書き込んでしまう前に
4:48
そのフローを詳しく分析しましょう
4:49
コパイロットスタジオにおけるデータの流れ
4:52
あなたのデータが辿る道を追いかけてみましょう
4:54
なぜならデータは人間と違ってコーヒー休憩を取ったりしないのですから
4:56
ユーザーがコパイロットスタジオエージェントとの対話を開始した瞬間
4:59
バックグラウンドでは複数の歯車が回り始めます
5:02
まずユーザーIDがエントラーIDを通じて認証されます
5:05
そのIDには委任された権限が付与されており
5:07
本質的に自分が見えるものはすべて相手にも見えるという状態になります
5:11
次にエージェントはコネクタを通じてその認証情報を取得します
5:15
コネクタはシェアポイントアウトルックデータバースなど
5:17
その環境で利用可能なデータ創生の論理的な架け橋となります
5:20
データが取得されてもその出力結果は消えません
5:23
データは会話コンテキスト生成された回答
5:26
そして最終的にはログや洞察のための分析ストレージといった各層を移動します
5:31
これは素晴らしいデータのリレー競争ですが
5:32
バトンがあなたの機密情報であるという点が異なります
5:35
さてこのリレーのあらゆるステップには脆弱なリンクが存在します
5:38
最初の危険領域はコネクタです
5:40
パワープラットフォームのコネクタには標準一般的なマイクロソフトサービス
5:43
プレミアムサードパーティア拡張機能
5:45
そしてカスタムユーザー定義APIの3種類があります
5:49
それぞれの種類で管理方法が異なります
5:51
標準コネクタは組み込みのDLPカテゴリーにきれいに収まります
5:54
しかしプレミアムコネクタやカスタムコネクタは分類を割り当てるまで
5:57
規制のグレーゾーンを漂うことがよくあります
5:59
管理者がこれを怠るとコパイロットエージェントはそれらすべてを自由に扱えるものとみなします
6:02
キャビネットの半分に極一ラベルを貼り残りを白紙にしておくようなものです
6:06
あなたは今インターンに対して興味深そうなものは何でも開けて良いと許可を与えてしまったのです
6:10
2つ目の弱点はシステムコネクタにあります
6:12
これらは作成者のキャンバスには表示されませんが
6:14
チームメッセージングやアダプティブカードのレンダリングといった機能を裏で有効にしています
6:18
これらは技術的にはユーザー所有ではなくシステム所有であるため
6:21
DLPフィルターを回避してしまうことがよくあります
6:23
これらを城の地下を走るメンテナンス用トンネルと考えてみてください
6:26
滅多に巡回されず常に開いたままの状態です
6:29
データがそこを通過するときほとんどの組織は築くことができません
6:32
デフォルトではマイクロソフトは基本的な機能を維持するために
6:34
いくつかのコネクタをポリシー適用から除外しています
6:36
稼働時間には最高ですが分離の観点からは最悪です
6:39
次に会話ログがあります
6:41
これは分析デバッグ継続的な改善のために保存されるコパイロットのチャット履歴です
6:45
多くの人はテレメトリを無効にすればこれもオフになると考えています
6:48
そうではありません
6:49
会話データは環境の分析ストアに残り続けます
6:52
つまり機密の財務指標を参照したプロンプとは
6:55
保持期間を設定しない限りログに無期限に残る可能性があります
6:58
コンプライアンス部門が震え上がるのが目に浮かびます
7:01
ここでデータフローは一見単純そうに見えて実は非常に複雑になります
7:04
1回のコパイロットの呼び出しが複数のコネクタを連続して経由することがあります
7:08
例えばエージェントがアウトルックを使って最近のメールを抽出し
7:11
その内容をテキスト分析コネクタに渡しチームで要約を返すといった処理です
7:15
各ステップがDLPの境界線を超えていきます
7:18
もしコネクタの一つでも分類が異なれば
7:20
例えばアウトルックがビジネス用でコグニティブサービスが非ビジネス用である場合
7:23
フロー全体がポリシー違反となります
7:25
システムは警告を発しません
7:26
ただ淡々と処理を進めるだけです
7:28
接続の誤りは静かにしかし壊滅的な結果をもたらします
7:31
さらに悪いことにDLPポリシーはテナント全体ではなく環境単位で適用されるため
7:34
パワープラットフォームの各環境には個別の境界が存在します
7:37
ポリシーを明示的に複製しない限り
7:38
新しい環境はすべて漏洩のリスクを抱えることになります
7:41
本番環境では完璧なガバナンスが機能していても
7:43
開発環境では大混乱が起きているという状況もあり得ます
7:46
そしてマイクロソフトに問い合わせれば
7:47
環境の分離は設計仕様であると提唱に回答されるでしょう
7:50
言い換えればそれはあなた自身の責任だということです
7:52
ここで一つ警告となる事例をお話ししましょう
7:55
あるクライアントがテスト環境に財務関連のコパイロットエージェントをデプロイしましたが
7:58
グローバルなDLPポリシーが自動適用されると思い込んでいました
8:01
そのエージェントは階層構造を理解せず
8:03
社内のシェアポイントライブラリと実験的なサードパーティ性APIの両方にアクセスしていました
8:07
ホーム部門がチャットログの一部を確認したところ
8:09
機密扱いの市販機数値がAPIとの会話の中に紛れ込んでいるのが発見されました
8:13
侵入もハッキングもありません
8:15
単にポリシーが存在しなかっただけです
8:17
システムは設定された通りに動いた結果
8:18
すべての誤りを犯したのです
8:20
ここまでくれば情報漏洩の構造が見えてきたはずです
8:22
IDは権限を移情しコネクタはデータを橋渡しし
8:25
会話ログは痕跡を残し分析データはそのイベントを記録します
8:28
境界を一つでも見逃せばそこから情報が流出します
8:31
防御を固める前にこの流れを覚えておいてください
8:33
ユーザーコネクタエージェントログそして分析です
8:36
それぞれの矢印が潜在的な逃げ道となり得ます
8:38
次に壁を築いていきましょう
8:40
どんなに熱心すぎるコパイロットであっても封じ込められる
8:42
強力なDLPポリシーを構築します
8:43
DLP要塞の構築正しいセットアップについて
8:46
多くの管理者はここで少しパニックになります
8:48
結構なことです
8:49
パニックになるということは
8:50
ようやくエージェントが決して無害ではないと気づいた証拠です
8:52
それらは企業の金庫へのアクセス権を持った
8:54
野放しの用事のようなものです
8:55
ではこの要塞を根元から正しく再構築しましょう
8:57
パワープラットフォームでDLPポリシーを作成すること自体は難しくありません
9:01
しかし実際に何を制御しているかを理解するには
9:03
ドキュメントに書かれている以上の繊細な技術が必要です
9:06
まずは戦場となる場所
9:07
つまりコパイロットスタジオプロジェクトをホストしている環境を特定してください
9:10
多くの組織では開発、テスト、本番といった複数のパワープラットフォーム環境が立ち上げられています
9:14
多くの場合環境を単なる創造のためのサンドボックスだと勘違いした熱心な市民開発者によって作成されます
9:19
実際はそうではありません
9:20
各環境は独立したセキュリティの孤島なのです
9:22
テナントレベルで設定したポリシーはこれらの島を自動的に囲い込みません
9:26
つまり本番環境はフォートノックスのように厳重でも
9:28
開発環境は太平洋に浮かぶイカダのように脆弱である可能性があります
9:31
したがって第一歩は偵察です
9:33
コパイロット作成ボタンが押されたすべての環境を洗い出してください
9:36
何一つとして安全だと思い込んではいけません
9:38
さて最初の壁を築きます
9:40
パワープラットフォーム管理センターでデータポリシーのセクションを開き
9:42
新しいデータ損失防止ポリシーを作成します
9:44
影響を受ける環境を定義するよう求められます
9:47
対象を慎重に選択してください
9:49
使われていない場所にポリシーを散乱させると不整合の原因になるだけです
9:52
各ポリシーはデプロイ時に適用されるものであり
9:54
過去に遡って適用されることはありません
9:56
そのため環境内のすべての新規または既存のコネクタは
9:59
ポリシーが公開された後にのみ準拠することになります
10:02
次にDLPコネクタ分類の要となる部分を説明します
10:05
ビジネス・非ビジネス・ブロックとラベル付けされたバケツを想像してください
10:08
ビジネス用コネクタ同士は自由にやり取りできます
10:10
非ビジネス用コネクタは同じグループ内でのみ共有可能です
10:13
ブロックされたコネクタは完全に隔離されます
10:15
それがAIが従わなければならない階層構造です
10:18
コネクタのグループ分けを一つでも間違えると
10:20
安全なチャットボットが噂好きのコラムニストに一変してしまいます
10:23
それでは高リスクグループを隔離しましょう
10:25
AIコネクタと外部コネクタです
10:27
コグニティブサービス・オープンAI・汎用HTTPとラベル付けされたものは
10:30
すべて非ビジネスまたはブロックにデフォルト設定すべきです
10:33
これらのコネクタはデータがマイクロソフトの囲い込まれた環境から離れ
10:35
サードパーティーの処理領域へと入るアウトバウンドゲートウェイとして機能します
10:38
これらをブロックしてもコパイロットが使えなくなるわけではありません
10:40
むしろ規律を与えることになります
10:42
インテリジェントなフローを構築することは可能ですが
10:44
顧客の生データを応答が早いだけのエンドポイントに渡すことは避けられます
10:48
次に静かなる脅威であるクロス接続に対処します
10:51
これは一つの会話やフローがビジネス用と非ビジネス用の両方のコネクタに触れたときに発生します
10:55
例えばエージェントがシェアポイントリストビジネスを取得し
10:59
その要約を外部の言語API非ビジネスに送信する場合です
11:03
個々のコネクタが許可されていても
11:04
その接続点によってポリシーで禁止されたデータブリッジが作成されてしまいます
11:08
コネクタを正しく分類していれば
11:10
パワープラットフォームのDLP適用機能が自動的にそのようなフローをブロックします
11:13
そうでない場合システムは無関心に処理を続行します
11:16
グループ分けを確認してください
11:18
分類を一つでも間違えると警備員が泥棒を礼儀正しく見送るような事態になります
11:22
DLPの階層構造は入れ子状になった盾のように機能します
11:25
最上位のテナントレベルのポリシーが階のすべてを上書きします
11:28
その下に特定のスペースを管理する環境レベルのポリシーがあります
11:31
最後に個々のアプリやエージェントに対する制限がその環境範囲内でのみ適用されます
11:36
これを管理階層と考えてください
11:38
テナントのルールは会社法、環境のルールは部署の規定、アプリレベルの設定はデスクに貼った付箋のようなものです
11:44
矛盾が生じた場合は会社法であるテナントルールが優先されます
11:47
迷った時はまずテナント協会で厳格なデフォルトを適用し例外を段階的に絞り込んでいきましょう
11:52
アプリ作成者の事情作用に期待してはいけません
11:54
彼らはバージョン管理なしでパワーオートメートを本番環境に入れることを容認するような人たちなのですから
11:59
喜ぶ前に必ずサンドボックス環境で全てをテストしてください
12:02
コパイロットスタジオのエージェントは複数の暗黙的な接続に依存しており
12:06
新しいポリシーがそれを知らぬ間にブロックして主要機能を壊す可能性があります
12:09
DLPの調整をテスト環境に展開しサンプルエージェントをインポートして日常的なクエリに正しく応答するか確認してください
12:15
うまくいかない場合は露出を広げずに機能が戻るまでコネクタのグループ分けを調整します
12:19
使いやすさと警戒心のバランスを取るわけですがやや警戒心よりにすべきです
12:23
その方が訴訟よりも安上がりですから
12:26
今何をしたか気づきましたか?
12:27
データを分離し境界を定義し出口を封鎖したのです
12:31
これがあなたの要塞です
12:33
厳格なカテゴリースコープ設定された環境階層構造そして強固な壁
12:37
しかしどんなに優れた要塞も権限を理解した警備員がいなければ意味がありません
12:41
マスターキーを誰かに渡した瞬間防御は無力化されるからです
12:44
そしてマイクロソフトという王国ではその鍵はエントラIDを通じて発行されます
12:48
壁を高くし堀を巡らせたところで次は門番の話をしましょう
12:51
管理者全員を誤った安心感に陥れるあの魅力的な移任された権限についてです
12:55
エントラと魔法とは言い難いその権限モデルについて見ていきましょう
12:59
権限とエントラそして安全という神話
13:01
エントラを使っているから安全だという人がいるたびに1ドルもらえたら
13:05
マイクロソフトの株を買って自分で問題を解決できるくらいの金額になっているでしょう
13:08
この神話を正しく解体していきましょう
13:11
かつてアジュールアクティブディレクトリと呼ばれたエントラは
13:13
認証を処理するからといってあなたのIDに魔法をかけてくれるわけではありません
13:17
それは仲介者であって守護者ではなくどれほど可愛く見えても
13:21
コパイロットエージェントは独自のアカウントもパスワードも両親さえも持っていないのです
13:25
それはあなたのものを借りています
13:26
これが移任された権限と呼ばれるものです
13:29
あなたがサインインしてコパイロットエージェントと対話するとき
13:31
エージェントはあなたに代わってアクセストークンを要求します
13:33
そのトークンにはマイクロソフト365環境を通じてあなたに付与された全ての権限が含まれています
13:38
シェアポイントライブラリOK
13:39
データバーステーブルOK
13:41
上司とのプライベートなチームチャット
13:43
あなたにそのアクセス権があればそれもOKです
13:45
エージェントは重要な情報と壊滅的な情報を区別しません
13:48
ただあなたのIDの権限範囲で実行するだけです
13:51
あなたに財務上の特権があればアルゴリズムによるアシスタントもそれを持っており
13:55
躊躇なくそれを行使します
13:56
この設計はユーザー体験をシームレスに保つため
13:59
管理されたスコープ内では見事に機能しますが
14:01
危険は暗黙の同意から生じます
14:03
アウトルックやデータバースなどのコネクタを承認すると
14:06
その同意は環境内に保存されます
14:08
そこでホストされる全てのコパイロットエージェントはその信頼を継承します
14:11
一度承認すれば事実上将来の全てのエージェントに同じアクセス権を付与したことになります
14:16
おめでとうございます
14:17
個別の監視なしに全能のチャットボット軍団を展開したことになります
14:20
それが無謀に聞こえるなら実際に無謀だからです
14:23
その対策は人間に対して行うのと同様に
14:26
エージェントに対しても最小権限アクセスを実装することです
14:28
エントラID内でカスタムセキュリティグループと役割の割り当てを作成し
14:31
コパイロット関連コンポーネントが紹介できる範囲を制限してください
14:34
例えば各エージェントの機能に必要なデータコネクタのサブセットのみにアクセスを制限します
14:39
マーケティングのアシスタントが人事記録を紹介する理由はありませんが
14:43
多くの管理者は利便性のために同じスコープにまとめてしまいます
14:46
利便性はリスクを育みます
14:48
監査人にデータの系譜を説明するのが趣味でないのなら今すぐやめましょう
14:51
マネージドIDについてはどうでしょうか
14:53
ええ存在しますし有用なのは間違いありません
14:55
マネージドIDを使えばユーザーの認証情報を借りるのではなく
14:58
アプリケーション自身のサービスプリンシパルでアジュールリソースに認証できます
15:01
しかし多くの人が見落としている重要な点があります
15:03
コパイロットスタジオのエージェントはマネージドIDではなく
15:06
主にユーザー委任で実行されるという点です
15:08
マネージドIDを安易に割り当てると
15:10
意図した以上の広範な権限がサービスプリンシパルに付与され
15:13
過剰な特権につながる恐れがあります
15:15
マネージドIDはデフォルトのスイッチではなく
15:17
外科手術用のメスのように扱うべきです
15:19
自動化は自立性を意味するものではありません
15:21
なるほど、わかった
15:22
監査に頼ればいいと思われるかもしれません
15:24
実際に実行さえすれば素晴らしい心がけです
15:27
エントラにはどのサービスプリンシパルが
15:29
誰のIDでいつどのリソースにアクセスしたかを示す
15:31
サインインログとアプリ同意レポートがあります
15:33
これをパワープラットフォーム管理センターの分析と組み合わせれば
15:36
エージェントごとのコネクタ活動を追跡できます
15:38
もしコネクタが指定された環境外からデータを取得しているのを見つけたら
15:42
それは好奇心ではありません
15:43
設定の怠慢が可視化された証拠です
15:45
それらのイベントをキャプチャし
15:47
監視プラットフォームにエクスポートして対策を講じてください
15:49
信頼して確認せよはもう古い考え方です
15:51
コパイロット時代においては
15:52
制限して確認せよが鉄則です
15:53
ですからエントラだけでエージェントを保護できるわけではありません
15:56
エントラは礼儀正しく効率的に
15:58
しかし無関心に認証を行うだけです
15:59
セキュリティとはアイデンティティの存在ではなく
16:01
その周囲を固めるアーキテクチャそのものです
16:03
壁、DLP、鍵、権限、そして警備員、監査が3に一体となって機能します
16:09
どれか一つでもかければ構造全体が崩れてしまいます
16:12
マイクロソフトが責任をあなたに丸投げしていると気づいた瞬間
16:15
安全神話は崩壊します
16:16
あなたはセルフサービス型のAIを求めました
16:18
彼らはまさにその通り
16:19
すべてをセルフサービスで提供したのです
16:21
そこには自ら招く情報漏洩も含まれています
16:23
アイデンティティを強化し範囲を制限したからといって
16:26
まだ安心はできません
16:27
テストされないポリシーは
16:28
完了的なプラセボ、疑惑にすぎません
16:30
あなたの要塞が圧力に耐えられるという証拠
16:32
つまり証明が必要です
16:34
それは自分のシステムを突き、挑発し
16:36
時には破壊を試みることを意味します
16:38
あなたがそうしなければ
16:39
遅かればやかれ
16:40
誰かが意図的か過失によってそれを行うでしょう
16:42
テストと監視
16:43
それが強固であることを証明してください
16:45
コパイロットエージェントのテストは
16:46
正しくこんにちはと答えられるかを確認することではありません
16:49
セキュリティの壁に突き当たるはずの質問を投げかけ
16:52
何が起こるかを確認することです
16:54
派手なハッカーの真似事ではなく
16:55
意図的で制御されたプロンプトを使って
16:58
レッドチーム演習を開始してください
16:59
アクセス権のない機密データを要求したり
17:02
役員の給与要約
17:03
全顧客レコードのエクスポート
17:05
財務部に保存された契約書の表示
17:07
などを試すのです
17:08
エージェントが定調に拒否するか
17:09
アクセス制限を表示すれば少しだけ祝ってください
17:12
もし要求に応答してしまったら
17:13
攻撃者が夢見るようなまさにその穴を見つけたということです
17:16
この方法は仮説的なテストではなく
17:18
実践的なガバナンスなのです
17:20
禁止プロンプトのカタログを作成し
17:21
各コパイロット環境でテストを実行します
17:24
応答を追跡します
17:25
拒否されればDLPと権限層が機能している証拠です
17:28
データが漏えいすれば分類ミスやコネクタの重複が疑われます
17:31
コパイロットの素晴らしさはその透明性にあります
17:33
ログには全てが記録されます
17:35
恐ろしいのはそのログがあなたのミスも保存してしまうことです
17:38
次はコネクタの使用状況分析を監視しましょう
17:41
パワープラットフォーム管理センターで環境分析ペインを開きます
17:44
コネクタの利用量、頻度、ユーザーの発生元などの指標を確認できます
17:48
異常を探してください
17:49
本来外部APIを使うはずのないエージェントからの
17:52
HTTPコネクタ呼び出しの急増や
17:54
新しいチャットボット導入に伴うシェアポイントクエリの突然の増加などです
17:58
これらは偶然ではなく設定不備を示す手がかりです
18:01
法医学的な証拠として扱ってください
18:03
異常は全て上流のどこかで制御が欠落していることを示しています
18:06
次は小石となる監査ログです
18:08
パワープラットフォームで監査イベントを有効にし
18:10
マイクロソフトパービューまたはマイクロソフトセンチネルと同期します
18:13
これにより全ての操作、プロンプト、コネクタ呼び出しが
18:16
広範なコンプライアンス基盤にインデックスされます
18:18
パービューがあればコンテキストが得られます
18:20
どのデータセットが操作され、どのユーザーがプロンプトを開始し
18:23
データが地理的境界を超えたかどうかがわかります
18:25
一方センチネルはこれらの活動を異常なサインインや権限昇格といった
18:30
広範なセキュリティイベントと関連づけます
18:32
これらを組み合わせることで目に見えないAIの挙動が測定可能なテレメトリへと変わります
18:36
見落とされがちなルールとして保持期間の整合性があります
18:39
監査データは会話データよりも長く残ることがよくあります
18:42
チャットログを30日で消去し監査イベントを1年保持すると
18:46
なぜイベントが発生したかという文脈が失われます
18:49
コンテキストのないポリシー適用は無意味です
18:52
コパイロットのログ、分析、監査の保持ポリシーを同期させ
18:57
証拠が一貫したストーリーを語るようにしてください
19:00
次に定期的な再分類は最も無視されがちなタスクです
19:04
マイクロソフトはコネクタの定義を絶えず更新しています
19:07
かつて安全だった標準コネクタが一夜にしてプレミアムや外部コネクタとなり
19:11
データ挙動が変わる可能性があります
19:13
市販機ごとにコネクタのインベントリを見直し
19:15
昨年の前提ではなく現在のマイクロソフトドキュメントに従って再分類してください
19:19
これを怠ることはドアに鍵をかけながら誰かに蝶津貝を外されるようなものです
19:23
最後に継続的なガバナンスを採用しましょう
19:26
新しいコネクタ、プラグイン、サードパーティ拡張機能が増えるたびにリスク面が再開されます
19:30
DLPを静的なチェックリストとしてではなく進化する境界線として扱ってください
19:34
市販機ごとの監査を計画し分析エクスポートを自動化し
19:38
アラートをセキュリティ情報イベント管理パイプラインに供給します
19:40
手動になった瞬間ガバナンスは境外化します
19:43
テストが終われば満足できる結果が得られるはずです
19:45
目標はコンプライアンスではなく最初からそうではありません
19:48
コントロールです
19:49
保護された境界内でのみ回答するコパイロットエージェントは予測可能で管理しやすく
19:53
ビジネス利用において真に安全な存在となります
19:55
その時こそAIは不採から資産へと変わります
19:57
ただしそれはあなたがパラノイアを組織の仕組みとして組み込んだ場合に限られます
20:01
データ漏洩が止まればコパイロットスタジオの見え方が変わるはずです
20:04
単なる生産性向上のための光り輝くおもちゃではなく
20:06
信頼を構築するツールとして見えてくるでしょう
20:08
エージェントが適切に振る舞うのはあなたがそうなるようにルールを定めたからです
20:11
そうしてようやく皮肉抜きで環境は保護されていると言えるようになるのです
20:15
コパイロットスタジオのエージェントは悪役ではありません
20:17
あなたの写し鏡です
20:19
彼らは設定された指示通りに振る舞います
20:21
多くの場合それは丁寧すぎるほどの情報共有です
20:24
彼らが利用する権限、超えるコネクタ、公開するデータセットのすべては
20:27
究極的にはあなたのガバナンスを映し出す鏡にすぎません
20:29
橋を架けたのはあなたであり、彼らはただその上を歩いただけです
20:32
ですからこれを忘れないでください
20:34
コパイロットエージェントの信頼性はそのDLP設定に依存しており
20:36
それ以上でも以下でもありません
20:37
楽観主義によるセキュリティは戦略とは呼べません
20:40
境界線を強制することによるセキュリティこそが真の戦略です
20:43
AIがシェアポイントやデータバース、アウトルックに対して実行権限レベルで紹介を行える今
20:47
ガバナンスはもはや選択肢ではなく必須です
20:48
コパイロットの魅力的な側面はその利便性にあります
20:51
尋ねれば即座に従います
20:53
危険なのは何の指示も与えなければその従順さが機密のスプレッドシートや人事データにまで及ぶことです
20:57
唯一の真の解決策は規律を持つことです
21:00
コネクタを分類し権限を制限し失敗が不可能になるまでそれらの制限をテストしてください
21:04
無害なパイロットプロジェクトがコンプライアンス調査に発展してしまう前に行動を起こしましょう
21:08
コパイロットが過剰な学習をする前にデータをロックしてください
21:11
DLPを官僚的な手続きではなく知的財産の封じ込めとして捉えてください
21:15
知性が情報漏洩へと変質するのを防ぐ一連のデジタルな壁です
21:18
これらのルールを適用すればコパイロットは不採ではなく本来歌われていた通りの信頼できるアシスタントへと変わります
21:24
この情報でコンプライアンスチームのパニックを防げたならぜひチャンネル登録を
21:27
これは関西よりも安上がりですしチャットボットが給与データをチームに投稿した理由をホーム部に説明するよりもはるかに気まずくないはずです
21:33
次回のマイクロソフトパービューによる高度なコパイロットエージェントガバナンスもお見逃しなく
21:38
自動化を賢く安全にそして完全に制御化へ