Latest / M365.FM – Microsoft 365・Copilot・AI ポッドキャスト（日本語） / AIエージェントのアーキテクチャ：エグゼキューター、ワークフローグラフ、検証で信頼できるエージェントを作る（AI吹き替え）

Transcript

AIエージェントのアーキテクチャ：エグゼキューター、ワークフローグラフ、検証で信頼できるエージェントを作る（AI吹き替え） · M365.FM – Microsoft 365・Copilot・AI ポッドキャスト（日本語）

0:00
賢いエージェントが愚かなことをするのを防ぐ唯一の検証
0:03
賢いことを有能に変える唯一のゲートは実行前の契約チェックです
0:07
ツールが実行される前にバリデーターは3つのことを順番に証明します
0:11
意図が実際の機能と一致していること
0:13
呼び出し元が現在権限を持っていること
0:15
要求された結果が宣言されたデータ協会内で実行可能であること
0:18
いずれかの部分が失敗すると何も実行されません
0:20
注意を払うのではなくとにかく試すのではなく
0:23
理由と代替案を添えて拒否します
0:24
機能の一致から始めます
0:25
計画ではシェアポイントリストアイテムを更新するとされています
0:28
バリデーターはどのツールどのメソッドどのスキーマバージョンかと尋ねます
0:32
引数はレジストリに対してチェックされます
0:34
必須フィールドが存在し型が正しく値の範囲が妥当であり
0:37
誰かが無視することを期待して余分なフィールドが
0:39
密かに持ち込まれていないことを確認します
0:41
ツールのエイリアスは禁止されています
0:43
正規名を使用するか拒否されます
0:45
これにより幻覚ツールや推測パラメータが誤動作する前に排除されます
0:49
次にポリシー準拠です
0:51
ポリシーエンジンは提案された呼び出しをアクティブなポリシーに対して評価します
0:55
ツールとドメインのリストを許可します
0:57
RBACまたはABCチェックは入力IDクレームとスコープに関連付けられています
1:01
環境回想ルール
1:02
データ分類境界
1:04
エージェントのスコープがファイルに限定されている場合
1:06
特定のサイトの読み取り更新呼び出しまたは別のサイトは絶対に許可されません
1:10
低ロードが人間のチェックポイントなしで制限された分類に踏み込む場合も許可されません
1:14
トークンは最新の状態で検証されます
1:16
スコープは正確に検証されこの一度だけの権限昇格は侵害の試みとして扱われます
1:22
次に事後条件の実現可能性
1:25
結果を望むだけでは十分ではありません
1:27
達成可能で検証可能でなければなりません
1:29
バリデータは宛先がアイテムの有効性キーをサポートしているか
1:32
システムは後で確認できる永続的な識別紙または電子タグを発行するか
1:36
下流が失敗した場合に保証アクションがあるかと尋ねます
1:38
計画が検証可能な事後条件を生成できない場合計画は拒否されるか書き換えられます
1:43
私を信じて後でログに記録しますは受け入れられません
1:45
後でインシデントが発生するからです
1:47
これらを組み合わせると機能一致ポリシー準拠事後条件の実現可能性という3つのゲートが得られます
1:52
3つ全てに合格すると実行者は続行します
1:54
いずれか1つでも失敗すると理由付きパスがアクティブになります
1:57
このパスは丁寧で徹底的で曖昧さがありません
2:00
あなたが試したことは次の通りです
2:01
あなたが破った正確なポリシーまたはスキーマは次の通りです
2:04
安全な代替案は次の通りです
2:05
ユーザーの意図を修復できる場合は範囲を狭め読み取り専用の要約に切り替え
2:09
許可されたサイトにルーティングします
2:11
バリデーターは準拠した計画を提案し承認を求めます
2:14
修復できない場合は完全なコンテキストで人間のチェックポイントにエスカレーションするか完全に停止します
2:18
謎の停止はありません
2:20
静かな成功もありません
2:21
あなたが知らなかったとしても経験したことのある簡単なマイクロストーリー
2:25
エージェントは全市販機のすべての人事文書を要約してホーム部にメールで送信するように求められます
2:29
取得は人事サイトとホームサイトに渡るグラフクエリを提案します
2:32
バリデーターは境界を超えることを検出します
2:34
人事は制限されています
2:36
ホームは内部です
2:37
3つのゲートはクロス読み取りと送信メールをブロックします
2:40
拒否パスが返されます
2:42
制限されたコンテンツが検出されました
2:44
代替案として内部ポリシーインデックスを要約し
2:47
承認されたレビュー担当者に人事概要のリクエストリンクを提供します
2:50
ユーザーは準拠したプランを承認します
2:52
実行ツールがそれを実行し内部コンテンツをサイトし
2:55
人事資料の許可リクエストを添付します
2:57
漏洩もドラマもなく依然として役立ちます
2:59
実装は設計家未退屈です
3:01
ポリシーDSLは誰が何をどこでどのような副作用で実行できるかを定義します
3:04
スキーマレジストリはツール契約名前バージョン引数の形状及びポスト条件を格納します
3:09
許可リストリゾルバはドメインサイトスコープを環境階層にマッピングします
3:14
バリデータはこれらを構成しすべての決定に関査レコード入力ポリシー評価結果をスタンプし
3:19
実行ツールに緑信号または修復プランを渡します
3:22
実行ツールは赤信号を無視して勝手に実行することはありません
3:25
決定を強制するか停止します
3:27
メンタルモデルはアーキテクチャ図の額にタトゥーとして刻むのに十分なほど明確です
3:30
実行ツールが強制します
3:32
グラフが制約します
3:33
バリデータが決定します
3:35
この順序です
3:36
モデルはフェンスで囲まれた庭の中でのみ提案しフェンスを越えようとした瞬間にバリデータがそれを引き戻し
3:41
理由を説明しゲートを指し示します
3:43
秩序は維持されます
3:44
安全性が強制されます
3:46
信号は妨げられません
3:47
ポリシーの範囲内です
3:48
スマートエージェントが愚かなことをするのを防ぐものが一つ欲しかったのですね
3:52
これがそれです
3:53
実行前の契約チェックで現実世界での変異の前に能力許可検証可能な結果が証明されます
3:59
できると思うが許可されているやり方を知っているやったことを証明できるに変わります
4:03
いいえいいえ暗闇は私たちには起こりません
4:06
これでアーキテクチャができたのでそれを使います
4:08
重要なポイントさらにCT
4:11
重要なポイントはプロンプとは意見であり実行者と検証済グラフは操作であり
4:15
実行前の契約チェックは両方を正直に保つガードレールであるということです
4:19
これで時間を節約できたなら恩返しをしてください
4:22
購読してください
4:23
次にパフォーマンスと可観測性実際のトレースコストp95に関するランググラフとマイクロソフトエージェントフレームワークの分析をご覧ください
4:31
アップグレードパスをロックしフォローしアラートを有効にして次のエピソードを予定通りに配信します
4:35
続行します
4:36
ほとんどの人はプロンプとを改善すれば不安定なエージェントが修正されると考えています
4:39
かわいい理論です
4:40
プロンプとは思考をガイドしますが操作は実行しません
4:43
真実は信頼性は実行者とグラフ検証から生まれます
4:46
現実が現れた時にエージェントが失敗しないようにする背骨です
4:50
これをマイクロソフトシナリオマイクロソフト365グラフ取得
4:53
アジュールオープンAI推論
4:55
暴走しないコパイロットスタジオエージェントに接続します
4:57
利害関係は単純で正確性
5:00
レイテンシ
5:00
コスト
5:01
監査可能性です
5:02
測定可能であり
5:03
雰囲気ではありません
5:04
頭の中で実行できるメンタルモデル
5:06
忘れられない言葉の図
5:08
スマートエージェントが愚かなことをするのを防ぐ一つの検証手順を提供します
5:12
初日から使用すべきだったアーキテクチャに入ります
5:14
プロンプトが操作で失敗するが実行者は失敗する理由
5:18
さてここで重要なのはLLMは認知を処理し実行者は操作を処理するということです
5:23
これらを混ぜ合わせると混乱が生じます
5:25
モデルは計画を提案できますがメールが送信されたことファイルが保存されたこと権限が存在したことを保証することはできません
5:32
確率でしか話せず操作には保証が必要です
5:35
そこで登場するのがエグゼキュータです
5:37
エグゼキュータはポリシーに縛られた関数ランナーで状態制約とアイテムの有効性を持ついわば部屋の中の大人です
5:43
アクションが成功したと信じることはなく確認します
5:46
ツールが存在すると想定することもありません
5:48
実行する前に機能パラメーター権限を検証します
5:52
そして失敗した場合は大きなエラーメッセージを表示しエラーを分類し規定の回復パスを実行します
5:58
ほとんどのプロンプト専用エージェントは3つの失敗モードに陥ります
6:01
一つ目はツールの誤認識です
6:03
モデルが登録されていない関数を要求したり存在しないフィールドで関数を呼び出したりします
6:08
二つ目は前提条件の欠如です
6:10
サイトリストアイテムバージョンにアクセスできるかどうかを確認せずにシェアポイントファイルを編集しようとします
6:15
三つ目は部分的なサイレント処理です
6:17
ステップ2が失敗しますがテキストが自信に満ちているように見えるためエージェントは処理を続行し成功を宣言します
6:21
このようなケースは見たことがあるでしょう
6:22
あなたはそれを不安定だと呼びました
6:24
エグゼキュータは退屈に見えるループを実行しますがそれが機能する理由です
6:26
前提条件入力権限および普遍条件を確認します
6:30
アクションアイテム攻力キーを使用してツールを呼び出し再試行で二重請求や二重投稿が発生しないようにします
6:35
事後条件真実のソースに対して効果を確認します
6:39
エラー分類検証一時的レート制限若年またはポリシーのどれですか
6:43
回復一時的の場合はバックオフして再試行
6:46
認証の場合は再認証または再同意
6:48
基地の代替手段の場合はホールバック
6:50
ポリシー違反の場合は理由付きのハードストップ
6:53
歴等性は譲れません
6:54
アクションを再試行できる場合は2回目の試行を何もしないか一貫したオーバーライドにするキーが必要です
6:59
タイムアウトはゾンビ呼び出しを防ぎます
7:01
バックオフはレート制限を尊重します
7:04
これは本質的に確率的なテキスト生成を制御する決定論的な動作です
7:08
エグゼキュータはギアボックスです
7:10
LLMはエンジンです
7:12
エンジンを全開にして車輪が理解してくれることを期待するようなことはしません
7:15
契約優先の出力はベストエフォートの段落に対する下毒剤です
7:18
推論モデルは長々と話すことはありません
7:20
ツール名、引数、期待される事後条件などスキーマに一致するJSONを出力します
7:24
バリデーターは何かが実行される前にスキーマ準拠をチェックします
7:27
形状が間違っている場合実行者は理由を添えて拒否するか
7:30
修正されたプランを要求するかエスカレーションします
7:32
こうして名刺サラダが本番環境のインシデントになるのを防ぎます
7:34
さてモデルに作業をチェックするように促すだけではダメなのか
7:37
と思うかもしれません
7:38
尋ねることができます
7:39
モデルははいと答えます
7:40
常にそうです
7:41
平均的なユーザーはそれを受け入れています
7:43
プロフェッショナルは証明を必要とします
7:44
証明はマイクロソフトグラフ、シェアポイント、エクスチェンジなどのシステムに対して検証された事後条件にあります
7:49
モデルのメモリではなく真の情報源です
7:51
しかしここからが興味深いところです
7:53
単一のステップは問題ありません
7:54
実際のワークフローには分岐、並列処理、保証、人間のチェックポイントがあります
7:58
実行者以上のものが必要です
8:00
実行者が読み取れるマップが必要です
8:02
それがワークフローグラフです
8:03
グラフではノードは明示的な契約を持つタスクまたはサブエージェントです
8:06
エッジは制御フローとデータフローを定義します
8:08
状態は第一級です
8:09
何が永続的で、何がチェックポイントされ、何が一時的か
8:12
実行者は各エッジの許可ニストとスキーマを尊重しながら
8:15
決定論的にグラフを操作します
8:16
ノードが失敗した場合、グラフは保証、取り消し、修復、またはエスカレーションを指定します
8:22
謎のパイプはありません
8:23
そして魔法が起こります
8:25
信頼性が反転する瞬間です
8:27
LLMが提案します
8:28
実行者が強制します
8:30
グラフ制約検証が決定します
8:32
秩序が回復します
8:33
認知と操作を分離すると、エージェントは即興で行動するのをやめ、行動し始めます
8:38
そしてエージェントは賢いので、まだ賢いと感じますが、今は監視されています
8:41
設計図の準備ができました
8:43
テナントをバフィに変えることなく、マイクロソフト365に接続しましょう
8:47
グラフワークフロー101
8:48
ノード、エッジそして情報漏洩のない状態
8:51
これを想像してみてください
8:52
信頼できる実行エンジンはありますが、マップがありません
8:54
命令には従いますが、どこへ?
8:56
そこでワークフローグラフ、つまり操作マニュアルの登場です
8:59
ノードは明示的な契約を持つタスクまたはサブエージェントです
9:02
エッジは制御フローとデータフローを定義します
9:04
グラフは何が実行されるか、いつ実行されるか、境界を超えることが許可されるデータをエンコードします
9:08
即興やジャズはありません
9:10
これは楽譜です
9:11
形状から始めましょう
9:13
ほとんどのプロダクショングラフは有効批准解グラフ、DAGです
9:16
なぜなら、サイクルは無限ループと状態の破損を招くからです
9:20
ループがあっても構いませんが、カウンターとガード、最大反復回数、終了術後、タイムアウトで意図的にマークします
9:26
そうすることで、より深く考えることが永遠に考え続けることにならないようにします
9:30
条件付きルーティングは明示的です
9:32
取得の信頼度が敷地を超えている場合は、合成に分岐します
9:36
そうでない場合は、サイクエリに分岐します
9:38
並列処理は最優先事項です
9:40
要約と引用抽出を並行して実行し、両方が事後条件を満たしたことを検証するバリアノードで結合します
9:46
状態は雰囲気ではなく、台帳です
9:49
3種類の状態を維持します
9:50
永続状態、クラッシュ後に回復できる耐久性のあるチェックポイント、入力、決定、署名付きアクション
9:56
一時状態、中間モデル出力など、長期メモリを汚染したくない短命の爆破
10:00
派生状態、埋め込みやフィルタリングされた結果など、決定論的に構築できる再計算可能なアーティファクト
10:05
ルールは単純で、監査で擁護できるものだけを永続化します
10:08
それ以外は全て意図的に破棄されます
10:11
ロールバック戦略が重要です
10:12
ノードが外部世界を変更したり、カレンダーイベントを作成したり、リストアイテムを更新したりすると、逆アクションが存在する場合はそれを記録するか存在しない場合は保証プランを記録します
10:21
下流のノードが致命的に失敗した場合、グラフはこれらの保証を逆順にたどることができます
10:25
いいえ、これはやりすぎではありません
10:27
これは、CEOの予約が20になってしまい、修正できないという事態を回避する方法です
10:31
エッジは契約を運びます
10:33
エッジは謎のパイプではなく、ノード間のAPIです
10:36
Ioスキーマ、タイプ、必須フィールド、許可値を定義します
10:40
次のノードが呼び出すことができるツールやドメインである許可リストを定義します
10:43
受信ノードが実行を約束し、拒否する機能タグを定義します
10:47
実行者は実行時にこれらを強制します
10:50
ノードは、サマリーエッジを介してシェアポイントトークンを密輸することはできません
10:53
これはセキュリティの見せかけではなく、エージェントによる横方向の移動を防ぐ方法です
10:58
エラー処理は、バイブではなくグラフにあります
11:01
全てのノードは、検証エラー、一時的なインフラストラクチャ、レート制限、認証、認可、ポリシー違反、不明などのエラー分類を宣言します
11:11
グラフは、各クラスに対してパスを提供します
11:14
一時的な場合は指数バックオフで再試行し、認証の場合はトークンを更新し、レート制限の場合は代替ツールを使用し、ポリシーの場合は理由付きで拒否します
11:22
未知のものにはデッドレター9が用意されています
11:24
失敗したペイロードは完全なコンテキストと共に隔離されるため、人間は混乱を本番環境に再現することなく検査できます
11:30
Human in the Loopチェックポイントは、アドホックなスラックメッセージではありません
11:34
実行を一時停止し、提案されたアクションと証拠を提示し、ログに記録され署名された承認または編集を要求します
11:39
承認されると、実行が再開されます
11:41
拒否された場合は、グラフは安全なホールバックにルートします
11:44
おめでとうございます
11:45
開発者が実際に従う変更管理を実装しました
11:48
なぜなら、これはメールよりも早いからです
11:54
必要なドキュメント、トークン、および中間結果のみを取得します
11:57
クロスセッションポイズニング、つまりある会話のプロンプとインジェクションが別の会話に漏れ出すことが、意図せずデータを漏えいさせる原因です
12:03
グラフは境界を強制します
12:05
共有可変メモリはなく、コンテンツフィルタとスキーマバリデータを備えた検証済みのストアからの承認された読み取りのみです
12:10
はい、埋め込みと要約をキャッシュすることはできますが、それらには出書と権限をタグ付けし、ポリシーの変更時に削除します
12:16
可観測性は組み込みであり、後付けではありません
12:18
ノードレベルのトレースは、入力、出力、期間、再試行、下流への影響を示します
12:23
トレースをグラフ実行IDに結合して、再生、診断、コンプライアンスの証明ができるようにします
12:28
誰が、いつ、なぜ、何をしたのか
12:30
異常検出は、奇妙なパターン、ツール呼び出しの急激な増加、異常なドメイン、トークンの爆発をフラグ付けします
12:35
これは、興味深いものがインシデントになる前の早期警告システムです
12:38
基本的に、グラフは憲法です
12:40
執行者は法執行機関です
12:42
LLMは弁護士であり、裁判官ではありません
12:45
このようにノード、エッジ状態をエンコードすると、成功するワークフローが得られるだけでなく、安全に失敗し、自己説明し、予測可能な回復を行うワークフローが得られます
12:53
これで、設計図が手に入ったので、テナントをビュッフェにすることなくマイクロソフト365に接続できます
12:59
設計によるセキュリティ
13:00
グラフ検証はカオスエンジニアリングに勝ります
13:03
信頼性を証明するには、本番環境に混乱を招き、生き残ったものが回復力を持っていることを期待するだけでは不十分です
13:07
信頼性を証明するには、安全でないワークフローが実行される前に拒否する必要があります
13:11
これがグラフ検証です
13:12
静的チェックで無意味なものを排除し、ランタイムガードレールで危険を封じ込めます
13:16
静的検証はプリフライトです
13:18
離陸前に構造をチェックします
13:20
無限ループを作成するサイクルは拒否されるか、反復ガードの宣言を強制されます
13:24
到達不能なノード、デッドコードは削除または正当化されます
13:27
契約が欠落している場合、すべてのノードは入力スキーマと出力スキーマ、必要な機能、副作用を宣言する必要があります
13:33
特権境界、外部システムを変更するノードは、最小特権資格情報と明示的な許可リストを使用してセグメント内で実行する必要があります
13:41
そして、ようやくノードが突然シェアポイントへの書き込みアクセスを要求した場合、バリデーターは容赦なく拒否します
13:46
次に、ランタイムです
13:48
ここで人々はいい加減になります
13:50
ポリシーエンジンは実行エンジンの後ろではなく、横に配置されます
13:53
ツールとドメインの許可リストはドキュメントではなく、強制される決定です
13:57
呼び出し時に、エンジンはアクティブなプリンシパル、内部IDトークン、スコープ、クレームに対して、私たちのバックまたは私たちのバックをチェックし、チェーンの下流に正しく伝播します
14:04
アンビエントのスーパーパワーはありません
14:06
トークンはスコープされ、許可された時に更新され、フレンドリーエッジを介して密輸されることはありません
14:10
エージェントは全ての呼び出しでアクセス権を獲得するか、呼び出しを行いません
14:13
入力と出力のサニタイズは衛星であり、オプションではありません
14:16
プロンプトの挿入は巧妙ではなく、予測可能です
14:19
全ての受信コンテンツソースは、コンテンツフィルタ、HTML、マークダウンスクラバー、および無視すべき無意味なものを削除する命令ファイアウォールを通過します
14:27
出力はスキーマバリデーターを通過します
14:29
ノードがJSONを約束した場合、エグゼキュータは3分を拒否し、修復を要求します
14:34
モデルは議論できますが、バリデーターは交渉しません
14:37
型、範囲、および普遍条件を強制します
14:40
サンドボックスとセグメンテーションは爆発半径を制限します
14:43
外部コードまたは信頼できないコネクタを呼び出すノードは、制約された環境で実行されます
14:48
レート制限と横方向の移動を防止するネットワークポリシーを備えたAPIゲートウェイ、および検証済みのドメインへのトラフィックのみを許可する出力制御
14:56
取得ノードが本番環境で新しいデータソースを発見することを許しません
15:00
検出は許可リストへの署名付き更新を伴うテストの背後にある開発環境で行われます
15:05
可観測性はどこかにログ記録されるのではなく、下下手術のようなものです
15:08
ノードレベルのトレースはポリシーエンジンからの入力、出力、期間、再試行、および決定を記録します
15:12
実行IDの下で全てを関連付けます
15:15
監査ログは普遍であり、どのプリンシパルがどのスコープでどのアクションをいつ許可したか、そしてポリシーがそれを許可した理由が帰属されます
15:22
規制当局が誰が何をしたかを尋ねたとき、肩をすくめるのではなく調査します
15:25
コンプライアンス対応とは、証拠が退屈で完全であることを意味します
15:28
パッチとサードパーティのリスクはサプライチェーンの問題です
15:31
そのように扱います
15:32
依存関係のスキャンは全てのビルドで実行されます
15:34
コネクタとプラグインは監査され、バージョンが固定され、権限の肥大化がないかレビューされます
15:38
MCPまたはOpenAPI仕様をインポートする場合は、宣言されたメソッドが期待する最小権限ポリシーに一致することを検証します
15:45
ワイルドカードエンドポイントも、読み取りを装った隠し書き込みパスもありません
15:49
衛生管理は華やかではありませんが、あなたが安心して眠れる理由です
15:53
真実グラフ検証はカオスエンジニアリングよりも優れています
15:56
なぜなら、インシデントの結果を文書化するのではなく、インシデントのクラスを防止するからです
16:00
障害モードはテストしますが、ガードレールのインストールを忘れたことを発見するためではなく、ガードレールを確認するために行います
16:05
これをメンタルモデルに結びつけてみましょう
16:07
静的チェックはブループリントを健全に保ちます
16:09
不可能なパスも、孤立した作業も、権限の漏洩もありません
16:13
ランタイムガードレールは動作を健全に保ちます
16:16
すべての呼び出しは認証され、認可され、サニタイズされ、監視されます
16:20
実行者は、バリデーターが決定したグラフ制約を強制します
16:23
モデルは、境界内で提案し、逸脱するとクリップされます
16:27
これは重すぎませんか?違反を楽しむ場合だけです
16:30
オーバーヘッドは機械的で自動化されています
16:32
静的検証はビルド時とデプロイ時に実行されます
16:35
ランタイムポリシーはサイドカーであり、高速でローカルです
16:38
スキーマチェックはミリ秒単位です
16:40
削減できるコスト、つまりインシデント、手動レビュー、回収にかかる費用は、追加されるわずかな遅延を遥かに上回ります
16:45
そして、その見返りは測定可能です
16:48
不正な呼び出し、トークンの爆発、そして事後検証の回数が大幅に減少します
16:53
平均的なユーザーが見落としがちな点がもう一つあります
16:57
検証は構成可能です
16:58
サードパーティツールを、ツール自体を信頼することなく契約とポリシーを強制するプロキシノードでラップできます
17:04
グラフを機密性、公開、内部、制限付きでセグメント化し、新しい境界の検証に合格した後にのみ、回想間でワークフローを昇格させることができます
17:12
これが安全なスケーリングの方法です
17:15
設計段階からのセキュリティはスローガンではなく、ワークフローの特性です
17:18
エージェントが適切に動作することを期待するのではなく、不正動作を構造的に困難にし、運用神化しかします
17:23
レールが整備されていれば、マイクロソフト365グラフとアジュールオープンAIを接続するのはルーレットではありません
17:28
それは、自分の条件で制御されたパワーです
17:30
これで、引消しではなく配線について話すことができます
17:33
マイクロソフトのシナリオ、M365グラフとアジュールオープンAIとコパイロットスタジオの組み合わせです
17:39
キャストを揃えましょう
17:40
取得エージェントは、最小限の権限でマイクロソフトグラフからのみデータを取得する規律あるライブラリアンです
17:45
推論エージェントは、計画、サイト設定を行い、その範囲を超えてフリーランスになることはないアジュールオープンAIモデルです
17:52
実行者は、べき統制と事後条件チェックを備えたツールを実行するポリシーに拘束されたオペレーターです
17:57
検証者は、バウンサー、スキーマ、ポリシー、境界の強制です
18:02
ポリシーガードは、すべてをエントラーIDスコープとRBACに結びつけるランタイムサイドカーです
18:06
これらが連携して、委員会スレッドではなく、有能なチームのように動作します
18:10
データアクセスは推測ではなくグラフから始まります
18:12
取得エージェントは、きめ細かいスコープを持つアプリ登録を保持します
18:15
ファイルは、特定のサイト用に読み取られます
18:17
メールは、限定されたメールボックス用に基本的に読み取られます
18:19
カレンダーは、リソースカレンダー用に読み取られます
18:22
グラフの読み書きによるすべてのヒーロー行為はありません
18:24
クエリは、ペイロードを薄く保つためにデルタと選択フィールドを使用します
18:27
ページングはファーストクラスです
18:29
実行者は、サービスのスロットリングを尊重しながら、タイムアウト付きで次のリンクを決定論的にたどります
18:33
429エラーが発生した場合は、バックオフは数学的に行われます
18:36
感触を起こすのではなく、指数関数的な忍耐力を発揮します
18:39
グラウンディングは、雰囲気ではなく、パイプラインです
18:41
グラフ検索またはリストクエリを使用して候補ドキュメントを取得します
18:44
古いものと最新のものが混ざらないように、アイテムIDとバージョンEタグで重複を排除します
18:48
意味境界、セクションヘッダー、スライドブレイクでチャンクを作成し、来歴、ドライブ、サイト、パス、アイテムID、最終更新日、割り当てられたハッシュを添付します
18:57
推論エージェントはチャンクとメタデータのみを参照し、それらのIDにマッピングされた引用を出力する必要があります
19:03
引用がなければ、クレームはできません
19:05
実行者は、外部アクションの前に事後条件としてこれを強制します
19:08
オーケストレーションにはコパイロットスタジオを使用します
19:11
宣言ツール、グラフクエリパック、シェアポイント書き込みアクション、チーム投稿、アウトルック送信をそれぞれ明示的なスキーマと許可リストを持つプロ騎士の背後で定義します
19:19
エージェント間の連携は構造化されています
19:21
検索エージェントはグラウンドツールを公開します
19:24
推論エージェントはパラメータ付きでそれを要求します
19:26
実行エージェントは仲介、検証を行い、グラウンドコンテキストを返します
19:31
人間のチェックポイントはネイティブです
19:33
提案されたアクションノードは実行を一時停止し、プランと引用を表示し、承認を要求します
19:38
承認は署名され、ログに記録されます
19:40
拒否された場合は、安全な代替手段またはエスカレーションにルーティングされます
19:43
トークンとレイテンシは管理され、無視されることはありません
19:46
選択的コンテキストとは、テナント全体ではなく、関連するチャンクのみをフィードすることを意味します
19:50
要約は事前に計算され、コンテンツハッシュと権限によってキー付けされた埋め込みと共にキャッシュされます
19:55
ドキュメントを変更し、キーを変更し、キャッシュをミスした場合は再計算します
19:58
ストリーミング応答により、実行エージェントが完全なスキーマ有効プランが到着した後にのみ副作用を処理する間、UIはアクティブな状態を維持します
20:04
早期終了条件は、信頼度とカバレッジが敷地に達した時に推論ループを停止します
20:09
モデルが指摘だと感じたため、余計な思考は必要ありません
20:12
監査可能性は組み込まれています
20:14
すべてのアクションは、サービスプリンシパルまたは委任されたユーザーによって署名され、実行ID、ツールパラメーター、必要に応じて編集、スコープ、および結果がスタンプされます
20:23
普遍のログは、オブザーバビリティスタックに保存されます
20:26
お好みのものを選択してください
20:28
副作用を再実行することなく実行をリプレイできます
20:30
誰が、いつ、なぜ何をしたのかは、魔女狩りではなくクエリになります
20:34
そして、引用はそのまま残るので、回答がモデル法ではなく実際のテナントコンテンツにトレースされていることを確認できます
20:39
障害は標準化され、退屈です
20:41
429エラーの場合、エグゼキュータはジッターを使用して再試行し、その後、より低コストのクエリまたは縮小されたページサイズにホールバックします
20:47
キャッシュが古い場合、バリデーターは一致しないEタグを検出し、更新を強制します
20:51
権限が拒否された場合、ポリシーガードは理由を添えて拒否し、同意要求パスを提案するか、漏洩しない編集された要約にルーティングします
20:58
ツールが停止した場合、グラフは代替手段を宣言するか、人間の修復のために完全なコンテキストと共に実行をデッドレター級に保留します
21:04
決定論的なホールバックにより、インシデントがチケットに変換されます
21:08
次に、非常に簡単なウォークスルーを示します
21:10
ユーザーが、リンク付きの前市販機のロードマップ決定の概要を作成してくださいと要求します
21:14
推論エージェントは、特定のシェアポイントサイトとチームチャンネル全体でグラフ検索を使用し、全市販機でフィルタリングしてから統合しますと提案します
21:20
バリデーターは、要求されたスコープがエージェントの役割と一致しているかどうかを確認します
21:24
一致しています
21:25
実行者は、ページングとフィールド選択を使用してグラフ呼び出しを発行し、アイテムIDで重複を排除し、チャンク化して出所情報付きのコンテキストを返します
21:31
推論は、アイテムIDにマッピングされたインライン引用を含む概要を生成します
21:36
バリデーターはスキーマと引用をチェックし、合格します
21:38
概要と証拠を含む人間のチェックポイントが表示されます
21:41
承認者は、OKをクリックします
21:43
実行者は、結果をチームに投稿し、関係者にメールを送信します
21:46
各アクションはアイテムの攻力キーを使用するため、再試行で二重投稿されることはありません
21:49
規律に注目してください
21:51
エージェントはツールを発明せず、ノードは許可リスト外のドメインを横断しません
21:54
トークンは、ノード間でコピー&ペーストされるのではなく、エントラーIDを介して正しくスコープされ、伝播されます
22:00
モデルは成功を結論付けることはありません
22:02
実行者は、グラフのポスト条件を使用してそれを証明します
22:05
メッセージIDを作成し、アイテムEタグ、カレンダーイベントIDを更新し、実行完了をスタンプします
22:09
そして、MCPまたはオープンAPIを介してプランナー、Viva、またはサードパーティサービスを取り込むことで、これを安全に拡張できますが、厳格なスキーマとネットワーク出力制御を備えたプロキシツールの背後でのみ可能です
22:18
すべてのコネクタを同じバリデータロジックとポリシーガードでラップします
22:21
環境間の昇格には、新しい境界に一致する検証パスが必要です
22:25
スコープの増加がレビューされ、想定されない開発からテスト、本番へと移行します
22:29
これが、マイクロソフトのアーキテクチャを正しく実装したものです
22:31
グラフは真実です
22:32
Azure OpenAIは思考、Copilot Studioはオーケストレーション、実行者は操作、バリデータとポリシーは安全性、可観測性は証明です
22:41
次は数値、雰囲気ではありません
22:43
前後のメトリック、精度、レイテンシ、コスト、管理オーバーヘッド、素晴らしいアーキテクチャ、それを証明してください
22:50
数値、雰囲気ではありません
22:52
まずベースラインですが、プロンプトのみのエージェントは大げさです
22:54
情報源を捏造したり引用を忘れたりするため、精度は一貫していません
22:58
根拠がないため、どこにも繋がらない自信満々の文章になります
23:02
テールレイテンシはひどいものです
23:04
冗長なコンテキストで膨れ上がった、より深く考えるための呼び出しが延々と続く長いチェーンです
23:08
各ターンで、まるで高額な宅配便サービスのように、完全なトランスクリプトと正のドキュメントがモデルに送り返されるため、コストは急上昇します
23:15
管理オーバーヘッドは?
23:17
高いです
23:17
インシデント、ホットフィックス、謎の障害、目隠しをした考古学のような監査が発生します
23:22
次に、実行者と検証済みのグラフを備えた後の状態です
23:25
クレームには領収書が必要なので、精度が飛躍的に向上します
23:28
グラフアイテムID、eタグ、署名付きハッシュに紐付けられた根拠のある引用により、出所のない回答は検証者を通過しません
23:35
効果はすぐに現れます
23:36
誤った回答の送信が減り、再作業ループが減り、評価セットでのタスク成功率が測定可能なほど向上します
23:42
クレームが裏付けられない場合、エージェントは理由を添えて拒否するか、人間の承認を求めます
23:46
予測可能で、レビュー可能で、安全です
23:49
0点子が圧縮される理由は3つあります
23:51
まず、並列処理、検索、再ランキング、引用抽出が並行して実行され、バリアノードで同期されます
23:57
次に、コンテンツハッシュと権限スコープでキー付けされたキャッシュ、埋め込み、要約により、変更されていないものの再計算が回避されます
24:02
3つ目は、早期終了です
24:04
カバレッジと信頼度が敷地に達すると、グラフはループを停止します
24:08
モデルが段落を反映するシリアルプロンプトと、ユーザーが終了を検討するシリアルプロンプトと比較してください
24:13
トークン規律が強制されるため、コストが削減されます
24:16
スキーマ制約付き出力により、冗長な記述が防止されます
24:19
選択的コンテキストにより、メタデータ付きの関連チャンクのみがフィードされ、サイト全体がフィードされることはありません
24:23
プロンプトが短くなり、応答が小さくなり、再試行が減ります
24:26
エグゼキュータのアイテム効力とバックオフロジックにより、重複呼び出しと無駄なサイクルが回避されます
24:31
結果として、成功した結果あたりのトークン数が少なくなり、ばらつきが大幅に減少します
24:35
財務部門はサイの削減を好みます
24:37
可観測性が設計されているため、管理オーバーヘッドが縮小します
24:40
ノードレベルのトレースと普遍のログにより、インシデント診断までの時間が短縮されます
24:44
どのノードが失敗したか、ポリシーエンジンが拒否した理由、実行者が次に何を試みたかがわかります
24:49
再現可能なデプロイメントにより、マシンシアターでの作業が削減されます
24:52
すべての実行に誰が、何を、いつ、なぜ言ったかがすでに含まれているため、コンプライアンスは季節的な危機ではなくなります
24:58
実際に実行できる測定リグを使用して、これを具体的にしましょう
25:02
代表的なタスク、引用付きのQ&A、リンク付きの要約、承認付きのアクション提案の評価セットを作成します
25:08
定義された各ゴールデンアンサーまたは受け入れ基準について、マッピングされたアイテムID、引用カバレッジ及び許容される際を使用して事実を修正します
25:15
スロップ50及びP95エンド2エンドの0点し、成功したタスクごとのトークン消費、ポリシー拒否率を計測します
25:21
すべてのメトリックをトレースにリンクして、回帰が発生した場合にパンクズの道筋が残るようにします
25:25
アーキテクチャに従うことで、期待される結果が得られます
25:28
回答の妥当性が向上します
25:30
サポートされていないクレームはステージングから出ないためです
25:33
並列濃度と早期終了によりロングテールが切り捨てられるため、P950点子が低下します
25:38
長文のレポートを配信するのをやめて関連性の高いスニペットを配信し始めるため、トークンの消費量が削減されます
25:43
ほとんどの障害は決定論的なホールバックで処理されるため、管理者へのページ数が減少します
25:48
そして、誰もが忘れがちな退屈な指標もあります
25:51
初回パス完了率の成功率、人間の介入なしに完了する実行が増えます
25:55
ビジネスへの影響、解決が早くなると、ユーザーは重複したチケットを開くことがなくなります
25:58
予測可能な支出により、トークンの予期せぬ余剰なしに予算を立てることができます
26:02
コンプライアンスへの信頼により、監査サイクルがロードマップを乗っ取ることが減ります
26:06
目立たないメリットは評判です
26:08
エージェントの回答がテナントのコンテンツを引用し、リンクが機能すると、人々はそれを信頼し、使用し、なぜこんなことが書いてあったのか
26:15
出始まるスクリーンショットを転送しなくなります
26:18
直接的な命令型アドバイス、測定トレースとメトリックのリンクを測定しないと、意見だけで行動していることになります
26:23
実行結果を開いて、どのノードがトークンを水増ししたか、レイテンシーを滞らせたかを正確に確認できないのであれば、それは可観測性ではなく、タイムスタンプ付きの雰囲気にすぎません
26:30
バリデーターが理想的な計画と実際の動作の間に位置することで、すべてが変わります
26:34
精度が安定し、レイテンシーが縮小し、コストが平準化され、管理者は安心して眠ることができます
26:39
これは魔法ではなく、実行エンジン、グラフ、検証ツールがプロンプトに誤って割り当てた作業を実際に言っている結果です