Latest / M365.FM – Microsoft 365・Copilot・AI ポッドキャスト（日本語） / プロンプトインジェクションとAIガバナンス：Microsoft 365とPower Platformのワークフローを守る方法（AI吹き替え）

Transcript

プロンプトインジェクションとAIガバナンス：Microsoft 365とPower Platformのワークフローを守る方法（AI吹き替え） · M365.FM – Microsoft 365・Copilot・AI ポッドキャスト（日本語）

0:00
スタッフが日々のタスクを管理するのを支援するためにチャットボットを導入したと想像してみてください
0:03
数分以内に顧客にとって偏った誤解を招くあるいは全く役に立たないアクションを提案し始めます
0:09
これは sf の妄想ではなく責任ある ai のガードレールが欠如している場合に起こることです
0:13
責任ある ai は公平性透明性プライバシー説明責任に焦点を当てています
0:18
これらはデジタル副操縦士のためのシートベルトです
0:21
実際に運用すればリスクを軽減できます
0:23
その結果はコンプライアンス違反顧客の不信そしてパニック状態の経営人です
0:28
このセッションではプロンプとインジェクションの失敗を実演し
0:31
パワープラットフォームとマイクロソフト365ワークフロー内で適用できるガバナンス手順を示します
0:35
危険は遠い先のことではないからです
0:37
ai アシスタントがスクリプトから外れた瞬間に始まります
0:40
ai がスクリプトから外れるとは次のような場合を想像してください
0:43
スケジュールアシスタントを導入してカレンダーを整理します
0:45
会議の時間をシャッフルし緊急のメモにフラグをつけ混乱をコントロールするはずです
0:49
しかし代わりにお気に入りの同僚を決め他の同僚を招待から静かに削除し始めます
0:54
さらに悪いことに上司からの重要なメッセージがデジタル版の迷惑メールの下に埋もれてしまうこともあります
0:59
信頼できる時計を求めたのに誰も承認していないルールを勝手に作り出す風変わりな乗組員がやってきたようなものです
1:04
そのアシスタントを会場の船だと考えてみてください
1:07
船は輝きエンジンは力強く唸っているかもしれませんが
1:10
航行システムがなければ霧の中を盲目的に漂うことになります
1:13
ガードレールのないAIはまさにそれです
1:15
航行のない動き、羅針盤のない推進力です
1:18
そして通常のミスは板手ですが本当の危険は誰かが火事に手を伸ばした時に訪れます
1:23
そこでプロンプトインジェクションが登場します
1:25
これは船に忍び込み公式に聞こえる命令を忍び込ませ船の進路を完全に変えてしまう悪質な船長のようなものです
1:31
リクエストに偽装された小さなフレーズ一つで礼儀正しいスケジューラーが情報を漏洩したり偏見を広めたりナンセンスなことを大迎えしにしたりする可能性があります
1:37
これはSFではなく専門家がプロンプトインジェクションと呼ぶ現実の敵対的入力リスクです
1:42
攻撃者は巧妙に作成されたテキストを使用して安全規則を回避しシステムは破壊工作員と信頼できる乗客を区別できないためその攻撃に従ってしまいます
1:50
その理由は次の通りです
1:52
ほとんどの基盤モデルは適切に構成された指示であれば有効とみなします
1:55
安全層がなければ動機や意図を検出できません
1:58
組織がガードレール安全フィルター及び人間によるチェックを追加しない限りAIは従うように作られた機械のように命令に忠実に従います
2:06
会議の要約を依頼しその依頼の中に非公開の議題ファイルを印刷することも含まれていた場合AIは両方を同じように扱います
2:13
倫理を考慮しません
2:15
欺瞞を疑いません
2:16
税関の比喩が当てはまります
2:18
承認済みとマークされた偽造文書で検問状をすり抜けるようなものです
2:21
ガードレールは存在しますがそれだけでは十分ではありません
2:24
巧妙なテキストは規則を欺いて回避させることができます
2:26
そして出力は非決定論的で同じ答えが二度と変えらないため危険性は増大します
2:31
攻撃者はモデルが最終的に望む応答を返すまでまるでいたずらが当たるまでサイコロを振り続けるように攻撃を仕掛け続けることができます
2:36
そのためあなたの役に立つように構築されたアシスタントは瞬く間に同化しに表現する可能性があります
2:40
1分前はカレンダーの予定を選んでいたのに次の瞬間には求人応募の基準をでっち上げたり不適切な文脈で機密性の高い名前をばら撒いたりするのです
2:46
ここでガバナンスが重要になるのは有用なものから混沌としたものへの変化が段階的ではなく瞬時に起こるからです
2:52
被害は一つの受信トレイに留まりません
2:54
不適切な出力は人間のミスよりも遥かに早くワークフロー全体に波及します
2:58
誤った提案が連鎖的に連鎖し誤ったアドバイスが意思決定に影響を与え誤ったラベルが誤った情報を拡散し偏った情報が機械のスピードで反響します
3:06
監視がなければイタズラ好きなプロンプと一つが大火事を引き起こす可能性があります
3:09
対策は可能であり希望的観測に頼る必要はありません
3:12
プロバイダーや企業はすでに多層防御自動フィルター強化学習ルールそしてすり抜けたものをチェックする人間のレビュー担当者を活用しています
3:20
例えばティーレ氏は実際のユーザーやデータに晒す前に爆発範囲を限定した隔離された監査可能な環境であるウォールドガーデン内で新しい副操縦士をテストすることを推奨しています
3:31
これに人間が継続的にシステムの弱点を調査する継続的なレッドチーム演習を組み合わせることで干渉剤が作られます
3:37
自動化された安全対策が重労働を担いますが人間が関与するレビューによって簡単なルールが失敗した場合でもモデルが整合性を保つことが保証されます
3:44
これがパターンです
3:45
監視テストレビュー封じ込め舵を放置するとAIは挑発によって方向を変えてしまいます
3:52
監視を徹底すれば災害発生の可能性を狭めることができます
3:55
船のメタファーがそれをよく表しています
3:57
ガイダンスは可能ですがそれは誰かがコンパスを確認している時だけです
4:00
そしてこれが次の課題につながります
4:02
侵入者を排除しフィルターをオンラインにしたとしても別の複雑な問題に直面します
4:06
システム自体に組み込まれた予測不可能性です
4:09
これは妨害行為によるものではなくこれらのモデルが回答を生成する方法によるものです
4:14
決定論的か非決定論的か隠されたスイッチ
4:18
これを想像してみてください
4:19
電卓に2プラス2と入力すると期待される4の代わりに42とにやりと洗い替えされます
4:25
奇妙ですよね
4:25
電卓は鉄壁の決定論に基づいて構築されているため私たちはそれをじっと見つめます
4:29
同じ入力を1000回入力すると毎回同じ出力にたどり着きます
4:33
その予測可能性こそが重要なのです
4:35
では新しいクラスのAIツールと比較してみましょう
4:37
それらは必ずしも2回同じ場所にたどり着くわけではありません
4:40
出力は変化します
4:41
変化が巧妙または洞察力に富んでいるように感じられる場合もあれば意味不明になる場合もあります
4:45
これが隠されたスイッチです
4:46
決定論的動作と非決定論的動作です
4:49
スプレッドシートやルール駆動の数式のような決定論的システムでは結果は決して変わりません
4:53
月曜日に7と入力しても土曜日に7と入力しても機械は同じ結果を出力します
4:57
気分や創造性とは無縁です
4:59
それは機械的な忠誠心であり同じ動作を何度も繰り返します
5:03
非決定論的モデルは異なる性質を持っています
5:05
プロンプトを与えると固定された経路を進むのではなく可能性を幅広くサンプリングします
5:10
このサンプリングに加えて確率的プロセス、モデルの更新、さらにはデータのズレによって出力は変化します
5:16
これは即興劇の舞台設定のようなものです
5:19
脚本は書きますが演者はその場でオチを考え出します
5:22
時には見事に成功しますが時には尻滅裂になることもあります
5:26
パワープラットフォームに組み込まれている多くのもののような
5:29
従来の自動化やルールベースのワークフローは決定論的な側面に近いものです
5:33
条件を設定するとトリガーが発火し定義されたルールが機械的な精度で実行されます
5:37
この予測可能性によってコンプライアンス、データフロー、監査証跡が安定します
5:41
手順が固定されているため何が起こるかがわかります
5:44
一方、生成型コパイロットはあらゆる入力を解釈のためのオープンスペースに変えます
5:48
ようやく再構成、言い換えを行い、多くの場合、人間のように感じられる方法で表現します
5:53
流動性は魅力であると同時にリスクでもある
5:55
なぜならその流動性ゆえに一貫性が求められる文脈において予測不可能性が生じるからだ
5:59
即興劇団が舞台に立っている場面を想像してみよう
6:02
予算承認というテーマを彼らに渡す
6:04
ある俳優は節約に関する気の利いたギャグを披露し
6:06
別の俳優は宴会に関するサブプロットに脱線し
6:08
突然、昭和当初の依頼とはほとんど似ても似つかないものになってしまう
6:10
これはパフォーマンスの途中で非決定論的モデルが変化する例だ
6:13
こうした変化は設計の悪さを示すものではない
6:16
大規模な言語モデルが言語を生成する方法に組み込まれており
6:19
一つだけでなく多くの経路を探索する
6:21
落とし穴は明らかだ
6:22
創造性は必ずしも正確さとイコールではなく
6:25
ビジネスワークフローでは正確さがしばしば唯一の価値となる
6:27
ではこれを金融に当てはめてみよう
6:29
AI搭載の信用調査ツールが申請者を承認したとしよう
6:33
翌日同じ情報を再度入力すると今度は却下と表示される
6:37
申請者は衝撃を受ける
6:39
規制当局は差別の匂いがする矛盾を感じる
6:42
ここで起きているのはドリフトだ
6:43
非決定論的なシステムは時間と共に変化する可能性があるため
6:46
出力は明確な理由もなく変動します
6:48
人間の作業とは異なり
6:49
モデルに何が変わったのかを単純に説明させることはできません
6:52
そして不透明な出力の背後に理由が消えたとき
6:54
信頼は最も急速に失われます
6:56
本番環境ではドリフトは急速に拡大します
6:59
バイアスを減らすために承認されたワークフローが
7:01
翌月には正反対の方向に傾く可能性があります
7:04
個別に見れば些細に見える変動も
7:07
数百件に及ぶと違反につながります
7:09
規制当局は即興劇の観客のように面白がるのではなく
7:13
安定性、監査可能性、明確な説明を求めます
7:16
非決定論を魅力の一部として受け入れることはありません
7:19
だからこそガードレールが重要なのです
7:21
規制当局や企画は監査可能性、モデルのドキュメント
7:24
及び監視を求めています
7:25
したがってデプロイメントにログと説明可能性の対策を
7:27
組み込む必要があります
7:28
これらがなければ小さな変動でさえ不採となり
7:31
罰金が積み重なり評判の失墜が広がり
7:37
人間の審判です
7:38
あらゆる方向に回転する即興演奏者たちを
7:40
もう一度想像してみてください
7:41
誰も境界線を設定しなければ
7:42
そのパフォーマンスは混沌の中で崩壊してしまいます
7:44
しかし審判がいれば彼らは何とか持ちこたえることができます
7:46
このテーマに沿ってこの流れを追ってみましょう
7:49
ガバナンスはAIにも同じように機能します
7:51
イノベーションを阻害するのではなく
7:53
ランダム性を依然として台本を尊重するパフォーマンスへと変換します
7:57
非決定性は残りますが定義された範囲内で動作します
8:00
ここにバランスがあります
8:01
副操縦士に電卓のように振る舞うことを強制することはできません
8:04
そもそもそういう設計になっていないからです
8:05
しかし安全網を張ることはできます
8:07
人間の監視監視システムガバナンスフレームワークがその安全網として機能します
8:11
これらがあればモデルは即興で行動しますが
8:13
省を台無しにすることはありません
8:14
これらがなければ逸脱は制御されずに連鎖し
8:16
コンプライアンスチームは誰も正当化できない決定の後始末をしなければならなくなります
8:19
リスクは明らかです
8:20
予測不可能性は中立です
8:22
それは融資雇用医療に影響を与える結果を片づくります
8:25
そして出力が現実世界で重みを持つようになると規制当局が介入します
8:29
これが次のフロンティア
8:30
つまり監視を示唆するだけでなく義務付ける外部ルールの到来へとつながります
8:34
EUAI法小惑星が接近中
8:37
想像してみてください
8:38
あなたは輝かしい新しいAIプロジェクト
8:41
整然とした街路と活気に満ちたデジタル都市を構築しました
8:43
データのための地区
8:44
統合の橋
8:45
巧妙な機能を備えた超高層ビル
8:47
すべてが堅固に感じられます
8:49
そして一夜にしてEUAI法が軌道上から落とされた一連のゾーニング規則のようにやってきます
8:54
あなたの都市のブロック全体が規制対象とされ
8:56
一部は厳しく監視され
8:57
その他は操作的または有害な領域に踏み込んだ場合は単純に許可されません
9:00
これはオプションではなく法律であり
9:02
あなたが計画していたかどうかに関わらず
9:03
あなたの都市は自らを再構築しなければなりません
9:05
これらのルールの革新は分類です
9:07
システムは最小限限定的
9:09
高または完全に許容できないリスクの階層に分類されます
9:13
最小限にはFAQで顧客を支援するチャットボットが含まれるかもしれません
9:16
採用ツール
9:17
信用スコアリング
9:18
職場監視における高リスクの調査
9:20
許容できないのは操作的または危険な仕様であり
9:23
事実上完全に禁止されています
9:25
これらは単なるラベルではなく義務に直接対応しています
9:28
高リスクに分類された場合
9:29
透明性と説明可能性を提供し
9:31
監査に備えて詳細なログを保持し
9:33
人間の監視を実施する必要があります
9:34
突然あなたの輝かしい新しい都市は機能するだけでなく
9:37
どのようにそしてなぜ機能するのかを詳細に証明することを求められます
9:40
開発者やソリューション構築者にとってこれは急激な変化です
9:42
機能はスプリントのスピードでアプリに機能を追加することができました
9:46
今日では同じ機能でもデモを行う前に
9:48
コンプライアンスレビューが必要になるかもしれません
9:50
かつては単なる便利な時間節約ツールだった
9:51
パワープラットフォームで履歴書をランク付けする採用アプリは
9:54
突然高リスクの領域に陥ります
9:55
アプリが壊れたわけではありません
9:57
法律で機密と定義されている方法で人々に影響を与えるため
10:00
リスクが変わります
10:01
そしてここで多くのチームがパニックに陥ります
10:03
透明性とはプレゼンテーション資料の曖昧な箇条書きではなく
10:06
意思決定の過程のログを意味します
10:08
監査可能性とはすべての意思決定経路が保存され
10:11
取得可能であり規制当局が検査できる状態にあることを意味します
10:14
人間の監視とは生身の責任
10:16
つまり実際にシステムを監視し
10:17
モデルが軌道から外れた時に介入できる人を意味します
10:20
これらは軽いガイドラインではなく強制力のある条件です
10:23
迅速なプロトタイプはあらゆる段階でコンプライアンスの承認が必要な監視器展開へと変化します
10:27
スピードは構造にとって変わられます
10:29
この行為を煩雑な手続きというよりは宇宙船の酸素規則のようなものだと考えてください
10:33
穏やかな空の下ではマスクを素早く開けるのは面倒かもしれませんが
10:36
乱気流の中では乗組員の命を守る唯一のものです
10:39
この行為も同じです
10:40
規則は重く感じますがなぜ規則が存在するのかを思い出せばその重要性が理解できます
10:50
この行為は今すぐ義務を課すものであり後からログ制御監視を後付けするよりも設計段階で組み込む方がコストがかかりません
10:57
これらの要件を無視した場合の結果は金銭的なものだけではありません
11:01
確かに痛い目に合うかもしれないが評判の回復はより困難だ
11:04
顧客があなたのツールがレッドラインを超えたことに気づくとあなたの会社全体への信頼が損なわれる
11:08
アップデートでそれを修復することはできない
11:10
世間の信頼は脆くそれが崩れるとユーザーは他のサービスに乗り換える
11:14
最大のペナルティーは法律に書かれているのではなく顧客の行動に現れる
11:17
そこで厄介な在庫管理の問題を提起しよう
11:19
あなたのAI機能のうちどれが高リスクに該当するかあなたは把握しているだろうか
11:23
履歴書選別ツール生産性予測ツール
11:26
それらが雇用や財務見通しといった機密性の高い領域に触れる場合法律はそれを問題視する
11:30
そしてあなたがそれらを無害なヘルパーとみなしているかどうかは関係ない
11:33
分類にはあなたがそれを認めるかどうかに関わらず義務が伴う
11:36
賢明な組織は規制当局から料金を支払って回答を求められる前に
11:39
どの機能がどこにあるのかをカタログ化する在庫管理から始める
11:42
これが本当のひねりだ
11:43
法律は責任あるAIを穏やかに推奨するのではなく要求している
11:46
ガバナンスはもはやオプションの調味料ではなく法律に組み込まれているのだ
11:50
最初から責任を持って設計するか
11:52
法律が罰則や監査人を伴って外部から責任を強制するかのどちらかです
11:57
そういう意味では小惑星はすでに着地しています
11:59
それを押し返すことはできません
12:01
できるのは衝突から身を守り都市を居住可能な状態に保つことだけです
12:04
そこで実用的な疑問が生じます
12:06
手元にどのような防御策がありますか
12:08
なぜならこの状況では小惑星を生き延びることは運ではなく
12:11
コントロールパネルにすでに備わっている防御策を使うことだからです
12:14
マイクロソフトエコシステムの防御策とガードレール
12:17
マイクロソフトエコシステムでは防御策はすでに船に組み込まれています
12:20
スイッチを入れるだけです
12:22
マイクロソフト365とパワープラットフォームには
12:24
オプションの追加機能のように隠されていて
12:26
見過ごされがちなガバナンスツールが搭載されています
12:28
これらは装飾ではなく
12:30
規制やリスクが迫ってきた時にシステムを無傷に保つ構造的なプレートです
12:34
危険なのはチームがこれらのダッシュボードをチラッと見て
12:36
肩をすくめて先に進む時です
12:38
これらはボーナスのトグルではなく生存のための装備だからです
12:40
まずは可視性から始めましょう
12:42
マイクロソフト365とパワープラットフォームには
12:44
モデルの動作を追跡し決定をログに記録し
12:47
説明を平易な言葉で表示できる監視機能が組み込まれています
12:50
奇妙な判断をつぶやくブラックボックスに頼る必要はありません
12:53
実際のフィードバックループが得られ
12:55
アルゴリズムが逸脱するたびにコンソールに信号が表示されます
12:57
この違いはメクラ目的に操縦することと
12:59
いつ逸脱しているかを正確に知らせる契機で
13:01
航行することの境界線です
13:03
次に透明性があります
13:04
AWSなどの一部のベンダーは
13:06
モデルの使用と制限を文書化するために
13:08
AIサービスカードを提供しています
13:09
マイクロソフトは
13:10
責任あるAI標準と責任あるAIダッシュボードなどのツールで
13:13
これとは異なるアプローチを取っています
13:15
これらは実務者に説明可能性レポートパフォーマンスノート
13:18
および責任ある設計の選択肢を提供します
13:20
単に計画を渡すのではなく
13:22
推論を注釈する副操縦士のようなものと考えてください
13:24
最終結果だけでなく
13:25
全ての考慮事項を見ることができます
13:27
モデルレベルの保護に関しては
13:28
次のことを覚えておいてください
13:30
全てのベンダーは何らかの形でガードレールを提供しています
13:33
マイクロソフトの環境では
13:34
ポリシー制御、説明可能性ダッシュボード、
13:36
カンサログが同様の役割を果たし
13:38
悪意のある入力思考をブロックし
13:40
結果が混乱に陥る前にフィルタリングします
13:42
説明可能性自体については
13:43
SHAPのような確立された手法や
13:45
政治メーカークラリファイのようなベンダー固有のツールがあります
13:48
マイクロソフトの世界では
13:49
責任あるAIダッシュボードがその役割を果たし
13:51
モデルの選択を左右した変数を明確にレポートします
13:54
これらにより
13:55
AIの意思決定という魔法のような行為は
13:57
もはや恐ろしいトリックではなくなります
13:58
どの入力が重要だったかを確認し
14:00
結果が公平だったかどうかを評価できます
14:02
監査担当者は追跡可能な証拠を入手でき
14:04
ユーザーはモデルが根拠のないことを
14:05
デッチ上げているのではないという信頼を得られます
14:07
そして
14:08
シンプルながらも重要なセーフティネットであるデータ保護があります
14:11
データ損失防止を有効にして
14:13
機密情報が誤った方向に流出するのを防ぎ
14:16
ログと監査証跡の保持と組み合わせます
14:18
これらはすべて
14:19
ブラックボックスレコーダーとして機能します
14:21
すべてのアクション
14:22
すべての逸脱が記録されるため
14:24
問題が発生した時に追跡できます
14:26
これをスキップすると
14:27
エラーが波及した時に空虚な煙だけが残ります
14:29
その見返りは抽象的なものではありません
14:31
iBuilderで構築された基本的なパワーアップを考えてみましょう
14:34
初期のドラフトでは
14:35
どの組織も正当化できないほど
14:36
多くの個人情報を収集していました
14:38
名前、レコード、機密フィールドが露出していました
14:41
コンプライアンス設定を有効にすると
14:43
洪水は止まり
14:43
データ境界が強化され
14:44
アプリは引き続き機能し
14:46
プライバシー規則が遵守されました
14:47
アーキテクチャは解体されて
14:49
再構築されたわけではありません
14:50
ずっとそこにあったシールドをオンにすることで調整されました
14:53
最初の展開段階では
14:55
テルススタイルの囲まれた庭園を採用する価値があります
14:58
隔離され監査可能なサンドボックスで
15:00
コパイロットをテストすることで
15:02
予期しない動作を安全なゾーンに制限してから
15:04
ビジネスに不可欠なワークフローにリリースします
15:06
これはミスが本番システムに漏れ出さないように
15:09
十分な壁のあるテスト環境です
15:11
これに堅牢な監視を組み合わせると
15:13
組織はニュースの見出しになる前にミスを検出できます
15:15
ガバナンスダッシュボードはこれらを統合します
15:18
これらは単なるステータス画面ではなく
15:20
チームにアクティブな監視を提供します
15:21
監督者はAIの出力をリアルタイムで質問
15:23
承認または拒否することができます
15:25
これはシステムに組み込まれた
15:26
ヒューマンインザループの強制です
15:28
このような監視がなければ
15:29
自動化はポリシー違反に衝突するまで自由に動作します
15:32
ダッシュボードがあれば人間は感性塔に座り
15:35
混雑した空域の航空機のように各AIシステムを調整します
15:38
空中の混乱の代わりに
15:40
同期された管理された流れが得られます
15:42
そしてここに転換点があります
15:44
組織がこれらのシステムを防御策と認識すると
15:46
規制の負担から生産性の上数へと切り替わります
15:48
手戻りは不要になります
15:49
規制当局が必要とするログを瞬時に提出できます
15:52
コンプライアンスが設計の一部であり
15:54
後から追加されたパッチではないため
15:55
より迅速に作業を進めることができます
15:56
かつてペースを遅らせていたものが
15:58
今ではペースを加速させます
15:59
しかしシールドは自動的に動作するわけではありません
16:01
構成、レビュー、継続的な監視が必要です
16:04
これらの制御は役立ちますが
16:05
人間によって正しく管理されなければなりません
16:08
ガバナンス委員会は混乱に対する最後の防御策です
16:11
ガバナンス委員会を
16:12
宇宙船のブリッジクルーと考えてください
16:14
乱気流で操縦桿が揺れても
16:16
集団がコースを安定させている
16:18
シールド、コンプライアンス切り替え
16:19
監査ログはバックグラウンドで動作しているかもしれないが
16:21
それでも誰かが窓の外を見て
16:23
景気類を監視し
16:24
予期せぬ事態が発生した時に対応しなければならない
16:26
その監視がなければ
16:27
どんなに優れたガードレールも
16:29
判断力のないただの金属に過ぎない
16:31
ガバナンス委員会は
16:32
命令を叫ぶ一人の役員ではない
16:34
それは技術リーダー
16:35
データガバナンス担当者
16:36
ホームまたはコンプライアンスアドバイザー
16:38
ビジネス代表者
16:39
そして少なくとも一人の独立したレビュー担当者を含む
16:41
部門横断的なチームとして構築される
16:43
AIはサイロの中にきちんと収まるものではないため
16:45
それぞれが異なる役割を担う
16:47
履歴書選考ツールは人事に影響を与え
16:49
予測アルゴリズムは財務を形成し
16:51
チャットボットは顧客と直接会話する
16:53
一つの機能だけでは
16:54
全ての結果を予測することはできない
16:56
リスクが部門全体に波及する前に
16:57
リスクを特定して修正するには
16:58
円卓会議が必要だ
16:59
さてそのチームなしで運営することを想像してみてほしい
17:02
AIを監視せずに放置することは
17:03
小惑星体で自動操縦を設定するようなものだ
17:06
奇妙な操作が船を航路から逸らすまでは
17:08
全て順調に進んでいるように見える
17:09
ガードレールは設置されているかもしれないが
17:11
それらは解釈もせず疑問も抱かず予測もしない
17:14
ガバナンス委員会は思考層であり
17:15
点滅するライトの向こう側を見て
17:17
逸脱が第三次になる前に文脈
17:18
倫理そして影響を見抜く人間である
17:20
彼らの職務は抽象的ではない
17:22
彼らは定期的にバイアスと公平性の監査を実施し
17:25
データの出資を確認し
17:26
コンプライアンスレポートをレビューし
17:27
非決定論的システムがどのように即興で対応するかを追跡する
17:30
彼らは一定のリズムで運用し
17:31
問題がリリース後ではなく早期に発見されるように
17:33
チェックのスケジュールを設定し
17:35
主要業績評価指標
17:36
公平性
17:36
正確性
17:37
逸脱指標を定義することでそれを拡張し
17:39
継続的な監視が推測ではなく
17:41
測定可能な説明責任となるようにする
17:42
特に非決定論的出力に関しては
17:44
これらの委員会は境界を守る
17:46
AIは常に同じ応答を返すとは限らない
17:48
サンプリングし
17:49
即興で対応し
17:50
疑問を抱く
17:51
それは創造的な回答を生み出すこともあれば
17:53
信頼を損なう誤解を招く出力に逸脱することもある
17:56
ガバナンス委員会はデジタル安全監視役として機能し
17:59
予期せぬ結果を記録し
18:00
レッドチームを促し
18:02
危険なパターンを警告し
18:03
自動フィルターが見落とした場合には
18:05
人間を再び介入させます
18:07
イノベーションを阻害するのではなく
18:08
安全な範囲内で運用できるようにします
18:10
そしてここに実際的な違いがあります
18:12
効果的なガバナンス委員会を持つ組織は
18:14
試運転中に問題を発見する傾向があります
18:17
公平性監査によって採用モデルの偏りが明らかになり
18:20
問題は静かに修正され
18:21
展開はスキャンダルなく進みます
18:23
このような監視のない組織では
18:25
最初に報道で問題が明るみに出ます
18:30
が是正措置は手遅れになります
18:32
予防には時間がかかり
18:34
是正には評判が失われます
18:36
このパターンは十分に繰り返されるため
18:38
教訓は明確です
18:39
これらの委員会の基盤は
18:40
公平性、透明性、説明責任、安全性、プライバシーを中心に展開されます
18:44
公平性とは
18:45
結果が人工統計に基づいてユーザーに不利益を与えないことを保証することです
18:49
透明性とは
18:49
ユーザーとコンプライアンスの両方にとって
18:51
決定が明確な用語で説明できることを要求することです
18:54
説明責任は
18:54
責任を負う役割が明確に定められていることを保証します
18:57
AIがやったのではなく
18:59
この担当者が結果の責任を負うのです
19:01
安全性は
19:02
出力が危害や悪用を引き起こすことを防ぎます
19:04
プライバシーは機密データを保護し
19:06
個人が危険な公開の意図しない貨物にならないようにします
19:09
それぞれの原則は単独でも協力ですが
19:11
それらが組み合わさることで
19:12
監視下で責任あるAIが機能するための船体が完成します
19:15
そして
19:15
取締役会は原則を遵守するだけでなく
19:18
行動も実行します
19:19
明確性を確認するためにモデル文書をレビューし
19:21
ユースケースを分類するためにリスクインテークプロセスを実行し
19:24
監視が必要な箇所で
19:25
ヒューマンインザループのチェックポイントを実施します
19:27
最初の成果物として
19:28
最もシンプルで価値のある行動の一つは
19:30
AIユースケースのインベントリとリスク分析です
19:33
この簡単なマップは
19:34
どのプロジェクトが高リスクに該当するか
19:35
どのプロジェクトが厳格なガバナンスを必要とするか
19:37
どのプロジェクトがリスクが低いかを示します
19:39
これは監視が即興ではなく構造化されていることを
19:41
経営陣と規制当局の両方に示す具体的な証拠となります
19:43
たとえ全速力で進んでいても
19:45
取締役会の会議は公開の定期的なスキャンとして機能します
19:48
彼らは戦略を策定するだけでなく
19:49
指標を追跡しコンプライアンス報告を徹底します
19:52
このリズムがレジリエンスを構築します
19:54
テストサイクル
19:55
公平性KPI
19:56
ドリフトレビューによってリズムが確立され
19:59
継続的なガードレールが展開後に消えることなく有効にもたれます
20:02
これらの儀式を通して
20:03
監視は一度きりのチェックボックスではなくなり
20:06
生きたプロセスとなります
20:07
採用AIはその教訓を物語っています
20:09
欠陥のあるデータでトレーニングされたモデルは
20:12
開発者の意図とは無関係に
20:13
特定のグループの候補者を格下げするバイアスを静かに吸収しました
20:17
気づかれずに放置された差別は
20:19
訴訟が起こるまで大規模に広がりました
20:21
公平性監査と出所チェックを備えたガバナンス委員会であれば
20:24
本番稼働の遥か前に偏りに気づくことができたでしょう
20:27
予防と発覚の違いこそが
20:28
これらの委員会が存在する理由です
20:30
つまりガバナンス委員会はサイドプロジェクトでもなければ
20:33
飾りの委員会でもありません
20:35
彼らは着実なガイダンスと回避可能な混乱の間の最後の防衛戦であり
20:38
責任あるAIのスローガンを実践に移す任務を負った乗組員です
20:41
構造、指標、説明責任を維持することで
20:44
信頼を損なうことなく船が前進することを保証します
20:46
これで話は一周します
20:48
委員会が設置されると監視はバータリ的なものではなく文化となり
20:50
私たちが最後にたどり着くより鋭い真実が浮かび上がります
20:53
責任あるAIは見せかけのためにオンオフを切り替えるボーナス設定ではありません
20:56
それはこれから起こる激動を乗り越えられるかどうかを決定する安全装置です
21:00
責任あるAIはオプションではありません
21:02
それは組織がコントロールできているか混沌に陥っているかを分けるものです
21:06
責任あるAIがあれば信頼を築きリスクを大幅に軽減し
21:09
AIプロジェクトを短期的な爆発ではなく長期的な成功に向けて位置づけることができます
21:13
では次のステップはこれです
21:14
AIのユースケースをリストアップし
21:16
プラットフォームにすでに存在する保護機能を有効にし
21:18
それらを監視するためのガバナンス委員会を立ち上げてください
21:21
これらのステップをサイドクエストではなくミッションコントロールとして扱ってください
21:24
ショーノートにはチェックリストと取り上げたツールへのリンクが含まれているので
21:27
今すぐ始めることができます
21:36
次回最高の質問を読み上げます