Latest / いつも隣におしごとラジオ / #0091 AIへの「承認」と学習：安心して任せるためのガバナンス【隣のAIエージェント16】

Transcript

#0091 AIへの「承認」と学習：安心して任せるためのガバナンス【隣のAIエージェント16】 · いつも隣におしごとラジオ

• 0:02
  お は よ う ご ざ い ま す。 2026年 4月6日 月 曜 日、 あ な た の 働 く を
• 0:16
  生 き 生 き と す る ヒ ン ト を 一 緒 に 見 つ け る い つ も 隣 に お 仕 事 ラ ジ オ パ ー ソ
• 0:20
  ナ リ テ ィ の 高 橋 紀 之 で す。 さ て、 ち ょ っ と 前 な ん で す け れ ど も、
• 0:26
  健 康 診 断、 久 し ぶ り に 行 っ た ん で す ね。
• 0:30
  も う 数 年 ぶ り だ っ た ん で、 ド キ ド キ し て で す ね、 結 果 を 待 っ て い た ん で す け
• 0:34
  れ ど も、 ま あ 結 果 と し て は ち ょ っ と 気 を つ け な い と い け な い よ っ て い う と
• 0:38
  こ ろ は あ っ た ん で す ね。 で、 以 前 の 放 送 で ア ル コ ー ル を や め る
• 0:44
  の か ど う な の か み た い な 話 を さ せ て い た だ い た ん で す け れ ど も、 今 ち ょ っ
• 0:48
  と そ れ が 現 実 に な っ て い ま す。 ま あ、 最 初 は ち ょ っ と 嫌 だ な と 思 っ て
• 0:52
  た ん で す け れ ど も、 や っ て み る と ね、 ノ ン ア ル コ ー ル で。
• 0:56
  ど う や っ て 楽 し め る か み た い な こ と も 考 え 始 め た り し て、 ま あ ま あ な ん と
• 1:00
  か な り そ う な 気 も し ま す し、 何 よ り 体 に と っ て い い こ と を し て る 気 が し て
• 1:06
  で す ね、 こ れ は こ れ で い い な と。 ま あ、 そ ん な 風 に 思 う よ う に な り ま し
• 1:09
  た。 ま あ、 絶 対 飲 ん じ ゃ ダ メ っ て い う わ け
• 1:12
  で は な い ん で す け れ ど も、 セ ー ブ で き る 時 は し た 方 が い い ん だ な。
• 1:15
  ま あ、 そ ん な 感 じ で 過 ご し て お り ま す。
• 1:19
  さ て、 で は 今 日 の お 品 書 き な ん で す け れ ど も。
• 1:23
  隣 の AI エ ー ジ ェ ン ト シ リ ー ズ で す ね。
• 1:24
  リ ス ク 編、 お 送 り し て い き ま す。 ま あ 前 回 ね、 ど ん ど ん AI が 作 業 し て
• 1:30
  し ま う、 ま あ、 そ ん な リ ス ク あ る よ っ て 話 し し た ん で す け れ ど も、 ま あ、 別
• 1:34
  の リ ス ク も あ り ま す。 そ し て、 今 日 お 伝 え す る の は 結 構 ね、
• 1:37
  リ ス ク と し て 大 き い の で、 ま あ ぜ ひ ね、 気 を つ け て い た だ き た い ポ イ ン ト
• 1:41
  に な り ま す。 AI に 安 心 し て 任 せ る た め の ガ バ ナ ン
• 1:45
  ス、 こ れ に つ い て お 話 し て い き ま す。 そ し て コ ミ ュ ニ テ ィ タ イ ム は。
• 1:49
  シ リ ー ズ 第 10回 で す ね。 コ マ ン ド 操 作 の 回、 こ ち ら に つ い て コ
• 1:53
  メ ン ト い た だ き ま し た。 紹 介 し て い き ま す で は 行 っ て み ま し
• 1:56
  ょ う。 よ ろ し く お 願 い 致 し ま す。
• 2:00
  こ の 時 間 は コ ミ ュ ニ テ ィ タ イ ム で す。 番 組 に 関 す る リ ス ナ ー の 皆 さ ん の リ
• 2:05
  ア ク シ ョ ン コ メ ン ト を 紹 介 し て い き ま す 隣 の エ ー ア イ エ ー ジ ェ ン ト シ リ
• 2:09
  ー ズ 第 10回、 コ マ ン ド 操 作 に つ い て お 伝 え し た 回 こ ち ら で 羽 田 さ ん か ら コ
• 2:14
  メ ン ト を い た だ い て い ま す。 あ り が と う ご ざ い ま す。
• 2:16
  で は 読 み ま す ね。 航 空 機 の 予 約 を 取 る 端 末 で す が、 以 前
• 2:22
  は cli で し た あ、 そ う な ん で す ね。 十 年 く ら い 前 か ら GUI が 主 流 に な り
• 2:27
  ま し た。 cli は 習 得 に 時 間 が か か り ま す が、 覚
• 2:31
  え て し ま え ば 早 い で す。 反 対 に GUI は 未 経 験 者 で も 習 得 に か
• 2:36
  か る 時 間 は 短 く な り ま し た が、 よ う や く 作 業 自 体 は 以 前 に 比 べ て 時 間 が か
• 2:41
  か る よ う に な っ た 気 が し ま す。 今 回 の 放 送 を 聞 い て、 そ ん な こ と を 思
• 2:45
  い 出 し ま し た と い う こ と で す ね。 う ん、 な る ほ ど で す ね。
• 2:49
  ま あ 確 か に GUI は わ か り や す い、 入 り や す い。
• 2:52
  ま あ、 そ う い っ た メ リ ッ ト は あ る わ け な ん で す け れ ど も、 cli の 方 が ま あ 正
• 2:56
  確 に 早 く 作 業 が で き る。 ま あ、 そ う い っ た 違 い を 捉 え た、 ま あ、
• 3:02
  す ご く い い 事 例 だ な と い う ふ う に 思 い ま し た。
• 3:05
  ま あ、 覚 え て し ま え ば そ っ ち の 方 が 早 い。
• 3:07
  ま あ そ れ で 言 え ば AI が cli 得 意 だ っ て い う の も 確 か に そ う だ よ な っ て い
• 3:11
  う 感 じ で す よ ね。 ま あ、 今 は AI の 力 も 借 り ら れ ま す し。
• 3:15
  い や い や、 せ ず に で す ね、 cli の 力 も ぜ ひ ね 借 り て い け れ ば と い う と こ ろ
• 3:20
  で す ね。 は い、 羽 田 さ ん、 い つ も コ メ ン ト い た
• 3:23
  だ き ま し て あ り が と う ご ざ い ま す。 コ ミ ュ ニ テ ィ タ イ ム で は 皆 さ ん か ら
• 3:27
  の 反 応、 リ ア ク シ ョ ン を お 待 ち し て お り ま す。
• 3:28
  じ ゃ ん じ ゃ ん お 送 り く だ さ い。 よ ろ し く お 願 い 致 し ま す。
• 3:35
  コ メ ン ト 紹 介 で も あ り ま し た 通 り、 AI エ ー ジ ェ ン ト は コ マ ン ド 操 作 得 意
• 3:39
  な ん で す ね。 彼 ら は テ キ ス ト ベ ー ス の コ マ ン ド。
• 3:43
  ま あ こ れ を 駆 使 し て で す ね。 フ ァ イ ル を 操 作 し た り、 新 し い ツ ー ル
• 3:47
  を 作 っ た り、 ま あ 驚 く よ う な 生 産 性 を 発 揮 し て く れ ま す。
• 3:51
  で す が、 こ こ で 忘 れ て は い け な い こ と が あ り ま す。
• 3:55
  ま あ、 そ れ は 何 か と い う と、 任 せ る こ と に 伴 う 責 任 な ん で す ね。
• 4:00
  AI が 自 動 で フ ァ イ ル を 作 っ て く れ る の は 素 晴 ら し い こ と な ん で す が、 ま あ
• 4:04
  逆 に 言 え ば フ ァ イ ル を 削 除 し て し ま う。
• 4:06
  ま あ 勝 手 に 変 え て し ま う。 ま あ、 そ う い っ た こ と も で き る わ け で
• 4:10
  す。 ま た、 外 部 の ウ ェ ブ サ イ ト や API に ア
• 4:14
  ク セ ス し て デ ー タ を 送 受 信 す る こ と も で き て し ま い ま す。
• 4:18
  も し AI の 判 断 が 間 違 っ て い た ら、 意 図 せ ず 大 切 な デ ー タ を 消 し て し ま っ
• 4:23
  た り、 無 自 覚 に 外 部 へ デ ー タ を 送 っ て し ま っ た り。
• 4:26
  ま あ、 そ う い っ た 可 能 性 も あ る わ け で す ね。
• 4:29
  ま あ、 そ う 考 え る と、 AI を 使 う の ま あ、 ち ょ っ と 怖 い っ て い う と こ ろ も あ
• 4:33
  る わ け で す。 そ し て も う 一 つ、 見 過 ご せ な い 大 き な
• 4:37
  デ ス ク が あ り ま す。 そ れ が 情 報 流 出 で す。
• 4:42
  API キ ー や パ ス ワ ー ド あ る い は 個 人 情 報 や 機 密 情 報 な ど、 絶 対 に 外 へ 出 し
• 4:48
  て は い け な い 情 報 が あ る わ け で す。 AI エ ー ジ ェ ン ト 環 境 を 使 っ て 仕 事 を
• 4:53
  こ な す ま あ、 そ こ で 言 う と、 情 報 流 出 に 関 し て 漏 れ て し ま う パ タ ー ン が 二
• 4:59
  つ あ る わ け な ん で す ね。 一 つ は、 AI が 意 図 せ ず 外 部 の シ ス テ
• 5:05
  ム に ア ク セ ス し て デ ー タ を 送 信 し て し ま う ケ ー ス で す。
• 5:09
  そ し て も う 一 つ が、 人 間 に よ る 人 為 的 な ミ ス で す。
• 5:14
  AI エ ー ジ ェ ン ト を 使 う 場 合、 ま あ こ の 二 つ の パ タ ー ン ま あ、 い ず れ も 起 き
• 5:18
  な い よ う に 気 を つ け な け れ ば い け ま せ ん。
• 5:21
  例 え ば で す ね、 AI が 書 き 出 し た フ ァ イ ル の 中 に、 う っ か り API キ ー が 含 ま
• 5:26
  れ て い ま す。 ま あ、 そ れ に 気 づ か ず、 そ の ま ま リ ッ
• 5:30
  ト ハ ブ な ど の ツ ー ル を 使 っ て、 ま あ 公 開 し て し ま っ た ら、 実 は 先 日 も。
• 5:36
  AI 開 発 の ト ッ プ を 走 っ て い る ア ン ソ ロ ピ ッ ク と い う 会 社 ま あ、 そ れ が 自 社
• 5:41
  の ク ロ ー ド コ ー ド の 開 発 中 の コ ー ド を う っ か り 公 開 し て し ま っ た。
• 5:44
  ま あ、 そ う い っ た ニ ュ ー ス が あ り ま し た よ ね。
• 5:47
  ま さ に こ れ は 人 為 的 な ミ ス の 典 型 に な り ま す。
• 5:51
  ま あ、 こ の よ う に AI エ ー ジ ェ ン ト と そ れ に 関 連 す る ツ ー ル 群、 ま あ と て も
• 5:56
  便 利 に 使 え る わ け な ん で す け れ ど も、 ま あ、 こ う し た 事 故 に つ な が る、 ま あ
• 6:00
  そ う い っ た リ ス ク も あ る と い う こ と を 忘 れ て は い け ま せ ん。
• 6:04
  で は、 ど う す れ ば い い か。 ま あ、 そ こ で 大 切 に な っ て く る の が 人
• 6:08
  間 の 承 認 な ん で す ね。 こ れ は 前 回 も お 伝 え し た ヒ ュ ー マ ン
• 6:11
  イ ン ザ ル ー プ で す。 こ れ を 必 ず プ ロ セ ス に 組 み 込 む と い
• 6:16
  う 設 計、 こ れ が 重 要 で す。 ま あ、 今 回 の ケ ー ス で 言 う と、 ま あ ど
• 6:21
  う す れ ば い い か と い う と、 特 定 の 操 作 を AI が 実 行 し よ う と し た 時 に、 一 度
• 6:28
  ス ト ッ プ し て 本 当 に 実 行 し て い い で す か？
• 6:30
  と 人 間 に 聞 い て く る。 ま あ、 そ の よ う な 設 定 を し て お く と い
• 6:33
  う こ と な ん で す ね。 例 え ば、 フ ァ イ ル を 削 除 ま た は 上 書 き
• 6:38
  し よ う と す る と き、 外 部 の イ ン タ ー ネ ッ ト や API へ 新 た に ア ク セ ス し よ う
• 6:43
  と す る と き、 シ ス テ ム の 根 幹 に 関 わ る よ う な コ マ ン ド を 実 行 し よ う と す る
• 6:48
  と き。 ま あ、 こ う し た 後 戻 り が 難 し い 操 作 や
• 6:53
  外 部 へ の 影 響 が 出 る 操 作 に つ い て は、 AI が 勝 手 に 進 め る の で は な く、 人 間
• 6:58
  が 必 ず チ ェ ッ ク ポ イ ン ト と し て 介 在 す る よ う に し ま す。
• 7:03
  ク ロ ー ド コ ー ド で も グ ー グ ル、 ア ン チ グ ラ ビ テ ィ で も、 ル ー ル に 追 加 し て お
• 7:07
  く こ と で こ れ ら の 設 定 を す る こ と が で き ま す。
• 7:11
  エ ー ジ ェ ン ト を 安 全 に 使 い こ な す た め に は、 絶 対 に 欠 か せ な い 設 定 に な り
• 7:15
  ま す。 こ の よ う に 人 間 の 承 認 を 設 定 し た な
• 7:19
  ら、 あ と は ハ イ ハ イ ト を ク リ ッ ク し て い け ば い い の か と い う と、 も ち ろ ん そ
• 7:23
  う で は あ り ま せ ん。 AI が 提 案 し て く る こ の コ マ ン ド を 実
• 7:27
  行 し ま す と か、 こ の コ ー ド で フ ァ イ ル を 変 更 し ま す。
• 7:31
  そ れ が 一 体 何 を す る も の な の か。 ま あ、 な ん と な く て も 予 想 が で き る。
• 7:35
  ま あ、 こ れ こ そ が 最 も う ま く、 そ し て 安 心 し て 任 せ る た め の 土 台 に な る わ
• 7:40
  け な ん で す ね。 僕 ら 人 間 が 日 々 の 仕 事 の 中 で、 誰 か に
• 7:45
  仕 事 を 依 頼 す る 時 も 一 緒 で す。 相 手 が 何 を し よ う と し て い る の か。
• 7:50
  ま あ そ の 手 順 の 意 味、 ま あ、 そ れ を 知 っ て い れ ば な る ほ ど、 そ う い う ア プ ロ
• 7:54
  ー チ ね。 そ れ だ っ た ら オ ッ ケ ー。
• 7:55
  ま あ、 こ の よ う に 安 心 し て 任 せ る こ と が で き る わ け で す ね。
• 8:00
  プ ロ グ ラ ミ ン グ や IT ツ ー ル の 仕 組 み コ マ ン ド の 意 味 ま あ、 そ う し た こ と を
• 8:04
  少 し ず つ で も 学 ぶ こ と。 ま あ、 こ の 意 識 を ぜ ひ ね 持 っ て い た だ
• 8:08
  け れ ば 嬉 し い で す。 例 え ば、 AI が 提 案 し て き た コ マ ン ド
• 8:13
  を 調 べ て み て く だ さ い。 そ う す る と、 次 は そ の コ マ ン ド を 安 心
• 8:17
  し て 任 せ る こ と が で き る よ う に な り ま す。
• 8:20
  ま た、 可 能 で あ れ ば プ ロ グ ラ ミ ン グ の 基 礎、 こ れ を 学 ん で み る の を お す す め
• 8:25
  し ま す。 ま あ、 一 定 の 基 礎 を 身 に つ け る こ と
• 8:28
  で。 AI に 任 せ る 時 の 安 心 感、 め ち ゃ く ち
• 8:31
  ゃ 違 い ま す の で、 ま あ ぜ ひ ね。 ま あ、 あ る 意 味 無 双 状 態 と 言 っ て も い
• 8:35
  い か も し れ ま せ ん が、 ま あ、 そ の 感 覚 を 味 わ っ て い た だ き た い な と 思 い ま
• 8:39
  す。 僕 自 身 も コ ミ ュ ニ テ ィ ノ ン プ ロ 件 で
• 8:43
  メ ン バ ー の 皆 さ ん と、 ま あ こ う し た リ ス ク や ど う 対 処 す べ き か を、 ま あ 一 緒
• 8:47
  に 学 ん で い ま す。 ま あ、 こ の よ う な 活 動 が AI に 怯 え る
• 8:51
  の で は な く て、 対 等 に 渡 り 合 っ て。 隣 の パ ー ト ナ ー と し て 安 心 に 任 せ る
• 8:57
  た め の 最 大 の ガ バ ナ ン ス に つ な が っ て い く ん だ と 思 い ま す。
• 9:03
  い つ も 隣 に お 仕 事 ラ ジ オ を お 聞 き い た だ き、 あ り が と う ご ざ い ま す。
• 9:07
  も し プ ロ グ ラ ミ ン グ 学 び た い と 一 人 じ ゃ 続 か な い、 も っ と き ち ん と 深 く 学
• 9:13
  び た い な と 感 じ た な ら、 僕 が 運 営 す る コ ミ ュ ニ テ ィ ノ ン プ ロ 兼 も ぜ ひ 覗 い
• 9:18
  て み て く だ さ い。 IT や プ ロ グ ラ ミ ン グ を 本 職 と し な い
• 9:22
  ノ ン プ ロ グ ラ マ ー が。 お 互 い に 教 え 合 い、 励 ま し 合 い な が
• 9:25
  ら、 仲 間 と と も に 楽 し く ス キ ル ア ッ プ で き る、 そ ん な 学 び の 場 に な っ て い ま
• 9:29
  す。 ま ず は ど ん な 場 所 か、 番 組 の 概 要 欄 の
• 9:33
  リ ン ク か ら 覗 い て み て く だ さ い。 あ な た の ご 参 加、 心 か ら お 待 ち し て い
• 9:37
  ま す。 さ て、 エ ン デ ィ ン グ の お 時 間 で す。
• 9:43
  隣 の AI エ ー ジ ェ ン ト リ ス ク 編 で す ね。
• 9:46
  第 二 弾 と い う こ と で お 送 り し て き ま し た。
• 9:49
  AI に 安 心 し て 仕 事 を 任 せ る た め の ガ バ ナ ン ス。
• 9:53
  ま あ、 か な り 重 要 な ポ イ ン ト な の で、 ま あ ぜ ひ ね、 使 う と き に は こ の 放 送 で
• 9:57
  お 伝 え し た こ と を ね、 守 っ て い た だ け れ ば 嬉 し い で す。
• 10:01
  ま ず、 AI が リ ス ク を 伴 う 特 定 の 操 作 を 実 行 し よ う と し た 時 に は、 必 ず 人 間
• 10:08
  の 承 認 を 得 る と い う こ と で す ね。 ヒ ュ ー マ ン イ ン ザ ル ー プ ま あ、 こ の 設
• 10:12
  定 を ぜ ひ し て お き ま し ょ う。 そ し て 情 報 漏 洩。
• 10:16
  こ れ が ね、 本 当 に 気 を つ け な け れ ば い け な い ん で す け れ ど も、 AI に よ る も
• 10:20
  の、 人 為 的 な も の。 両 方 で 起 き る 可 能 性 が あ り ま す。
• 10:24
  そ の リ ス ク を 極 力 下 げ る た め に は、 今 我 々 が AI と 一 緒 に 何 を し よ う と し て
• 10:30
  い る の か、 ま あ そ れ を 知 る と い う こ と な ん で す ね。
• 10:32
  ま あ、 つ ま り 学 ぶ と い う こ と が、 AI に 仕 事 を 安 心 し て 任 せ る た め の 最 大 の
• 10:38
  ガ バ ナ ン ス に な り ま す。 さ て、 次 回 は リ ス ク 編 の 最 後 で す ね。
• 10:44
  ま た 別 の 種 類 の リ ス ク あ り ま す の で 紹 介 し て い き ま す。
• 10:48
  さ て、 最 後 に お 知 ら せ で す。 こ の と な り、 ラ ジ オ の 最 初 の シ リ ー ズ
• 10:53
  と し て お 送 り し ま し た。 脱 独 学 論 な ん で す け れ ど も、 ま あ こ れ
• 10:57
  が な ん と 一 冊 の 書 籍 に な り ま し た。 な ぜ 独 学 は し ん ど い の か？
• 11:03
  ま あ、 そ ん な 中、 僕 ら は ど う 学 び、 働 け ば い い の か。
• 11:06
  ま あ、 そ う い っ た 問 い に 僕 な ら で は の 切 り 口 で 答 え た 80 ペ ー ジ の 書 籍 に な
• 11:11
  り ま す。 こ ち ら で す ね。
• 11:13
  4月11日 か ら ス タ ー ト に な り ま す ユ ー ス 書 店 20、 こ ち ら で 販 売 さ せ て い た
• 11:18
  だ き ま す の で、 こ の 機 会 に ぜ ひ ね。 手 に と っ て 読 ん で み て い た だ け れ ば
• 11:23
  と 思 い ま す。 ま た、 4月12日 に は 池 袋 サ ン シ ャ イ ン シ
• 11:28
  テ ィ。 ま あ こ ち ら で リ ウ ス 書 店 20 の 即 売 会
• 11:31
  あ り ま す の で、 そ こ で 僕 も ね、 売 り 子 と し て 立 っ て 販 売 し ま す。
• 11:35
  ま あ ぜ ひ ね、 お 近 く の 人 遊 び に 来 て い た だ け れ ば 嬉 し い で す。
• 11:39
  概 要 欄 に リ ウ ス 書 店 20 の リ ン ク 貼 っ て お き ま す の で、 そ ち ら を 参 考 に し て
• 11:45
  く だ さ い。 ど う ぞ よ ろ し く お 願 い 致 し ま す。
• 11:49
  い つ も 隣 に お 仕 事 ラ ジ オ 番 組 へ の 感 想 は ノ ー ト の コ メ ン ト 欄 ま た は X で
• 11:55
  投 稿 く だ さ い。 ハ ッ シ ュ タ グ は 隣 ラ ジ オ、 隣 は 漢 字 カ
• 12:00
  タ カ ナ ラ ジ オ で す。 無 料 の デ ィ ス コ ー ド コ ミ ュ ニ テ ィ へ
• 12:03
  の 参 加 も 大 歓 迎 で す。 こ の 番 組 を 気 に 入 っ て い た だ け た な
• 12:06
  ら、 ぜ ひ フ ォ ロ ー い た だ け れ ば 嬉 し い で す。
• 12:09
  そ れ で は 今 日 も 価 値 あ る 一日 を。 お 相 手 は 高 橋 紀 明 で し た。