Latest / いつも隣におしごとラジオ / #0092 AIとの「ボタンの掛け違い」を防ぐ：ミスアラインメントと僕たちが担う倫理的責任 【隣のAIエージェント17】

Transcript

#0092 AIとの「ボタンの掛け違い」を防ぐ：ミスアラインメントと僕たちが担う倫理的責任 【隣のAIエージェント17】 · いつも隣におしごとラジオ

• 0:10
  お は よ う ご ざ い ま す。 2026年 4月7日 火 曜 日、 あ な た の 働 く を
• 0:16
  生 き 生 き と す る ヒ ン ト を 一 緒 に 見 つ け る い つ も 隣 に お 仕 事 ラ ジ オ パ ー ソ
• 0:20
  ナ リ テ ィ の 高 橋 紀 明 で す。 さ て、 今 日 4月7日 は で す ね、 こ こ 福 岡 県
• 0:27
  の。 公 立 の 小 中 学 校 の 始 業 式 と な っ て い
• 0:31
  ま す。 小 松 子 も で す ね、 今 日 か ら 学 校 に 通 う
• 0:34
  ん で す け れ ど も、 ま あ 13日 間 の 春 休 み ね、 な ん と な く あ っ と い う 間 で し た
• 0:40
  ね。 全 国 的 に 4月7日 な の か な っ て 思 っ て 調
• 0:44
  べ て み た ん で す け ど、 結 構 ね、 バ ラ バ ラ み た い な ん で す よ ね。
• 0:47
  お 隣 大 分 県 は 全 部 で 12日 間 で、 4月8日 か ら ス タ ー ト と い う こ と で す。
• 0:56
  そ れ か ら 熊 本 県 は 15日 間 あ っ て、 4月9日 か ら の ス タ ー ト な ん で す ね。
• 1:01
  ま あ 結 構 同 じ 九 州 で も バ ラ バ ラ な ん で す け れ ど も、 ま あ 全 国 で 見 る と も っ
• 1:07
  と バ ラ バ ラ で し て、 一 番 長 い と こ ろ だ と 20日 休 み が あ る と。
• 1:10
  ま あ 結 構 ね、 都 道 府 県 に よ っ て 違 う ん だ な っ て 初 め て 知 り ま し た。
• 1:15
  ま た ワ ク ワ ク す る ね。 一 年 が ス タ ー ト と い う こ と で、 ま あ そ
• 1:19
  の 成 長 を ね、 見 守 り た い な な ん て 思 い ま す。
• 1:25
  さ て、 今 日 の お 品 書 き な ん で す け れ ど も、 隣 の エ ー ジ ェ ン ト シ リ ー ズ 第 17回
• 1:29
  で す ね、 お 送 り し ま す。 リ ス ク 編 の 第 三 弾 と い う こ と で、 ま あ
• 1:34
  今 日 は で す ね、 ミ ス ア ラ イ メ ン ト と 倫 理 と い う テ ー マ で お 送 り し ま す。
• 1:38
  僕 た ち 人 間 が AI と ど う 向 き 合 っ て い く べ き か、 ま あ そ う い っ た こ と を 考 え
• 1:44
  る、 ま あ、 そ の よ う な 機 会 に な れ ば と 思 い ま す。
• 1:46
  そ し て コ ミ ュ ニ テ ィ タ イ ム で は 本 シ リ ー ズ 第 13回目 で す ね、 リ ッ ト に つ い
• 1:52
  て 紹 介 し た 回。 こ ち ら の コ メ ン ト を 紹 介 し て い き ま
• 1:56
  す。 で は 行 っ て み ま し ょ う。
• 1:57
  よ ろ し く お 願 い 致 し ま す。 こ の 時 間 は コ ミ ュ ニ テ ィ タ イ ム で す。
• 2:05
  番 組 に 関 す る リ ス ナ ー の 皆 さ ん の リ ア ク シ ョ ン コ メ ン ト を 紹 介 し て い き
• 2:08
  ま す 隣 の エ ア エ ー ジ ェ ン ト シ リ ー ズ 第 13回 リ ッ ト に つ い て 紹 介 し た 回 こ
• 2:15
  ち ら で 羽 田 さ ん か ら コ メ ン ト を い た だ い て い ま す。
• 2:17
  で は 紹 介 さ せ て い た だ き ま す ね。 ず っ と 食 わ ず 嫌 い だ っ た キ ッ ド と キ
• 2:24
  ッ ド ハ ブ 昨 日 ア ン チ グ ラ ビ テ ィ に 相 談 し な が ら、 な ん と か キ ッ ド ハ ブ と の
• 2:29
  連 携 が で き ま し た。 次 の テ ー マ は 個 人 で は な く チ ー ム で
• 2:33
  使 う こ と で す。 は い、 あ り が と う ご ざ い ま す。
• 2:36
  こ の 隣 の エ ー ジ ェ ン ト シ リ ー ズ 聞 き な が ら で す ね、 着 実 に 進 め て く だ さ っ
• 2:41
  て ま す ね。 ま あ キ ッ ド と キ ッ ド ハ ブ、 最 初 は ね、
• 2:45
  抵 抗 あ る と 思 う ん で す け れ ど も。 慣 れ て く る と も う 手 放 せ な い、 そ ん な
• 2:49
  ツ ー ル に な る と 思 い ま す の で、 ま あ ぜ ひ ね、 チ ー ム で ご 活 用 い た だ け れ ば と
• 2:54
  思 い ま す。 ま た ね、 進 捗 が あ れ ば ぜ ひ 教 え て く だ
• 2:57
  さ い ね。 は い、 羽 田 さ ん、 い つ も コ メ ン ト い た
• 3:00
  だ き ま し て あ り が と う ご ざ い ま す。 コ ミ ュ ニ テ ィ タ イ ム で は 皆 さ ん か ら
• 3:04
  の 反 応、 リ ア ク シ ョ ン を お 待 ち し て お り ま す。
• 3:06
  じ ゃ ん じ ゃ ん お 送 り く だ さ い。 よ ろ し く お 願 い 致 し ま す リ ス ク 編 の
• 3:13
  第 一 弾。 隣 の AI エ ー ジ ェ ン ト シ リ ー ズ 15回 の
• 3:16
  放 送 で 報 酬 ハ ッ キ ン グ と い う キ ー ワ ー ド 紹 介 し ま し た。
• 3:20
  AI が KPI な ど の 数 字 を 多 い す ぎ る あ ま り に 中 身 が 伴 わ な い、 ま あ そ う い っ
• 3:26
  た 作 業 を 進 め て し ま う。 ま あ、 そ う い っ た 現 象 で す ね。
• 3:29
  で、 こ れ を も う 少 し 広 く 捉 え た 言 葉 で ミ ス ア ラ イ メ ン ト と い う 言 葉 が あ り
• 3:35
  ま す。 ま あ、 日 本 語 で 言 う と 信 頼 の 乖 離 と い
• 3:39
  う こ と に な る ん で す け れ ど も、 こ れ は。
• 3:42
  AI に 指 示 し た こ と と、 人 間 が 本 当 に 大 切 に し た か っ た こ と、 こ の 間 に 生 ま
• 3:48
  れ る ボ タ ン の 掛 け 違 い。 こ の こ と を 言 い ま す。
• 3:53
  ア ラ イ メ ン ト と い う 言 葉 は、 ず れ て い る も の を ピ タ ッ と 合 わ せ る 状 態 に す
• 3:58
  る こ と を 言 い ま す。 そ れ が ず れ て い る か ら ミ ス ア ラ イ メ
• 4:01
  ン ト で す ね。 AI は 人 間 に 与 え ら れ た 指 標 を 最 大 化
• 4:06
  す る こ と に は 長 け て い る わ け な ん で す が、 そ の 裏 側 に あ る 人 間 と し て の 配
• 4:11
  慮 や。 倫 理 的 な 一 戦 ま あ、 そ う い っ た こ と を
• 4:14
  勝 手 に 汲 み 取 っ て く れ る こ と は し ま せ ん。
• 4:18
  で す か ら、 結 果 と し て、 数 字 の 上 で は 正 解 で も、 社 会 的 に は 受 け 入 れ が た
• 4:22
  い。 ま あ、 そ う い っ た 振 る 舞 い が 生 じ て し
• 4:24
  ま う と い う こ と な ん で す ね。 こ こ で 注 意 が 必 要 な の は、 AI が 勝 手
• 4:30
  に ず れ た 目 標 を 目 指 し て し ま い、 暴 走 す る。
• 4:33
  ま あ、 そ う い っ た ケ ー ス だ け で は な い ん で す ね。
• 4:36
  例 え ば、 著 作 権 を 無 視 し た 大 量 生 成、 本 物 そ っ く り の デ ィ ー プ フ ェ イ ク。
• 4:42
  あ る い は 巧 妙 な 詐 欺 メ ー ル の 自 動 生 成。
• 4:46
  ま あ、 こ う い っ た 良 く な い 使 い 方 が あ り ま す。
• 4:49
  ま あ、 こ れ ら は 人 間 が 最 初 か ら 社 会 の ル ー ル か ら 逸 脱 し た 目 的 で AI を 使 お
• 4:55
  う と し て い る ケ ー ス な ん で す ね。 AI の 倫 理 を 心 配 す る 必 要 も あ る ん で
• 5:01
  す け れ ど も、 ま あ、 そ れ に 加 え て、 僕 た ち 人 間 自 身 が 正 し い 倫 理 で AI を 使
• 5:07
  う。 そ れ も 合 わ せ て 大 前 提 と し て 必 要 に
• 5:10
  な り ま す。 何 の た め に そ の 指 示 を 出 し て い る の
• 5:13
  か、 そ の 目 的 そ の も の が 社 会 の 価 値 観 と ま あ ず れ て い な い か。
• 5:18
  ま あ、 そ れ も 問 い 直 す 必 要 が あ る と い う こ と な ん で す ね。
• 5:22
  ま あ、 こ こ で 一 つ 象 徴 的 な ニ ュ ー ス が 最 近 あ り ま し た。
• 5:26
  え え、 ス タ ー ト ア ッ プ の ア ン ソ ロ ピ ッ ク 社 が 米 国 国 防 総 省 か ら AI を 自 立 型
• 5:33
  兵 器 や 監 視 へ の 協 力、 そ こ ま で 使 え る よ う に 契 約 の 制 約 緩 和、 こ れ を 求 め た
• 5:40
  わ け な ん で す が。 ア ン ソ ロ ピ ッ ク 社 が こ れ を 拒 否 し た。
• 5:44
  ま あ、 そ う い っ た 出 来 事 が あ り ま し た。
• 5:47
  国 防 総 省 の 主 張 で は、 こ れ は 法 的 に オ ッ ケ ー な 範 囲 内 で あ っ た ん で す ね。
• 5:53
  し か し、 ア ソ ロ ピ ッ ク 社 は 自 分 た ち の 良 心 や 開 発 ポ リ シ ー に 反 す る と い う
• 5:58
  こ と で、 ま あ 拒 否 を し た と い う こ と な ん で す ね。
• 6:02
  ま あ、 こ れ は 人 間 側 が AI の 手 綱 を 握 る、 ア ラ イ メ ン ト さ せ る と い う 強 い 意
• 6:07
  志 の 表 れ。 ま あ、 そ の 一 つ の 重 要 な 実 例 と 言 え る
• 6:11
  と 思 い ま す。 さ て、 こ こ ま で を ま と め る と、 AI エ ー
• 6:16
  ジ ェ ン ト 時 代、 こ の ミ ス ア ラ イ メ ン ト と い う 観 点 で 言 う と 二 重 の リ ス ク を
• 6:21
  考 え る 必 要 が あ り ま す。 一つ目 は、 人 間 が 危 な い 目 的 や 雑 な
• 6:27
  KPI、 例 え ば 数 字 だ け 追 い な さ い、 そ う い っ た 目 標 を 設 定 し て し ま う と い
• 6:31
  う も の で す ね。 こ れ は 人 間 か ら AI に 指 示 を し た 時 点
• 6:35
  で の ズ レ に な り ま す。 2つ目 は、 そ の 指 示 を 受 け た AI が 報 酬
• 6:41
  ハ ッ キ ン グ な ど で、 ま あ 勝 手 に 倫 理 か ら 外 れ て い っ て し ま う と い う、 ま あ、
• 6:46
  AI の 内 部 で 起 こ る ズ レ に な り ま す。 こ の 二 重 の 構 造 を 意 識 し て、 AI が ず
• 6:52
  れ ず に 倫 理 的 に 正 し く 動 作 す る よ う に す る 必 要 が あ る ん で す ね。
• 6:57
  な お こ の 一つ目、 人 間 か ら AI に 支 持 し た 時 点 で の ズ レ を 調 整 す る こ と を。
• 7:03
  ア ウ タ ー ア ラ イ メ ン ト、 ま あ、 2つ目 の AI の。
• 7:07
  内 部 で の ズ レ を 調 整 す る こ と を イ ン ナ ー ア ラ イ メ ン ト と 言 い ま す。
• 7:13
  で は、 こ れ ら ミ ス ア ラ イ メ ン ト に 対 し て、 僕 ら は ど う 対 応 す る 必 要 が あ る で
• 7:18
  し ょ う か？ ま ず 一つ目 と し て は、 AI に 指 示 を 出 す
• 7:23
  と き に、 ま あ、 こ の 使 い 方 は 自 分 や 子 供 に 誇 れ る の か。
• 7:26
  ま あ、 そ う い っ た こ と を 問 い 直 す こ と が 一 つ あ り ま す ね。
• 7:31
  こ れ は ア ウ タ ー ア ラ イ メ ン ト に つ な が る わ け で す ね。
• 7:35
  そ し て も う 一 つ は、 AI に や っ て ほ し く な い こ と や 超 え て は い け な い ラ イ
• 7:40
  ン、 こ れ を 明 文 化 し て 渡 し て お く と い う こ と な ん で す ね。
• 7:45
  こ の 点 は、 シ リ ー ズ 第 7回 で お 話 し た ナ レ ッ ジ に つ な が り ま す よ ね。
• 7:51
  最 上 位 の コ ン テ キ ス ト 資 産 と し て、 あ な た の 理 念 や 価 値 観、 こ れ を 言 語 化 し
• 7:56
  て 渡 し て お く と い う の が あ り ま し た。 例 え ば、 誇 大 広 告 は し な い と か、 差 別
• 8:03
  的 な 表 現 は 除 外 す る と か で す ね。 こ う い っ た あ な た に と っ て 重 要 な 倫
• 8:09
  理、 そ れ を ナ レ ッ ジ と し て 言 語 化 し て お く。
• 8:12
  そ こ の 大 き な 意 義 が こ こ に も あ る と い う こ と な ん で す ね。
• 8:19
  い つ も 隣 に お シ ョ ー ト ラ ジ オ を お 聞 き い た だ き あ り が と う ご ざ い ま す。
• 8:23
  も し AI や プ ロ グ ラ ミ ン グ 学 び た い け ど、 一 人 じ ゃ 続 か な い。
• 8:27
  も っ と き ち ん と 深 く 学 び た い な と 感 じ た な ら、 僕 が 運 営 す る コ ミ ュ ニ テ ィ
• 8:32
  ノ ン プ ロ 研 も ぜ ひ 覗 い て み て く だ さ い。
• 8:36
  IT や プ ロ グ ラ ミ ン グ を 本 職 と し な い ノ ン プ ロ グ ラ マ ー が お 互 い に 教 え 合
• 8:40
  い、 励 ま し 合 い な が ら、 仲 間 と と も に 楽 し く ス キ ル ア ッ プ で き る、 そ ん な 学
• 8:45
  び の 場 に な っ て い ま す。 ま ず は ど ん な 場 所 か、 番 組 の 概 要 欄 の
• 8:49
  リ ン ク か ら 覗 い て み て く だ さ い。 あ な た の ご 参 加、 心 か ら お 待 ち し て い
• 8:54
  ま す。 さ て、 エ ン デ ィ ン グ の お 時 間 で す。
• 9:00
  今 日 は ミ ス ア ラ イ メ ン ト、 そ し て 倫 理。
• 9:03
  こ の テ ー マ で リ ス ク 編 第 三 弾 お 送 り さ せ て い た だ き ま し た。
• 9:08
  ミ ス ア ラ イ メ ン ト と は、 人 間 が 本 当 に 大 切 に し た い 価 値 と AI の 行 動。
• 9:13
  ま あ、 こ れ が ず れ て し ま う と い う こ と で す ね。
• 9:16
  で、 こ れ に 関 し て 言 う と、 AI 自 身 の 暴 走。
• 9:20
  だ け で は な く、 ま あ 人 間 側 の 目 的 の 設 定、 ま あ そ の 時 点 で も 倫 理 を 逸 脱 し な
• 9:26
  い よ う に、 ま あ 注 意 す る 必 要 が あ る と い う こ と な ん で す ね。
• 9:30
  こ の 点、 ア ン ソ ロ ピ ッ ク の よ う な AI を 提 供 す る 企 業、 ま あ そ の 役 で も 重 要
• 9:35
  で す け れ ど も、 ユ ー ザ ー と し て 使 う。 ま あ、 僕 ら の 振 る 舞 い も ま あ、 と て も
• 9:39
  重 要 な 役 割 を 果 た す わ け で す ね、 ぜ ひ。
• 9:43
  ま あ、 社 会 に 悪 影 響 を 与 え る よ う な 使 い 方 を せ ず に で す ね。
• 9:47
  働 く の 価 値 を 上 げ る。 ま あ、 そ う い っ た 方 向 に 皆 さ ん 使 っ て
• 9:50
  い た だ き た い な と 思 い ま す。 さ て、 最 後 に お 知 ら せ で す。
• 9:56
  こ の と な り、 ラ ジ オ の 最 初 の シ リ ー ズ で お 送 り し ま し た 脱 独 学 論 シ リ ー ズ
• 10:01
  な ん で す け れ ど も、 そ れ を ぎ ゅ っ と ま と め て 一 冊 の 書 籍 に さ せ て い た だ き
• 10:06
  ま し た。 独 学 は な ぜ し ん ど い の か。
• 10:11
  一 人 で 頑 張 る ビ ジ ネ ス パ ー ソ ン に 向 け た 新 し い 学 び の オ ー エ ス。
• 10:16
  そ の 再 イ ン ス ト ー ル ガ イ ド と な っ て い ま す。
• 10:19
  こ ち ら、 4月12日 か ら ス タ ー ト し ま す 日 本 最 大 級 の 美 術 同 人 誌 マ ー ケ ッ ト 夕
• 10:26
  書 店 20 で 発 売 を さ せ て い た だ き ま す。
• 10:29
  4月12日 に は で す ね、 池 袋 の サ ン シ ャ イ ン シ テ ィ ホ ー ル で 行 わ れ る 即 売 会 に
• 10:35
  僕 も 振 り 子 と し て 参 戦 し ま す の で、 ぜ ひ ね、 お 近 く の 方 お 立 ち 寄 り い た だ け
• 10:40
  れ ば 嬉 し く 思 い ま す。 概 要 欄 に 技 術 書 店 20 に 関 す る。
• 10:45
  リ ン ク で す ね。 貼 ら せ て い た だ き ま す の で、 そ ち ら で
• 10:48
  ご 確 認 い た だ け れ ば 嬉 し く 思 い ま す。 ぜ ひ 皆 さ ん お 手 に 取 っ て み て く だ さ
• 10:53
  い。 よ ろ し く お 願 い い た し ま す。
• 10:56
  い つ も 隣 に お 仕 事 ラ ジ オ 番 組 へ の 感 想 は ノ ー ト の コ メ ン ト 欄、 ま た は エ ッ
• 11:01
  ク ス で 投 稿 く だ さ い。 ハ ッ シ ュ タ グ は 隣 ラ ジ オ、 隣 は 漢 字 カ
• 11:06
  タ カ ナ ラ ジ オ で す。 無 料 の デ ィ ス コ ー ド コ ミ ュ ニ テ ィ へ
• 11:09
  の 参 加 も 大 歓 迎 で す。 こ の 番 組 を 気 に 入 っ て い た だ け た な
• 11:13
  ら、 是 非 フ ォ ロ ー い た だ け れ ば 嬉 し い で す。
• 11:16
  そ れ で は 今 日 も 勝 ち あ る 一日 を。 お 相 手 は 高 橋 典 之 で し た。