Latest / 人をつなぐ、未来をつなぐ。 トレードオンの交渉学 / #120「人はなぜ騙されるのか」第3回未来への備え―AI、情報過多、教育　吉山洋一

Transcript

#120「人はなぜ騙されるのか」第3回未来への備え―AI、情報過多、教育　吉山洋一 · 人をつなぐ、未来をつなぐ。 トレードオンの交渉学

• 0:05
  人 を つ な ぐ、 未 来 を つ な ぐ ト レ ー ド オ ン の 交 渉 学 こ ん に ち は、 星 野 で す。
• 0:11
  3回 に わ た り 人 は な ぜ 騙 さ れ る の か？ を テ ー マ に、 交 渉 ア ナ リ ス ト 一 級 の 吉
• 0:17
  山 洋 一 さ ん の お 話 を お 届 け し て い ま す。
• 0:20
  3回目 と な る 今 回 の タ イ ト ル は 未 来 へ の 備 え AI 情 報 型 教 育。
• 0:27
  イ ン タ ビ ュ ア ー は？ 日 本 交 渉 協 会 代 表 理 事 の 安 藤 で す。
• 0:31
  そ れ で は ス タ ー ト で す。 そ れ で は 吉 山 洋 一 さ ん を お 迎 え し ま
• 0:40
  し て、 人 は な ぜ 騙 さ れ る の か の 第 3回目 を 始 め さ せ て い た だ き ま す。
• 0:45
  吉 村 さ ん、 こ ん に ち は。 こ ん に ち は。
• 0:47
  今 日 も よ ろ し く お 願 い 致 し ま。 す え え、 前 回 は で す ね、 フ ィ ッ シ ン グ
• 0:51
  詐 欺 や 偽 情 報 で す ね。 え え。
• 0:54
  今、 実 際 に 起 き て い る 心 理 的 な で す ね。
• 0:58
  だ ま し の 手 口 で す ね。 そ し て そ の 対 策 に つ い て で す ね、 大 変
• 1:02
  有 効 な お 話 を 伺 い ま し た。 え え、 今 回 は 最 終 回 と い う こ と で。
• 1:07
  え え、 そ の 延 長 線 上 で で す ね、 AI や デ ィ ー プ フ ェ イ ク と い っ た 新 し い 技 術
• 1:13
  が で す ね、 進 化 す る 中 で、 私 た ち は で す ね、 ど う 冷 静 な 判 断 を 保 ち、 偽 情 報
• 1:20
  に で す ね、 流 さ れ ず 生 き 抜 く こ と は で き る の か。
• 1:24
  ま あ こ れ 非 常 に 切 実 な テ ー マ だ と 思 う ん で す が。
• 1:27
  こ の テ ー マ に つ い て で す ね、 吉 山 さ ん と 一 緒 に 考 え て い き た い と 思 っ て お
• 1:31
  り ま す。 ど う ぞ よ ろ し く お 願 い い た し ま。
• 1:33
  す、 よ ろ し く お 願 い し ま す。 え え、 こ れ ま で の 2回 で え え だ ま し の
• 1:37
  本 質 で す ね。 ま あ、 こ ち ら が 人 の 心 理 に に あ る こ と
• 1:41
  を お 伝 え し て き ま し た。 え え、 今 回 は え え。
• 1:44
  そ の 心 理 的 な 弱 点 が、 AI と い っ た 新 し い 技 術 に よ っ て ど の よ う に 悪 用 さ
• 1:50
  れ る の か。 そ し て そ の 結 果、 私 た ち の 生 き 方 で す
• 1:54
  と か、 信 頼 の 結 び 方 が ど う 変 わ っ て い く の か。
• 1:58
  そ う い っ た 未 来 の 視 点 か ら で す ね。 え え、 深 く 掘 り 下 げ て お 話 し で き れ ば
• 2:04
  と 考 え て お り ま す。 あ り が と う ご ざ い ま す。
• 2:06
  こ れ か ら 数 年 で す ね、 我 々 と い う の は ど ん な 課 題 に 直 面 す る の か え え。
• 2:11
  AI の 進 化 と い う の は で す ね、 脅 威 に な る の か ど う か っ て い う と こ ろ で す
• 2:15
  ね。 こ の あ た り で す ね、 あ の、 教 え て い た
• 2:18
  だ け れ ば と 思 い ま す。 は い。
• 2:20
  皆 さ ん も 生 成 AI で す と か チ ャ ッ ト、 GPT、 ま あ、 ジ ェ ミ ニ で す と か、 ま あ、
• 2:26
  そ う い っ た 生 成 AI を 使 わ れ て い る か と 思 い ま す が。
• 2:31
  ま あ、 私 も で す ね。 え え、 仕 事 柄、 あ あ、 そ う い っ た 生 成
• 2:35
  AI、 ま あ、 他 に も 画 像 生 成 で す と か 動 画 生 成 で す と か、 ま あ、 音 声 え え な ん
• 2:40
  か も そ う で す ね。 え え、 ス ラ イ ド 生 成 で す と か、 ま あ、 い
• 2:43
  ろ ん な も の を 使 う 機 会 が あ る ん で す け ど も。
• 2:46
  え え、 大 き く で す ね。 三 つ の 課 題 に 直 面 す る と 考 え て い ま
• 2:50
  す。 一つ目。
• 2:51
  え え が で す ね え え、 情 報 が 多 す ぎ る と い っ た 問 題 で す ね。
• 2:56
  毎 日 膨 大 な 情 報 に 晒 さ れ て、 え え、 何 を 信 じ る べ き か の 判 断 の 負 荷 が で す
• 3:02
  ね。 え え、 非 常 に 大 き く な る と い っ た と こ
• 3:05
  ろ で す ね。 で、 2つ目。
• 3:07
  え え、 こ ち ら は す で に え え 社 会 問 題 に も な っ て い る か と 思 う ん で す け ど も、
• 3:11
  AI に よ る 嘘 の 巧 妙 化 で す ね。 え え、 特 に デ ィ ー プ フ ェ イ ク と い っ た
• 3:16
  技 術 は、 こ ち ら は 本 物 と 偽 物 の 区 別 が 極 め て 困 難 で す。
• 3:22
  契 約 の サ イ ン を 求 め る 上 司 の 顔 で す と か 声 で す ね。
• 3:25
  え え、 そ う い っ た も の が 実 は AI が 作 成 し た 偽 物 だ っ た と い っ た こ と が 現
• 3:30
  実 に 起 こ っ て い ま す。 3つ目。
• 3:32
  え え、 こ ち ら が あ あ、 冷 静 さ を 失 う 環 境 と い っ た も の で す ね。
• 3:37
  SNS で す と か、 あ あ、 怒 り や 恐 怖 が 常 に こ う、 感 情 が 刺 激 さ れ て。
• 3:43
  落 ち 着 い て 考 え る 時 間 が 奪 わ れ る と い っ た 三 つ の 課 題 が あ る と か 思 い ま
• 3:48
  す。 あ あ。
• 3:49
  な る ほ ど。 ま あ、 い わ ゆ る 考 え る と い う こ と よ り
• 3:53
  も、 感 じ る と い う 方 を 優 先 し て し ま い が ち に な る と い う こ と な ん で す ね。
• 3:57
  そ う で す ね。 え え。
• 3:58
  特 に 量 が 増 え る ほ ど、 私 た ち は 難 し い 理 屈 を 理 解 す る 努 力 を 避 け て 考 え る
• 4:05
  よ り も、 感 じ る 方 を 優 先 し が ち に な り ま す。
• 4:09
  え え、 私 は こ れ を 感 情 の シ ョ ー ト カ ッ ト を と 呼 ん で い ま す が、 エ ー ア イ は こ
• 4:14
  の シ ョ ー ト カ ッ ト を 誘 発 す る た め に え え。
• 4:17
  非 常 に こ う。 完 璧 な ツ ー ル と な り え ま す。
• 4:20
  ま あ。 あ の、 最 近 エ ス エ ヌ エ ス で も で す ね、
• 4:23
  あ の、 い ろ ん な。 ま あ 情 報 が あ の、 投 稿 さ れ て ま す け
• 4:27
  ど、 や は り 怒 り と か 恐 怖 っ て い う の を 煽 る っ て で す ね、 こ う い っ た あ の。
• 4:33
  ス ト ー リ ー の も の っ て い う の ほ ど で す ね。
• 4:35
  非 常 に あ の、 多 く の 人 が 反 応 し て し ま う っ て い う、 そ う い う 現 実 が あ り ま す
• 4:39
  よ ね。 そ う で す ね。
• 4:41
  難 し い 理 屈 を 理 解 す る 力 よ り も、 ち ょ っ と 立 ち 止 ま っ て 確 か め る 勇 気 で す
• 4:48
  と か、 わ か ら な い と き に 人 に 尋 ね る 柔 軟 さ で す ね。
• 4:53
  え え。 例 え ば わ か ら な い こ と を 誰 か に 教 え
• 4:55
  て と い っ た、 そ う い っ た こ と が、 あ あ、 こ れ か ら の 知 的 防 御 力 に な る と 考 え
• 5:00
  ま す。 AI が 生 成 す る 情 報 が 増 え る 社 会 で
• 5:04
  は、 こ の 感 情 の 近 道、 感 情 の シ ョ ー ト カ ッ ト で す ね。
• 5:07
  え え に 自 分 が 入 り か け て い る こ と に 気 づ け る か ど う か、 あ あ と い っ た も の
• 5:12
  が 最 初 の 防 御 に な る と 考 え ま す。 あ の、 こ の AI の 進 化 っ て い う の は で
• 5:18
  す ね、 ま あ セ キ ュ リ テ ィ っ て い う こ と だ け で は な く て、 ま あ 人 間 関 係、 ま た
• 5:23
  交 渉 に も で す ね、 大 き な 影 響 を 与 え る と 思 う ん で す が、 例 え ば あ の 本 物 そ っ
• 5:29
  く り の で す ね。 え え、 偽 映 像 と か で す ね。
• 5:32
  ま あ、 偽 音 声 で す ね、 こ う い っ た も の を で す ね、 あ の、 ま あ 知 ら な い と こ ろ
• 5:38
  で 作 ら れ て し ま う と か で す ね。 え え、 そ う い う 時 代 っ て い う と こ ろ が
• 5:42
  あ る ん だ と 思 う ん で す よ ね。 こ う い っ た 時 に、 こ う、 我 々 っ て い う
• 5:45
  の は、 ど う 信 頼 を 築 い て い っ た ら い い の か、 こ の 点 は ど う 思 わ れ ま す で し ょ
• 5:49
  う か。 そ。
• 5:51
  う で す ね。 ま あ、 こ れ か ら は 信 じ る よ り も 確 か め
• 5:54
  る と い っ た こ と を 前 提 に。 え え、 信 頼 の あ り 方 を 設 計 し 直 す 必 要
• 5:59
  が あ る の で は な い か と。 え え、 ま あ、 こ れ は 言 っ た 言 わ な い と
• 6:03
  い っ た で す ね。 え え、 ま あ、 交 渉 で も よ く あ り が ち だ
• 6:07
  と 思 う ん で す け ど も、 ま あ、 こ う い っ た あ あ も の を 防 ぐ 仕 組 み に も 直 結 す
• 6:13
  る も の に な り ま す え え、 具 体 的 に は 発 信、 え え 発 言。
• 6:18
  え え、 ま あ、 そ う い っ た 記 録 で す ね。 こ れ を デ ジ タ ル 署 名 電 子 証 明 で 残 す
• 6:24
  と い っ た も の に な り ま す ね。 AI が 生 成 し た 画 像 で す と か、 文 章 に
• 6:29
  は ま あ 透 か し で す と か 識 別 コ ー ド を 入 れ て、 こ れ は AI が 作 っ た も の だ と
• 6:35
  確 認 で き る。 信 頼 を 構 造 と し て 設 計 す る と、 ま さ に
• 6:40
  信 頼 の イ ン フ ラ を デ ザ イ ン に し て い く 時 代 な ん だ と 思 い ま す。
• 6:44
  あ あ。 こ れ は 重 要 な こ と で す よ ね、 交 渉 に お
• 6:48
  い て も。 ま あ、 契 約 書 や 合 意 内 容 に で す ね、 デ
• 6:51
  ジ タ ル 署 名 と か。 ま あ、 記 録 の 透 明 性 が あ れ ば。
• 6:55
  言 っ た 言 わ な い の 水 掛 け 論 っ て い う の を 防 ぐ こ と が で き ま す し、 ま あ、 合
• 6:59
  理 的 な 合 意 形 成 を ま あ 助 け る こ と が で き る と い う あ る と 思 う ん で す よ ね。
• 7:04
  ま あ、 当 然 そ の 信 頼 っ て い う の は 大 事 な ん で す が。
• 7:07
  ま あ 気 持 ち だ け で は な く て 裏 付 け っ て い う の が で す ね、 仕 組 み と し て あ る
• 7:11
  と い う の は と て も 大 事 な こ と だ と 思 い ま す ね。
• 7:14
  は い。 え え、 私 も そ の よ う に 思 い ま す。
• 7:16
  え え。 そ し て AI は こ ち ら は で す ね。
• 7:19
  敵 で は な く て、 え え 人 の 冷 静 さ を 取 り 戻 す パ ー ト ナ ー に も な り 得 ま す。
• 7:24
  AI が 大 量 の 情 報 を 整 理 し て、 人 間 が 最 終 判 断 を 下 す。
• 7:29
  う ん、 共 進 化 あ あ と い っ た、 あ の、 私 は 言 っ て ま す け ど も、 こ う エ ボ リ ュ ー シ
• 7:34
  ョ ン と も に 進 化 す る。 ま あ、 こ れ が 理 想 で す ね。
• 7:38
  AI 時 代 に 問 わ れ る の は、 技 術 そ の も の よ り も 人 間 の 成 熟 度 と 考 え ま す。
• 7:45
  つ ま り、 人 間 と は 何 か、 ど ん な 知 性 を 発 揮 で き る の か と い う 人 間 の 知 性 の
• 7:50
  再 定 義 こ そ が 未 来 の テ ー マ。 あ あ で す ね。
• 7:54
  え え、 人 間 の 持 つ 共 感 力 で す と か、 倫 理 観、 そ し て え え 正 し く 疑 う 力 こ そ
• 8:00
  が、 AI 時 代 に お け る 私 た ち の 存 在 価 値 に な る ん じ ゃ な い か な と 考 え ま す
• 8:05
  ま。 あ、 そ う い う 意 味 で は、 よ り 高 い 次 元
• 8:08
  で ま た 人 間 自 身 の 能 力 を 開 発 し て い く っ て い う こ と な ん で す か ね。
• 8:13
  そ う で す ね。 え え、 人 間 の 価 値 と は 何 か と。
• 8:16
  あ あ、 私 も 聞 か れ て も す ぐ に 答 え る こ と は で き な い ん で す け ど も。
• 8:20
  え え、 ま あ、 AI が 人 間 を 手 伝 っ て く れ る と。
• 8:24
  で、 最 終 判 断 は 人 間 が す る も の と い っ た と こ ろ を で す ね、 AI だ け に 頼 る の
• 8:29
  で は な く、 常 に こ う 考 え る と い っ た こ と を で す ね、 こ こ が 人 の 役 割 に な っ て
• 8:34
  い く ん じ ゃ な い か な と 思 っ て い ま す。 そ う い う 意 味 で は、 あ の 教 育 っ て い う
• 8:39
  の も で す ね、 重 要 な 役 割 を 担 う ん じ ゃ な い か な と 思 う ん で す が、 こ の 未 来 に
• 8:45
  向 け て で す ね。 え え、 我 々 が こ う、 ど ん な 方 向 に 進 む
• 8:48
  べ き な の か。 そ の た め の 教 育 の 役 割 は 何 な の か？
• 8:53
  っ て 言 っ て は い か が で し ょ う か。 え え、 そ う で す ね。
• 8:56
  え え。 私 は こ れ か ら の 社 会 を 支 え る 三 つ の
• 8:58
  柱 を 上 げ て い ま す。 え え。
• 9:00
  一つ目 は 人 間 性 と 技 術 の 調 和。 そ れ は AI を 活 か し つ つ、 人 間 の 判 断
• 9:06
  力 を 中 心 に 据 え る こ と で す ね。 2つ目 が え え 国 際 的 な セ キ ュ リ テ ィ 連
• 9:11
  携。 え え、 国 境 を 越 え る 情 報 操 作 に は、 任
• 9:14
  理 に 基 づ く 連 携 で 立 ち 向 か う こ と が 必 要 で す。
• 9:18
  で、 3つ目。 え え、 こ れ が 一 番 大 事 で す ね。
• 9:21
  え え。 教 育 と リ テ ラ シ ー の 向 上、 特 に 子 供 の
• 9:24
  う ち か ら 情 報 を 鵜 呑 み に し な い と い っ た え え 習 慣 を 育 て る こ と が、 こ ち ら
• 9:29
  が あ あ、 大 切 に な り ま す。 う ん。
• 9:31
  こ れ は 本 当 に 重 要 な こ と で す ね。 や は り あ の 学 生 の う ち か ら、 や は り こ
• 9:36
  う い っ た こ と を あ の 学 ぶ っ て い う こ と は 必 要 だ と 思 い ま す し、 や は り 教 育
• 9:42
  っ て い う の は こ う 根 っ こ に あ る ん だ な っ て い う 実 感 を 持 ち ま し た。
• 9:47
  そ う で す ね、 え え、 教 育 は 非 常 に 大 切 で す。
• 9:50
  特 に で す ね、 低 学 年 の う ち か ら 学 ぶ こ と が 大 切 で す ね。
• 9:55
  え え、 な ぜ か あ あ と い う の は、 思 考 の 癖 は 早 く 定 着 す る か ら で す ね。
• 10:00
  え え。 低 学 年 の う ち か ら 情 報 の 見 方 を 学 べ
• 10:02
  ば、 そ れ が 一 生 の 判 断 基 準 に な り ま す。
• 10:05
  大 事 な の は 疑 う イ コ ー ル 否 定 で は な く、 確 か め る こ と が 誠 実 と い う 価 値 観
• 10:12
  を 教 え る こ と に な り ま す。 え え、 信 じ る こ と は と て も 大 切 な こ と
• 10:17
  で は あ り ま す が、 確 か め る 努 力 を 怠 ら な い こ と こ そ が で す ね。
• 10:22
  え え、 本 当 の 信 頼 関 係 を 築 く 力 に な り ま す。
• 10:25
  ど ん な に 技 術 が 進 ん で も、 社 会 を 動 か す の は や は り 人 で す。
• 10:29
  え え。 結 局 の と こ ろ、 ど ん な 判 断 を 下 せ る 人
• 10:32
  を 育 て る か に 尽 き る と 私 は 考 え ま。 す 吉 山 さ ん、 3回 に わ た る 深 い お 話、 あ
• 10:42
  り が と う ご ざ い ま し た。 コ グ ニ テ ィ ブ セ キ ュ リ テ ィ と 交 渉 に
• 10:46
  は で す ね、 え え、 人 の 心 を 理 解 し、 冷 静 な 判 断 を 保 つ と い う 共 通 点 が あ っ た
• 10:52
  っ て こ と が わ か り ま し た。 は い。
• 10:54
  え え、 こ ち ら こ そ あ り が と う ご ざ い ま し た。
• 10:56
  え え。 技 術 だ け で は な く、 人 の 思 考 や 感 情 を
• 10:59
  理 解 す る 力 が、 こ れ か ら の す べ て の 分 野 で 重 要 に な る と 強 く 感 じ て い ま す。
• 11:04
  あ り が と う ご ざ い ま す。 大 変 あ の 印 象 に 残 る お 話 で し た の で、
• 11:08
  も う 一 度 で す ね。 第 1回目、 2回目、 3回目 っ て い う の キ ー ワ
• 11:12
  ー ド で す ね。 最 後 に お 伝 え い た だ け ま す で し ょ う
• 11:15
  か。 は い。
• 11:16
  え え、 で は 第 1回目 で す ね。 え え。
• 11:18
  こ ち ら の キ ー ワ ー ド は 正 し く 疑 う こ と で す ね。
• 11:22
  え え。 ぜ ひ え え ニ ッ ク プ ロ セ ス、 こ ち ら を 覚
• 11:25
  え て い た だ け れ ば と 思 い ま す。 え え、 ニ ッ ク の ア ー ル は？
• 11:28
  リ ア リ ー 本 当 に ア イ が イ ン サ イ ト 洞 察 で す ね。
• 11:33
  で、 最 後 シ ー ン が カ ウ ン タ ー バ ラ ン ス 補 正。
• 11:36
  え、 自 分 の 思 い 込 み を 修 正 し て で す ね え、 第 三 者 や え 公 式 ル ー ト 等 で え、 確
• 11:43
  認 す る こ と は 非 常 に 大 切 で す。 で、 第 2回目。
• 11:46
  え、 こ ち ら の ポ イ ン ト は で す ね え、 自 分 の 心 を え 上 か ら 見 る と い う、 え メ タ
• 11:55
  認 知 の 能 力 に な り ま す。 第 3回目、 こ ち ら は 共 進 化 で す ね。
• 12:01
  最 終 的 な 判 断 は 人 間 が 下 す も の と い う こ と を。
• 12:05
  ま あ、 AI が で す ね、 大 量 の 情 報 を 整 理 し て、 人 間 の 手 伝 い を し て く れ る わ け
• 12:12
  な ん で す け ど も、 最 終 的 な 判 断 は 人 間 が 行 う も の と 人 間 中 心 で あ る と い う
• 12:18
  こ と を で す ね、 ぜ ひ 覚 え て い た だ け れ ば と 思 い ま す。
• 12:22
  あ り が と う ご ざ い ま す。 今 回 の で す ね。
• 12:25
  え え、 お 話 を 聞 い て い た だ い た 皆 さ ん も で す ね、 ぜ ひ、 あ の コ グ ニ テ ィ ブ セ
• 12:30
  キ ュ リ テ ィ 実 践 入 門 デ ジ タ ル 時 代 の 戦 略 的 意 思 決 定、 こ の タ イ ト ル で で す
• 12:36
  ね、 吉 山 由 さ ん、 本 出 さ れ て ま す の で、 こ れ、 私 も 読 ん だ ん で す が、 大 変 い い
• 12:40
  本 で す ね、 こ れ ぜ ひ 皆 さ ん も 読 ん で み て く だ さ い。
• 12:44
  最 後 に、 あ の 吉 山 さ ん、 今 後 の で す ね、 え え、 活 動 に つ い て 思 い と 言 い ま す
• 12:50
  か、 志 に つ い て 教 え て い た だ け ま す で し ょ う か。
• 12:52
  は い。 私 自 身 が そ う で あ っ た よ う に、 騙 さ れ
• 12:56
  る 人 を 減 ら し た い と い っ た 思 い で 日 々 取 り 組 ん で お り ま す。
• 13:01
  ま あ、 私 自 身 の 活 動 は で す ね、 ま あ、 そ れ ほ ど 大 き く な い か も し れ ま せ ん が、
• 13:06
  ま あ、 こ う い っ た 少 し で も で す ね、 正 し く 疑 う と い う こ と を で す ね、 え え、
• 13:11
  皆 さ ん に こ う 思 っ て も ら う よ う な 取 り 組 み を 今 後 も や っ て い き た い な と
• 13:17
  考 え て い ま す。 あ り が と う ご ざ い ま す。
• 13:19
  大 変 素 晴 ら し い 活 動 だ と 思 い ま す の で、 こ れ か ら も ぜ ひ 広 げ て い っ て い た
• 13:23
  だ け れ ば と 思 い ま す。 今 回 は ど う も あ り が と う ご ざ い ま し
• 13:27
  た。 あ り が と う ご ざ い ま し た。