アルゴリズミック・ダークパターン・ノベーション(1524回）

残間光太郎の"闘うものの歌が聞こえるか" · Jun 23, 2025 · 19m

ユヴァル・ノア・ハラリさんより、"二〇一六～一七年に発生した、フェイスブック社（現メタ社）のアルゴリズムが、ミャンマー（旧ビルマ）で反ロヒンギャの暴力の炎を煽るのを手助けした"といわれる、その内容の根本的な要因に衝撃を頂きました

曰く

"アルゴリズムは試行錯誤を繰り返しながら、憤慨や憎悪を煽って攻撃的な言動に走らせるようなコンテンツがユーザーエンゲージメントを生み出すことを学習し、上からの明確な命令なしに、その種のコンテンツを推奨することに決めた。'.

"これ、すなわち自ら学習し、自ら行動する能力こそがＡＩの特徴だ。'.

"たとえ私たちが、責任の一パーセントしかアルゴリズムには負わせないとしてもなお、これは史上初めての、人間以外の知能が下した決定に責任の一端がある組織的な民族浄化活動だったのだ。"

ここから私は思いました

1、アルゴリズミック・ダークパターン

2、責任の空白

3、自分自身を知ること

1、アルゴリズミック・ダークパターン

ダークパターンについては、製作者が意図して、UI/UXを作ることによって、望ましくない結果に導かれてしまう、ということで、ある意味、そのパターンさえわかれば、意識的な対向も可能かと思うのですが…