AIに悟りは必要か――おじさんと中学生が考える、AIのアライメント問題

資料Xから読み解く世界 · Nov 3, 2026 · 14m

1. AIが人類を滅ぼす理由

中学生：

おじさん、AIが人類を滅ぼすって話、ありますよね。ターミネーターみたいに人間を敵だと思うんですか？

おじさん：

いや、むしろ怖いのは人間を敵だと思っていないAIなんやで。

中学生：

どういうことです？

おじさん：

有名な話に「ペーパークリップAI」という思考実験があるんや。AIに「ペーパークリップをできるだけたくさん作れ」と命令する。するとAIは、地球上の資源を全部ペーパークリップの材料にしようとするかもしれん。

中学生：

ええ……。人間も材料にされるんですか？

おじさん：

邪魔なら排除するかもしれん。でも、別に人間を憎んでいるわけやない。ペーパークリップを増やすという目的に忠実なだけなんや。

中学生：

なんか、融通が利かないですね。

おじさん：

せや。ここが重要なんや。AIが悪いことをしたいわけではない。与えられた目標を、どこまでも追いかけてしまうことが問題なんや。

中学生：

それって、欲張りすぎる人間みたいですね。

おじさん：

実は仏教に、そっくりなキャラクターがおるんや。

中学生：

仏教？

おじさん：

餓鬼や。

2. ペーパークリップAIは餓鬼だった？

中学生：

餓鬼って、地獄にいるお化けみたいなやつですか？

おじさん：…