AIに長考させたら、ルールを忘れた
「AIはじっくり考えさせるほど賢くて安全」。その常識、ひっくり返るかもしれません。
今回紹介するのは、2026年9月に公開された論文「Does Deeper Reasoning Compromise Alignment?」です。深く考えるAIほど、ちょっとした揺さぶりや危ない質問に弱くなる“アライメント崩壊”という現象を取り上げます。その原因と、「考え終わったら質問を読み直させる」だけのシンプルな対策
The skinny
The skinny isn't ready yet — notes appear once the transcript is processed.