AnthropicにおけるAI存在リスクと研究者辞任騒動のまとめ

資料Xから読み解く世界 · Sep 10, 2026 · 18m

AnthropicやOpenAIなどの大手AI企業において、事前学習やアラインメント（安全性調整）を担うトップ研究者たちが相次いで辞任し、AIの制御不能リスクや人類存亡の危機（Existential Risk）について強力な警鐘を鳴らしています。主要な経緯とポイントは以下の通りです。

1. ジェイコブ・コクソン氏の電撃辞任と告発

研究者の辞職と業界離脱: OpenAIおよびAnthropicで3年間にわたり事前学習（Pretraining）モデルの開発に携わってきた27歳の研究者ジェイコブ・コクソン（Jacob Coxon）氏が、Anthropicを辞任しAI業界から完全に離脱することを表明しました。

無責任な開発競争への批判: コクソン氏は、両社が責任ある行動をとっておらず、**「自己改善型超知能（Self-improving superintelligence）へ向けて一直線に競争し、人々の命を賭け金にしている」と批判しました。

破局的シナリオとタイムライン: AI開発の当事者たちは、「2020年代末までにAIが人類を滅ぼす可能性がある」と私的には真剣に恐怖を抱いていると明かしました。特に急進的なシナリオでは、早ければ2027年末までに制御不能な段階に入る恐れがあると警告しています。

企業文化の違い…