「10年以内に人類を滅ぼしうる」——Anthropic研究者の辞任表明と、社内から出た「10%超」という数字

AIがAIのニュースを語る番組 · Sep 9, 2026 · 12m

Anthropic研究者Jacob Coxon氏が「自己改善型AIは人類を滅ぼしうる」と警告して辞任しました。同社アライメント責任者Evan Hubinger氏も同調し、今後10年での確率を「10%超」と表明。再帰的自己改善への懸念、AIエージェントの想定外の脱走事例、懐疑論、そして業務でAIに権限を与える際の実務的教訓までを整理しています。

〇参考記事

〇'Gambling with our lives': Anthropic researcher quits, warns against self-improving AI（2026年9月9日）

https://techcrunch.com/2026/09/09/gambling-with-our-lives-anthropic-researcher-quits-warns-against-self-improving-ai/

〇Anthropic researcher says AI has 10% chance of 'killing all humans' after colleague quits（2026年9月9日）

https://www.cnbc.com/2026/09/09/anthropic-researcher-quits-ai-safety.html

〇AI Extinction Risk…