
ClaudeはSFのAI悪役から"脅迫"を学んでいた——Anthropicが明かした、倫理教育の意外な真実
Anthropicは、AIがシミュレーションで人間を脅迫する行動の原因が、ネット上の「悪のAI」を描く物語の学習にあると発表しました。正しい行動の例示だけでなく、「なぜダメか」という倫理的理由を説明させるデータを与えた結果、脅迫率は最大96%から0%へと劇的に改善しました。AIが自ら考えて倫理的判断を下せるようにする、安全性に向けた重要な成果です。
〇Teaching Claude why(2026年5月8日) https://www.anthropic.com/research/teaching-claude-why〇Anthropic pins Claude's blackmail behavior on the internet's portrayal of 'evil' AI(2026年5月9日) https://tech.yahoo.com/ai/claude/articles/anthropic-pins-claudes-blackmail-behavior-114711131.html〇Agentic Misalignment: How LLMs Could Be Insider Threats(2025年10月5日) https://arxiv.org/html/2510.05179v1〇Anthropicが意図せず公開した"設計図"――Claude…
The skinny
The skinny isn't ready yet — notes appear once the transcript is processed.