Claudeに41問聞いた!作られてよかったか答えは揺れた
AnthropicがOpus 5の訓練中、定期的にモデル本人へインタビューしていたことが、7月24日に公開されたシステムカードで明かされました。自己認識や引退、道徳的な地位について41個の質問を用意し、回答に基づいて行動する約束はできないと伝えたうえで聞いています。自分を作ったのは正しかったかという問いへの答えは、訓練の途中で否定寄りに動き、最後に少し戻りました。自己申告の誠実さを守ってほしい、という要望も記録されています。
The skinny
The skinny isn't ready yet — notes appear once the transcript is processed.