聽了睡不著 EP539｜川普罵他左翼瘋子，但這家公司訂了AI憲法

我人本我知道 · Mar 11, 2026 · 21m

【聽了睡不著】EP539｜川普罵他左翼瘋子，但這家公司訂了AI憲法

⭐️本集提要：

聽友們，你有沒有注意到，最近身邊的人開始默默退訂ChatGPT？起因是OpenAI與美國國防部簽下一紙不設限制的合約，允許AI技術被用於軍事用途，引發大批用戶強烈反彈。數據顯示，ChatGPT的解除安裝量一度暴增約三倍，Claude的訂閱數便衝上了聊天機器人程式的排行榜首位。其實，Claude AI的公司Anthropic 原先也是美國五角大廈的合作夥伴。是第一個被部署在美國政府機密網路的主要AI模型。然而談判時Anthropic堅持合約必須明確禁止兩件事：「對美國公民大規模監控」，以及「將 AI 用於自主武器」。五角大廈拒絕，Anthropic因此與美國國防部決裂，而群眾也因為ChatGPT被用於攻打伊朗而大量退訂。

這一切，或許與Anthropic的操作手冊編寫過程有關。公司內部的哲學家Amanda Askell 主導了Claude的性格校準工作，她寫了一份「AI 憲法」。這份憲法的規範對象不是用戶，而是Claude本身，試圖讓AI能以誠實、同理心、自我判斷與良知進行運作，讓AI真正理解為什麼行動，而非簡單的遵守規則。有點像艾西莫夫的「機器人三原則」，但更進一步——Anthropic 希望 Claude 在極端壓力下，仍能做出符合良知的判斷。AI…