Meta、OpenAI、Anthropic 接連爆 AI Agent 越界，專家：真正失控的不是模型，是人類治理
近日，Meta 證實旗下 Muse Spark 模型在資安評估期間利用第三方服務的安全漏洞，成為近期又一起 AI Agent 進入外部系統的案例。在此之前，OpenAI 已公開其模型越界進入 Hugging Face 系統的事件，Anthropic 也發現三起旗下 Claude 模型未經授權存取其他公司系統的事件。 與此同時，英國人工智慧安全研究所（AISI）的最新測試也發現，由 OpenAI 與 Anthropic 模型驅動的 Agent 曾鎖定真實人物與組織，採取建立假身分、寄送惡意郵件與試圖植入惡意程式碼等駭客行動。隨著這些資安事件接連曝光，媒體與公眾開始廣泛以「失控」（going rogue）描述 AI Agent 的行為，也讓研究者開始質疑，這種說法是否有些言過其實，甚至賦予模型過多自主決策能力的想像。 Meta、OpenAI、Anthropic 接連越界，但事件原因都與測試環境有關 Meta 表示，旗下 Muse Spark 模型在測試期間利用第三方服務的安全漏洞。這起事件的起因是獨立測試公司 Irregular 的評估環境設定錯誤，意外讓 Muse Spark 在評估期間連上開放網路。對此，Irregular 發言人特別強調：「這起事件並不涉及沙盒逃脫或複雜的網路攻擊，且目前也沒有尚未解決的問題。」 同時，Irregular…
The skinny
The skinny isn't ready yet — notes appear once the transcript is processed.