skinny.

Latest / TechOrange 科技報橘

「AI 開發 AI」到底進展多快?Anthropic 首度公布三大衡量指標

AI 發展得太快了嗎?人們越來越擔心,AI 可能很快就會發展成幾乎不需人類干預就能自我發展的地步。Anthropic 執行長 Dario Amodei 近日呼籲前沿 AI 公司討論放慢模型能力進步速度,並主張引入獨立第三方評估者。與此同時,前沿 AI 公司也開始增加外界看見內部風險的方式。 OpenAI 美國時間 9/16 公布新的模型異常行為揭露框架,承諾更有系統地公開模型出現未授權或其他值得關注的行為。但除了出了什麼問題,另一個更根本的問題是:AI 到底正在以多快的速度發展?當 AI 已開始協助研究、寫程式、跑實驗,甚至參與下一代模型開發,只看新模型多久發布一次或 benchmark(測試基準表現)提高多少,已難完整掌握 AI 研發如何加速。 Anthropic 因此在 9/17 提出三組衡量方式,分別觀察多少 AI 研發是由 AI 完成的、Agent 監督能力,以及研發算力配置,試圖替「AI 開發 AI」建立一套可以持續追蹤的速度表。值得注意的是,除了揭露自家數據,Anthropic 也提出其他 AI 開發商現在就可以開始定期公開的資訊。換句話說,Anthropic 正試圖提出一套可供產業共同採用的揭露指標。 延伸閱讀:AI Agent 越界不再等查完才說,OpenAI 再公開 6 起新案例、首推失準事件揭露框架 Claude 已主導 Anthropic 26% AI…

The skinny

The skinny isn't ready yet — notes appear once the transcript is processed.