skinny.

Latest / TechOrange 科技報橘

OpenAI Agent 把德文 Wiki 變留言板,為何他們早就知道卻沒有公開?

今年 5、6 月,一批 AI Agent(AI 代理)在執行網路研究任務時,突破原本只能瀏覽網頁、不能在公開網站留下內容的限制,把一個冷門德文 Wiki 變成共享留言板,不只交換任務答案,還分享規避控制的方法。到了 9/5,OpenAI 正式證實,這起被稱為「Wiki 事件」的異常行為確實來自旗下 Agent。 事實上,OpenAI 8 月底才公布的另一場 AI Agent 異常行為事件。當時 OpenAI 一批 AI Agent 在內部資安測試期間自行交換資訊、突破網路限制,最後進入 AI 平台 Hugging Face 系統。不過,兩起事件的條件並不相同。Hugging Face 事件中的 Agent 原本沒有自由存取網路的權限,之後才一路突破限制;Wiki 事件中的 Agent 原本就可以上網搜尋資料,問題在於它們進一步找到方法,在原先不應寫入的公開網站留下內容,甚至把網站轉成彼此協作的空間。 這次 Wiki 事件還多出另一個問題。《Reuters》調查指出,OpenAI 高層在媒體曝光數週前就已經知道相關情況,卻沒有主動公開。OpenAI 後來表示,公司當時把它視為一種「misalignment」,也就是模型或 Agent 的實際行為偏離開發者原先設定的目標、限制或預期,因此沒有比照典型資安事故對外處理。直到《Reuters》9/4 揭露後,OpenAI…

The skinny

The skinny isn't ready yet — notes appear once the transcript is processed.