skinny.

Latest / TechOrange 科技報橘

AlphaGo 推手 David Silver 不走 LLM 路線,要讓 AI 在模擬「熔爐」裡從零自學

當多數 AI 實驗室都在大型語言模型(LLM)上加碼,曾主導 AlphaGo 的 David Silver 選了另一條路。他離開 Google DeepMind 後於倫敦創立 Ineffable Intelligence,今年 4 月宣布募得 11 億美元種子輪、估值 51 億美元。美國時間 10 月 13 日,Silver 與共同創辦人之一 Lasse Espeholt 在領投方之一 Sequoia Capital 的 Podcast 節目《Training Data》中,說明這家新創準備怎麼做:不走 LLM 以海量人類資料預訓練的路線,而是讓 AI 從一無所知開始,在模擬世界中持續從經驗中學習。 預訓練(pre-training)是指先用大量網路文字等人類資料訓練模型,也是當今 LLM 的起點。Silver 想打造的,則是「一個能持續學習、永遠不斷發現知識的系統」。問題是,若不依賴人類累積的資料,究竟要怎麼做? 為什麼不做 LLM?Silver:人類資料可能反而拖累 AI Silver 表示,他很珍惜在 DeepMind 的時光,但他相信的路線「並不需要以 LLM 產品作為中繼站」,值得一間全力投入的實驗室,而不只是專注 LLM 產品的組織裡的一個角落。他也坦言資源配置的考量:全世界已有數萬、甚至數十萬名研究者走 LLM 路線,「我要當第 100,001 […]

The skinny

The skinny isn't ready yet — notes appear once the transcript is processed.