skinny.

Latest / TechOrange 科技報橘

晶片還沒出貨,Anthropic 傳先下單 2.5 億美元:Fractile 憑什麼三個月估值翻六倍?

英國 AI 晶片新創 Fractile 的第一批晶片預計要到 2027 年才會問世,卻已傳出 Anthropic 已先簽下約 2.5 億美元的採購協議。據《Bloomberg》報導,這家 2022 年才成立的公司,正以 65 億美元的投前估值洽談新一輪募資,預計進帳約 6 億美元,較三個月前的約 10 億美元估值大幅跳升逾 6 倍。晶片都還沒交貨,資本與大客戶為何搶著上車? 不押訓練、也不靠 HBM:賭「又快又便宜」的推論 Fractile 由牛津大學機器人研究學者 Walter Goodwin 於 2022 年創辦,鎖定推論市場,也就是 AI 模型回應使用者查詢的運算過程,而非投入模型訓練。Goodwin 向《華爾街日報》表示,前沿 AI 模型當前最關鍵的瓶頸,是產生有用回應所需的時間;隨著模型越來越大、越來越複雜,完成一項任務動輒需要數千萬的 tokens,而資料在處理器與記憶體之間的移動速度,決定了查詢的延遲。 Fractile 對這個瓶頸的解法,是打造了一款邏輯晶片,並在伺服器機櫃內設計一套連接記憶體的架構,要在不犧牲速度的前提下拉高頻寬;同時捨棄主流的 HBM 高頻寬記憶體,也不依賴晶片內的 SRAM。另外值得關注的是,它們把記憶體與運算單元在實體上交錯排列。Fractile…

The skinny

The skinny isn't ready yet — notes appear once the transcript is processed.