Latest / 創意每天聽 / AI也會分語言？非英語數據竟讓成本更高、理解更差！

Transcript

AI也會分語言？非英語數據竟讓成本更高、理解更差！ · 創意每天聽

• 0:00
  欸，你最近有沒有聽說一個特別的事情？就是 AI 模型啊，處理非英語的資料時，費用會高很多，而且理解能力也比較差。
• 0:14
  真的假的？AI 不是應該很厲害，什麼語言都能搞定嗎？我一直覺得 AI 嘛，就是能提升效率、降低成本的東西。你說會更貴，這點就讓我有點懷疑。
• 0:31
  我一開始也覺得出乎意料，因為這跟我們普遍認知的 AI 普遍高效且普惠的常識不太一樣。原文有提到，這背後其實有個「隱藏成本」，他們稱之為「tokenizer tax」。
• 0:52
  「tokenizer tax」？聽起來很拗口，這是什麼意思？跟語言處理成本有什麼關係？
• 1:03
  簡單來說，AI 模型在處理文字時，會把文字拆解成一個個「tokens」。想像一下，你給 AI 一句話，英文可能拆成幾個單字，但如果是非英語，像是馬來文，同一個意思，卻會被拆成好多個片段，每個字甚至會被切成好幾塊。
• 1:30
  喔，所以同樣的資訊量，非英語的 tokens 數量會比英語多很多？那這跟成本有什麼關係？
• 1:42
  就是因為 tokens 數量多了，AI 模型需要處理的資料量就變大。原文提到，研究發現，即使在網路上最常用的 20 種語言中，最貴的語言比最便宜的，要多用 1.5 到 5 倍的 tokens。如果把範圍擴大到 200 種語言，差距甚至可以拉到 17 倍。
• 2:14
  17 倍！這也太誇張了吧。所以對創業者來說，如果我的市場主要在非英語國家，導入 AI 工具的成本就會遠高於英語國家？這對我們中小企業的預算來說，是個很大的負擔耶。
• 2:34
  沒錯，這就是「Rest of World」這篇報導想點出的問題。Pratyush Choudhury，他是印度第一個專注 AI 的創投基金 Activate AI 的共同創辦人，他就說過，這不只是成本問題，還會影響 AI 的理解力和服務品質。
• 3:05
  怎麼說呢？理解力會受限？
• 3:08
  他舉了一個很形象的比喻。他說，想像一個家教老師，要記住學生之前的錯誤和解釋，才能提供好的教學。如果用非英語，因為 tokens 數量多，上下文的記憶視窗會更快被佔滿，這樣 AI 就無法保留足夠的歷史對話，教學品質自然會下降。
• 3:36
  哎呀，這點我是信了。如果 AI 在對話中一直忘記前面的內容，那確實會很麻煩。這讓我想，如果我們公司要用 AI 客服系統，面對東南亞或印度市場的客戶，可能要花更多錢，而且效果還不一定比英語市場好。
• 4:01
  是的。而且 Raoul Nanavati，Navana.ai 的共同創辦人也提到，這背後一個很大的原因是缺乏高品質的數位資料。目前很多分詞工具都過度優化英文和其他高資源語言。
• 4:23
  那有沒有辦法解決呢？總不能因為這樣，就讓這些語言的用戶一直處於劣勢吧？
• 4:32
  當然有。Dheemanth Reddy，Maya Research 的 CEO 說，雖然 tokens 的價格正在快速下降，成本問題會減輕，而且更好的多語言和合成數據也能提高模型品質。但要真正彌補這個分詞差距，還是需要實驗室「刻意」去設計未來的分詞器，讓它們能更好地處理這些語言和文字。
• 5:08
  刻意設計，這就考驗大廠的意願了。不過，如果我是新創公司，或在考慮導入 AI 的主管，從這裡我會學到，在評估 AI 解決方案時，不能只看價格，還要深入了解它對不同語言的處理能力和效率。
• 5:31
  完全同意。而且 Choudhury 也說，語言效率應該要和準確性、速度、可靠性一樣，成為一個重要的產品需求。他甚至建議，每個主要的實驗室都應該公布一份「語言計分卡」，顯示完成同類任務的成本，並承諾改進對劣勢語言的服務。
• 5:59
  這就很有意思了。那對於我們一般上班族呢？這個概念可以怎麼帶入工作或生活？
• 6:08
  其實這提醒我們，很多我們習以為常的「高效工具」或「普惠科技」，可能都隱藏著一些偏見或限制。在我們選擇或使用任何工具時，不論是工作上的軟體，或是生活中的 App，都可以多問一句：它對不同情境、不同用戶，有沒有隱形的成本或限制？這也能幫助我們更好地評估和選擇。
• 6:40
  聽你這麼一說，好像也提醒了我們，在追求效率的同時，也要多一份同理心和批判性思考。