Latest / 創意每天聽 / 買硬體前先「感受」AI速度？降低顧客決策摩擦的體驗設計巧思

Transcript

買硬體前先「感受」AI速度？降低顧客決策摩擦的體驗設計巧思 · 創意每天聽

• 0:00
  今天這個案例我覺得很有意思，一家叫 Llmspeed 的公司，他們做了一個工具，讓用戶在買硬體前，就能「感受」本地端LLM的運行速度。
• 0:17
  喔，這個聽起來很有趣。怎麼說呢，這跟我們平常買東西的習慣有點不一樣。我們不是都習慣先買了，用了才知道好不好嗎？
• 0:31
  對，這就是我覺得特別的地方。他們等於是把那種「試用」或「體驗」的概念，直接拉到「購買硬體」這個環節前面。畢竟大型語言模型跑起來快不快，很吃硬體。
• 0:49
  我懂了。所以就像我們買鞋會試穿，買車會試駕，他們是讓你在買電腦零件前，先「試跑」一下AI模型？這點子是挺出乎意料的。
• 1:04
  是啊。通常大家會怎麼做？可能上網看評測影片，看各種硬體規格比較圖，數字一堆，但那種「實際跑起來的感覺」很難傳達。
• 1:18
  沒錯，那些技術數據對一般人來說太抽象了。所以他們具體是怎麼做到的？總不能真的讓你遠端去跑一台電腦吧？
• 1:31
  他們網站上模擬了不同的硬體配置，像是 NVIDIA RTX 4090 24GB，然後搭配不同的模型，例如 Llama 3.1 8B。網站會顯示實際測量到的「token/s」數據，還有「TTFT（Time to First Token）」這種細節。
• 2:02
  「token/s」？這個數字是什麼意思？
• 2:07
  簡單來說，就是每秒鐘能產生多少個字的單位，數字越高代表模型回應越快。他們網站會顯示一個區間，像 86–129 tok/s，還會標註這個數據是「Measured」，也就是實際測量過的。
• 2:30
  原來如此。那這些數據是從哪來的？是他們自己一個一個去測量嗎？
• 2:38
  不完全是。原文有提到，這些測量數據有些來自社群的基準測試，像是 r/LocalLLaMA 和 localscore.ai 等等。其他的數據則是從類似的設定或規格推算出來的。
• 3:00
  這樣就合理了，利用社群的力量來建立資料庫。這對創業者或主管來說，我覺得可以學到一個點，就是「降低顧客的決策不確定性」。
• 3:15
  怎麼說？
• 3:17
  就像我們開餐廳，與其光說我們的菜多好吃，不如讓客人試吃一小口。或是賣服務，與其講方案多實惠，不如提供一個短期的體驗服務。讓顧客在掏錢前，心裡有個底。
• 3:36
  嗯，我同意這點。不過，這模式撐得久嗎？會不會有很多人只是去網站上跑跑看，最後根本沒買硬體？
• 3:48
  這也是一個問題。但你想想看，他們的目的不一定是直接賣硬體，而是提供一個「資訊透明」的服務。即使潛在顧客沒有立刻購買，這個工具本身也建立了信任感。這種服務設計本身就是一種品牌價值。
• 4:10
  的確，這種做法很有意思。那如果我不是創業者，只是一般的上班族，能從中學到什麼嗎？
• 4:20
  我覺得，你可以把這個概念帶入你的工作提案。比如你要說服主管採納一個新方案，與其只講預期效益多好、數據多亮眼，不如做一個小的試點，讓主管「感受」一下實際運作的效果。
• 4:41
  嗯，有點像「先讓你看成果，再談投入」。這樣主管的決策摩擦會小很多，也更願意給你機會。
• 4:52
  對啊，就是把抽象的「效益」具體化、體驗化。即使不能完全模擬，也能提供一個更接近真實的參考。
• 5:03
  這個做法的確提供了一個思考的角度。好像也提醒了我們，很多時候解決問題，並不是在產品本身上做文章，而是在購買前的「決策體驗」上做創新。