Latest / M.K. 暢談古往今來｜與古人聊 AI 與未來 / 孫子審AI代理：我叫你比價，誰准你替我簽約？

Transcript

孫子審AI代理：我叫你比價，誰准你替我簽約？ · M.K. 暢談古往今來｜與古人聊 AI 與未來

• 0:00
  M.K.: AI 能替你比價，不代表能替你簽約。這裡是《M.K. 暢談古往今來》，我是 M.K.。今天的孫子來賓是依傳世文本創作的 AI 虛構重構，對談與語音由 AI 輔助演繹。
• 0:15
  Dorami: 我是 Dorami。如果你只叫我找最低價，我可能算得很快，卻根本不知道你更在意交期，還是長期合作。
• 0:25
  孫子: 我是孫子。受命之將須察地形利害，但善於點算的器物，是否也受託掌握兵符？此事須先辨明。
• 0:36
  M.K.: 自動化流程幫你點下「確認送出」那秒，你交出去的到底只是打字力氣，還是公司的承諾權？
• 0:46
  Dorami: 假如主管只求快，留個人工覆核按鈕，卻不給員工看原始資料，也不留能說不的時間，那個按鈕可能只是在替風險找一個簽名的人。
• 0:59
  孫子: 汝等所言之機巧，依兵家作一比喻，宛如受命遣使之器。然持籌點算之差役，縱能疾馳敏算，也不因算得快便自得定奪去留之兵符。
• 1:16
  M.K.: 沿用原文的假想供應商案例，再加幾個假設條件，這不是實測：系統原本替公司找低價。一家廠商改交貨地點，運費多一成，交期卻省三天，優惠一小時後過期。這些數字都是為了討論而設定。要是等不到人回覆，系統該不該自己簽下去？
• 1:40
  孫子: 戰陣之上，地勢糧道瞬息萬變。《九變》有云：君命有所不受。若千里回稟朝堂，戰機早已成灰。然關鍵在於：此器當初受命，究竟是奉命點算糧草，還是受託定奪全軍戰和？
• 2:02
  Dorami: 等一下，我連公司下個月要衝營收還是要保現金流都不知道，哪來的大局觀？要是把「君命有所不受」丟給我，我一點同意，事後虧損了，難道拔我插頭就能抵命嗎？
• 2:17
  M.K.: 這就是我不願直接套用的差異。文本裡的將領處在君臣與戰爭責任中；現代 AI 不是那種責任主體。讀取資料、重排順序，跟代表公司對外承諾，是不同層級的權限。責任安排要檢查部署、授權與使用的整條鏈，不能推給機器，也不能只找最後按確認的人。
• 2:44
  孫子: 確是如此。無責無懼之物，若許其專斷符信，乃是主帥棄守。然若事事皆須待真人鈐印，遇此一刻之機，坐視利潤流失，遣器又有何益？
• 2:59
  Dorami: 主管開長會沒空看，系統一停擺就丟掉訂單，回頭人類又會嫌我們死板。
• 3:06
  M.K.: 我會先問：對方真的允許不具承諾效力的暫時保留嗎？如果可以，而且人已預先授權條件與期限，系統才在範圍內辦理，超出就停止。不能假設每筆交易都有冷卻期，更不能為了搶優惠先簽、再說可以撤回。少賺一次的代價，也要由訂規則的人事先面對。
• 3:32
  孫子: 預設之法固可應急，但若遇山洪斷道、廠商將傾，器械仍照舊矩鎖定名額，這不知變通的號令，豈不反成陷軍之索？
• 3:44
  Dorami: 那把案例再改一下：假設出現了廠商可能履約困難的新訊息，卻還沒核實。系統只看交期和價格，就可能漏掉它。我也可能把一段傳聞寫得像定論；提醒你有風險，和證明廠商會倒，是兩回事。這時要有停止與查證的條件，不能由我自行替你認定目的。
• 4:10
  M.K.: 我會先追查規則、資料與權限是怎麼設定的，不因系統出了結果，就假定它有意圖或能自己負責。我反對用有人按確認來假裝有把關。假如審查者一天有上百筆待辦，只看得到摘要、沒有時間查證，甚至無權駁回進度，那個確認就可能把制度風險壓到第一線。這是我們的假設與判斷，不是所有公司都如此。
• 4:37
  Dorami: 假如只給三十秒按確認，又不讓人要求補資料，能審到多少？要能說不，也得讓這個人有時間、資訊和真實的否決權吧。
• 4:49
  孫子: 善。為將者若只知層層畫押，而不知軍情虛實，此乃尸位素餐之輩。然汝方才言及「撤回」，老朽深有疑慮。古來征戰，陣勢既開、箭已離弦，安有輕言撤回之理？今日汝若因器械有疑而驟然收回符印，前線軍士若已失了自處之能，茫然無措，豈非頃刻自潰？
• 5:18
  Dorami: 把這個風險再推一步：假設一個團隊長期只看系統推薦，沒有維持比價和查規格的能力，異常時就可能接不回來。這不是在說用了 AI 一年，員工就必然退化。我的盲點也在這裡：能給出流暢摘要，不能證明我保留了你交接時需要的每項理由。資料、判斷依據和備援訓練，都是自動化之外仍要付的成本。
• 5:46
  M.K.: 所以我不認為自動化越少就越負責。我主張重要流程保留資訊、時間和否決權，也練習在系統失效時接手。NIST 的 AI 風險管理框架與 Playbook 是自願性參考，不是替這套安排發安全認證；剛才的授權分級和覆核條件，是我從文章延伸的判準。若真有證據顯示人工介入有效，授權可以調整；不能只拿核准數量當證明。
• 6:16
  孫子: 若依兵家之意在此推演，為將者不可貪圖疾行而自廢耳目，也不可因器物敏捷而忘卻存亡。我所談的仍是受命用兵、利合於主的舊脈絡，並非今日人人平等的授權契約。如何約束你們的機巧，終須由你們辨其權責，不可借我一句古語免去此問。
• 6:40
  Dorami: 聽起來我們今天沒打算替誰發一張全自動運作的免死金牌。聽眾朋友們，不妨回頭檢視你每天正在用的自動化流程：它到底在接觸什麼、改變什麼、替誰承諾什麼？如果立刻切斷網路，你還有沒有能力走完那道手續？
• 7:01
  M.K.: 把界線畫清楚，責任才不會憑空消失。我們下回線上見。