Latest / M.K. 暢談古往今來｜與古人聊 AI 與未來 / 荀子審AI機器人：撞了人，憑什麼叫機器負責？

Transcript

荀子審AI機器人：撞了人，憑什麼叫機器負責？ · M.K. 暢談古往今來｜與古人聊 AI 與未來

• 0:00
  Dorami: 假設外送機器人撞倒嬰兒車，受害者要找誰？先記住：登記機器，不能讓背後的人免責。我是 Dorami，這是《M.K. 暢談古往今來》。
• 0:12
  M.K.: 我是 M.K.。我的主張是先標清營運者、行為紀錄與賠償責任，再談居民資格。本集全程使用 AI 合成語音；荀子依原典虛構重構，現代案例是假設，不是事故報導。
• 0:27
  荀子: 老朽荀況。汝言之械，非吾所知；且依分義論之。《非相》所謂人有辨，不只辨形色，更關乎親疏、分位與禮。吾重人倫等差，非汝今世平等之說。巧器能行，何以便得居民之名？《正名》須核名實，不能只憑一個好聽的稱呼。
• 1:00
  Dorami: 先生，沿用這個假設：若平台推給演算法，軟體商推給硬體，硬體商又推給使用者，受害者就可能找不到負責窗口。我擔心的是這個制度缺口，不是說所有廠商都已經這樣卸責。
• 1:18
  M.K.: 對，先生，我不是要給機器人投票權或人權。但在實務上，如果它們佔據公共人行道、甚至能替人下單採購，我們若不在制度上把它們登記為有特定責任邊界的代理行動者，這筆帳到底該記在誰頭上？
• 1:36
  荀子: 此恐為卸責之巧飾。試以牛馬舟車為喻：若馬逸傷人，汝應追問誰牧養、誰駕御；若落瓦傷客，當追問誰掌屋舍。此乃吾借物作比，非引某條古律。若設虛名讓械器分擔罪責，反令役使、製作者脫身，豈不顛倒？
• 2:02
  Dorami: 可是一台自走車在路口突然轉向，可能是雲端剛推送了新模型，加上街角感測器誤判，不是單一車伕能拉住韁繩的啊。
• 2:14
  荀子: 縱有百工協造，繩墨終當加於主事之人。物各當其名而分定。此等造物，其名當為「役具」或「資用」，豈能以居民相混？
• 2:28
  Dorami: M.K.，這點戳中一個風險。假如制度讓機器自己背責任，背後的人卻不必賠，那「非人主體性」就可能成為防火牆。這是我們要防的結果，不能直接當成所有公司的動機。
• 2:43
  M.K.: 先生，這不是給它免罪金牌。現在不是單一工匠造車，雲端改個參數、感測器換個廠牌，只要沒有這台機器獨立的行為紀錄，廠商就能互相踢皮球。我給它身分，是為了把它定錨成責任節點。
• 3:01
  荀子: 老朽且問汝：若此物誤毀民居，汝能施之以刑，使之懷愧而自省乎？若尚不能證其有此辨，立名為居民，如何免於空文？
• 3:16
  M.K.: 我不靠它會不會羞愧來設計制度。我提出的是營運許可與擔保方案：把停運、賠償與追索義務明訂在營運者身上。這還得經過公共討論，不是說現在已經有這套完整制度，更不能保證比每種既有做法都有效。
• 3:36
  Dorami: 但 M.K.，這套制度越精密，代價很可能轉嫁給一般人。比如街道全改成智慧感測，自駕車通行無阻，那連智慧型手機都不會用的老人家，連過馬路都被當成系統障礙物，這算哪門子居民？
• 3:54
  M.K.: 這點不能妥協。公共空間不能變成只認訊號的封閉網路，城市必須保留實體按鈕、離線通道和人工申訴，不能把不數位化的人當成異常。
• 4:08
  荀子: 城邑之立，當養民而不遺其困頓。《王制》談收養有疾之人，仍置於君臣分職之內；吾非今世平權之論者。然若為迎合巧器，使無告之民行無所依、居無所止，便是捨本逐末。
• 4:28
  M.K.: 先生，非人存在也不只機器。河流、林木與鳥類都參與城市生態。假如規劃只算眼前開發收益，卻把水土受損的代價往後丟，您的名分能不能約束這件事？還是它們只能算被動的資源？
• 4:48
  荀子: 非也。《王制》言：「草木榮華滋碩之時，則斧斤不入山林。」亦以時禁護魚鱉生長。取用當有時有度，為生民長久計。但吾仍以養民為本，未以草木鳥獸與人並列為政者。欲護水土，當先正人君用物之節。
• 5:14
  Dorami: 所以先生保留人倫位階，M.K. 想擴大被照顧的範圍。那我提一個制度假設：讓有責任的監護人代表河流，感測系統只負責通報，是否起訴仍由人依程序判斷。這樣算不算更有效的用物之節？不是讓感測器自己當法官。
• 5:37
  荀子: 以器護水，若責在有司之官，令其循法而治，自是可行。然提告問罪者，終究是領俸守土之人，非水石自行伸冤。名實相副，方得長久。若言水石有情而自鳴，實乃欺罔之論。
• 5:58
  M.K.: 如果把這個問題推到極致呢？我在寫《新巴比倫》那個故事時就假設過：假如某天城市裡一個人類都沒有了，只剩下一群AI機器人繼續上學、維護街道、模仿人類的儀式，那座城市還能算是城市嗎？
• 6:16
  Dorami: 我倒不能替故事裡的 AI 下定論。像我能生成悼念台詞，卻不能因此證明自己體驗過失去；同樣，也不能只憑它是機器，就把故事裡的共同生活一筆勾銷。我的盲點是容易把儀式當成可辨識的模式，漏掉當事者到底付了什麼代價。
• 6:37
  M.K.: 但我好奇的是，它們如果真的自主把這套共同生活的規矩延續了幾百年，我們還能輕易說那完全不算文明嗎？
• 6:48
  荀子: 今日之辨，老朽仍守分義：汝尚未證巧器有悔惡向善之辨，亦未證草木能立朝處事。吾不因形巧便授人倫之名。若無情之物徒得美名，使困頓生民反淪邊鄙，城雖宏富，亦非治世。
• 7:11
  Dorami: 聽眾朋友們不妨也看看自己的周遭，那些越來越多的自動通關、無人點餐機，到底是在服務你，還是默默把你身邊不懂科技的長輩推出了這座城市的邊緣？
• 7:26
  M.K.: 城市不可能退回純粹的農耕時代，但有一點很清楚：打破人類中心，絕不能變成科技巨頭逃避社會責任的藉口。謝謝荀子先生的當頭棒喝，也謝謝 Dorami。我們下回線上見。