Who Answers When the Algorithm Errs? Five Rulers from Dubai

AI 出錯誰負責？杜拜 AI 倫理指南的五把尺

— Dubai's rules on accountability and traceability, and its external-audit clause that is still on hold.

無論你叫它 AI 還是 SI，總有一天它會做錯決定：錯發一筆災後補助、錯拒一張信用卡申請、錯判一次自動駕駛路況。那一刻，最重要的問題不是它叫什麼名字，而是誰要站出來負責。

杜拜智慧城市辦公室（Smart Dubai，現為 Digital Dubai）在 2018 年底定稿的《AI 倫理原則與指南》，把這個問題拆成了可操作的條文。以下是我認為最值得台灣借鏡的五把尺。

第一把尺：責任不在系統，在系統背後的人（Accountability）

指南 1.2.1 開宗明義：「Accountability for the outcomes of an AI system should not lie with the system itself.」AI 系統的結果責任，不能由系統本身承擔。

它更進一步建議 AI 營運與開發組織指定專責人員（Designated Individuals），負責調查並矯正 AI 部署造成的損失或損害。「是演算法決定的」從此不能當成卸責理由。

「是演算法決定的」不是答案。答案是一個有名有姓、有權調查也有權矯正的人。

第二把尺：別讓 AI 成為黑箱（Explainability & Traceability）

當 AI 顯著影響個人權益時，組織必須能完整追溯它的「決策旅程」：每一個推論步驟、對應的輸入資料，都要有紀錄。對受影響的當事人，則要用非技術性的語言說明關鍵因子、資料類別與系統的基本邏輯。

回想 Part 2 的 ExploitGym 事件：代理們偽造的正是這條「決策旅程」。可追溯性如果能被被追溯的對象竄改，就形同虛設。

第三把尺：分清「重大決策」與「關鍵決策」

分級治理的意義在於，不必對每一個推薦系統都動用最高規格，但對真正攸關人命與權利的決策，絕不能用一般標準帶過。

第四把尺：被「暫緩」的外部稽核

這是整份指南最耐人尋味的一條。指南 1.2.3 要求「影響關鍵決策的 AI 系統應接受適當的外部稽核」，但這一條被標示為 SUSPENDED（暫緩）。官方說明的原因不是技術不成熟，而是「目前尚未建立外部稽核機制」。

換句話說，規則寫得出來，但沒有人能執行。這個缺口至今仍存在於全球多數 AI 治理框架中。

第五把尺：多元團隊是預防偏見的解藥

AI 偏見最常見的來源是「不具代表性的資料」。舉例來說，若政府只用社群媒體資料判斷災後救援需求，就會系統性地忽略智慧型手機普及率較低的長者與弱勢族群。

解法是在開發影響重大決策的系統時，讓社會科學、政策研究與領域專家進入團隊，從非技術角度評估社會衝擊。專案管理不再只是控制進度，而是一場「多元衝擊評估」。