13.3 AI 商業倫理、偏見、動態定價與加航訴訟教訓

學完本節,你能夠:

  1. 正確說明 Moffatt v. Air Canada 案的事實、判決理由與賠償金額,並指出它對企業 AI 客服的工程意義。
  2. 區分動態定價的三種情況:正常的供需定價、趁危哄抬、演算法共謀。
  3. 用「通過率比值」檢查一個信用評分模型是否對特定市場有系統性偏差。

壹、開場情境:聊天機器人說可以退,公司說不行

這是一個真實事件,判決書可公開查閱(Moffatt v. Air Canada, 2024 BCCRT 149)。

2022 年 11 月,加拿大旅客 Jake Moffatt 的祖母過世。他在加拿大航空官網詢問聊天機器人「喪親優惠票價(bereavement fare)」怎麼申請。機器人回答:可以先買一般票,在開票日起 90 天內申請,退還差額。同一段回覆裡附了一個連結,連到官方政策頁面——那個頁面寫的卻是:已完成的旅程不適用喪親優惠。

Moffatt 照機器人的說法買票、搭機,回來後申請退差額,被加航拒絕。

sequenceDiagram autonumber actor C as Moffatt participant Bot as 加航官網聊天機器人 participant AC as 加航客服 participant T as 卑詩省民事裁決庭 (CRT) C->>Bot: 喪親優惠怎麼申請? Bot-->>C: 先買票,開票 90 天內申請退差額 Note over C: 照做,買下來回機票 C->>AC: 旅程結束,申請退差額 AC-->>C: 拒絕:政策不適用已完成的旅程 C->>T: 提出小額求償 Note over T: 加航主張:機器人是「獨立的法律實體」
應為自己的行為負責 T-->>C: 2024/2/14 判加航賠償 CA$ 812.02

本節要解決的問題: 當 AI 代表公司對外說話、定價、做判斷時,公司要為哪些結果負責?系統要怎麼設計,才不會重演這一幕?


貳、為什麼會這樣:三個倫理與法律議題

1. AI 說的話,就是公司說的話

裁決庭(Civil Resolution Tribunal,卑詩省處理小額民事爭議的線上裁決機構)的理由可以整理成三點:

加航的主張 裁決庭的回應
聊天機器人是獨立的法律實體,應為自己的行為負責 稱這是「令人驚訝的主張」(a remarkable submission)。機器人是網站的一部分,加航要為網站上所有資訊負責,不論來自靜態頁面或聊天機器人
旅客應自行點連結,查證正式政策 旅客沒有理由知道網站的哪一部分正確、哪一部分不正確
— 加航對旅客負有注意義務,卻沒有合理確保機器人資訊正確,構成過失不實陳述(negligent misrepresentation)

賠償金額:票價差額損害 CA$ 650.88,加上判決前利息 CA$ 36.14 與裁決費用 CA$ 125,合計 CA$ 812.02。

💡 金額很小,教訓很大 這是小額裁決機構的決定,不是最高法院判例,對其他法院沒有拘束力。但它被全球廣泛引用,因為它回答了一個所有企業都會遇到的問題:「是 AI 說錯的」不能當作免責理由。 對工程師來說,模型的「幻覺」(hallucination,指模型產生看似合理但錯誤的內容)不是天災,而是一個需要被設計防範的已知風險。

2. 動態定價:同樣是漲價,性質不同

動態定價(dynamic pricing)是依供需、庫存、時段即時調整價格。它本身合法且常見(機票、飯店、運費),但有兩條紅線:

情況 例子 法律與倫理風險
✅ 正常供需定價 旺季運費上漲、淡季促銷 一般合法;需注意價格透明
⚠️ 趁危哄抬 天災、疫情期間,模型偵測到需求暴增,把必需品價格拉高數倍 許多地區(例如美國多數州)在緊急狀態期間禁止哄抬價格;即使合法,品牌傷害巨大
🛑 演算法共謀 競爭者約定用演算法維持同一價格 2015 年美國司法部起訴 Amazon 平台海報賣家 David Topkins,他們約定用定價演算法協調售價,是美國首件電商演算法定價的刑事反壟斷案
⚠️ 共用定價軟體 多家競爭者把各自的非公開資料交給同一家定價軟體,由它建議價格 2024 年美國司法部對租屋定價軟體 RealPage 提起反壟斷訴訟,主張這類模式可能構成違法的資訊交換與價格協調

歐盟競爭執委 Margrethe Vestager 在 2017 年的演說中說得很直接:企業不能躲在電腦程式後面,逃避共謀的責任。

至於「各家各自用演算法、從未溝通、卻自然把價格維持在高檔」的默契共謀,目前各國法律仍在討論中,是灰色地帶——但「法律還沒規定」不等於「可以放心做」。

3. 偏見:模型學到的是過去的資料

假設一家貿易商用 AI 決定海外買家的賒銷(先出貨後收款)額度。訓練資料大多來自歐美日的老客戶,新興市場的資料很少、違約紀錄又被少數案例放大。結果模型對某些地區的買家系統性地給較低分數。

即使把「國家」欄位刪掉,模型仍可能從代理變數(proxy,例如電話區碼、銀行所在地、網頁語系)推回同樣的資訊。


參、把規則寫下來:AI 客服與定價的規格

1. 讓加航案不再發生

主管說的話 需要追問的問題 寫成規格
「AI 不能亂承諾」 哪些話題算「承諾」? 退款、折扣、賠償、保固、合約條款列為高風險話題
「回答要正確」 正確的依據是什麼? 高風險話題只能引用法務核可的政策知識庫(第 7.5 節 RAG),回覆須附上條文來源
「查不到怎麼辦」 能不能讓模型自己推論? 知識庫查無對應條文 → 不回答,轉真人,並告知預計回覆時間
「要讓客人知道」 知道什麼? 對話開頭標明「您正在與 AI 助理對話」(歐盟 AI 法案第 50 條也有類似的告知要求)
(主管沒說) AI 與政策頁面說法不一致怎麼辦? 以對客戶較有利者處理,並當天回報修正知識庫——這是加航案的直接教訓

2. 動態定價的護欄

規則 規格
漲幅上限 單日調價不得超過基準價 × 1.5;超過需定價經理核准
緊急狀態斷路器 政府宣布緊急狀態的地區,相關品項暫停自動調漲
禁用特徵 定價模型不得使用國籍、族裔等個人特徵;也不得使用可推回這些特徵的代理變數
資料來源 不得把競爭對手的非公開價格資料作為定價輸入

肆、動手算:偏見檢查

美國平等就業機會委員會等機構在 1978 年的《員工甄選程序統一指引》中提出「五分之四法則」:某群體的通過率若低於最高通過率群體的 80%,就視為可能存在「不利影響」(adverse impact),需要進一步檢查。它原本用於招募,但常被借來當作模型公平性的初步警訊。

通過率比值 = 該群體通過率 ÷ 最高群體通過率

📌 以下為教學情境數據。

買家所在區域 申請數 核准數 通過率 比值 判斷
歐美日 400 320 80.0% 100.0% —
東南亞 200 110 55.0% 68.75% ⚠️ 低於 80%,需檢查
非洲 80 36 45.0% 56.25% ⚠️ 低於 80%,需檢查

⚠️ 比值低不等於「歧視」,而是「要調查」 可能的原因有三種:(1) 這些地區真的違約率較高;(2) 這些地區樣本太少,模型學不準;(3) 模型抓到了與還款能力無關的代理變數。只有 (1) 是合理的商業差異,(2)(3) 都代表公司正在錯失好客戶。分辨它們,要回頭看實際還款資料——這是本質性困難,模型不會替你回答。


伍、判斷看看

情境 你的判斷 參考答案
① AI 客服回答「這張票可以全額退」,但條款寫不可退 公司要負責嗎? 很可能要。加航案的邏輯:網站上的資訊都是公司的資訊
② 颱風過後,AI 把當地瓶裝水價格調高 3 倍 正常定價? ⚠️ 觸發「緊急狀態斷路器」與漲幅上限,應暫停並由人決定
③ 三家貨代約好都用同一套定價程式,且共享各自的成本資料 合法嗎? 🛑 高風險,屬於資訊交換與價格協調,參考 RealPage 案
④ AI 業務員在信中自稱「業務專員 Amy」,不說自己是 AI 可以嗎? ⚠️ 違反透明原則;在歐盟可能違反告知義務
⑤ 信用模型刪掉了「國家」欄位,所以一定沒有偏見 對嗎? 不對,代理變數仍可能帶入偏差,要用比值實際檢查

陸、回到情境

如果加航的聊天機器人照參段規格設計:「退款」屬高風險話題 → 只能引用政策知識庫 → 政策寫「已完成旅程不適用」→ 機器人會照實回答,Moffatt 就不會被誤導。真正的問題不是模型不夠聰明,而是沒有人把「哪些話 AI 不能自由發揮」寫成規格。

限制 後果 在哪一節解決
知識庫本身寫錯或過時 AI 忠實地引用錯誤政策 14.3 知識新鮮度檢查
偏見比值只是初步警訊 可能誤判,也可能漏判 10.2 用黃金資料集持續評估
各國法規差異大 一套規則難以適用全球 13.4 跨國合規

本節小結

  1. 加航案:裁決庭駁回「機器人是獨立實體」的主張,判賠 CA$ 812.02。企業要為 AI 對外說的每一句話負責。
  2. 高風險話題(退款、折扣、賠償)只能引用核可的知識庫;查不到就轉真人。
  3. 動態定價合法,但趁危哄抬與演算法共謀是紅線。
  4. 刪掉敏感欄位不等於沒有偏見;要用通過率比值實際檢查,再追查原因。

柒、練習

  1. 改數字(5 分鐘):如果東南亞的核准數從 110 提高到 130,比值變成多少?是否仍低於 80%?
  2. 加規則(20 分鐘):替一家跨境電商的 AI 客服,列出 5 個「高風險話題」,並為每一個寫出「可引用的知識庫條目名稱」與「查不到時的標準回覆」。
  3. 管理反思(討論):200 家手機配件賣家都付費使用同一個「AI 智慧調價外掛」,結果大家的防摔殼價格都停在 US$ 29.9,遠高於過去的 US$ 12。這是否構成共謀?請分別從賣家、軟體商、平台三方的角度討論責任,並說明你需要知道哪些事實(例如:外掛是否使用了各賣家的非公開資料?)才能判斷。

國立臺中科技大學 國際貿易系 / 企業管理系 專用教材

《現代軟體工程:商學院的 AI 系統思維與 Agent 實踐》

作者:陳俊智 博士 Dr. Chun-Chih Chen

本書章節架構改編自陳鍾誠教授(金門大學)開源課程《現代軟體工程》(github.com/ccc115a/se,MIT 授權),內容針對商學院全面改寫與擴充。