13.3 AI 商業倫理、偏見、動態定價與加航訴訟教訓
學完本節,你能夠:
- 正確說明 Moffatt v. Air Canada 案的事實、判決理由與賠償金額,並指出它對企業 AI 客服的工程意義。
- 區分動態定價的三種情況:正常的供需定價、趁危哄抬、演算法共謀。
- 用「通過率比值」檢查一個信用評分模型是否對特定市場有系統性偏差。
壹、開場情境:聊天機器人說可以退,公司說不行
這是一個真實事件,判決書可公開查閱(Moffatt v. Air Canada, 2024 BCCRT 149)。
2022 年 11 月,加拿大旅客 Jake Moffatt 的祖母過世。他在加拿大航空官網詢問聊天機器人「喪親優惠票價(bereavement fare)」怎麼申請。機器人回答:可以先買一般票,在開票日起 90 天內申請,退還差額。同一段回覆裡附了一個連結,連到官方政策頁面——那個頁面寫的卻是:已完成的旅程不適用喪親優惠。
Moffatt 照機器人的說法買票、搭機,回來後申請退差額,被加航拒絕。
應為自己的行為負責 T-->>C: 2024/2/14 判加航賠償 CA$ 812.02
本節要解決的問題: 當 AI 代表公司對外說話、定價、做判斷時,公司要為哪些結果負責?系統要怎麼設計,才不會重演這一幕?
貳、為什麼會這樣:三個倫理與法律議題
1. AI 說的話,就是公司說的話
裁決庭(Civil Resolution Tribunal,卑詩省處理小額民事爭議的線上裁決機構)的理由可以整理成三點:
| 加航的主張 | 裁決庭的回應 |
|---|---|
| 聊天機器人是獨立的法律實體,應為自己的行為負責 | 稱這是「令人驚訝的主張」(a remarkable submission)。機器人是網站的一部分,加航要為網站上所有資訊負責,不論來自靜態頁面或聊天機器人 |
| 旅客應自行點連結,查證正式政策 | 旅客沒有理由知道網站的哪一部分正確、哪一部分不正確 |
| — | 加航對旅客負有注意義務,卻沒有合理確保機器人資訊正確,構成過失不實陳述(negligent misrepresentation) |
賠償金額:票價差額損害 CA$ 650.88,加上判決前利息 CA$ 36.14 與裁決費用 CA$ 125,合計 CA$ 812.02。
💡 金額很小,教訓很大 這是小額裁決機構的決定,不是最高法院判例,對其他法院沒有拘束力。但它被全球廣泛引用,因為它回答了一個所有企業都會遇到的問題:「是 AI 說錯的」不能當作免責理由。 對工程師來說,模型的「幻覺」(hallucination,指模型產生看似合理但錯誤的內容)不是天災,而是一個需要被設計防範的已知風險。
2. 動態定價:同樣是漲價,性質不同
動態定價(dynamic pricing)是依供需、庫存、時段即時調整價格。它本身合法且常見(機票、飯店、運費),但有兩條紅線:
| 情況 | 例子 | 法律與倫理風險 |
|---|---|---|
| ✅ 正常供需定價 | 旺季運費上漲、淡季促銷 | 一般合法;需注意價格透明 |
| ⚠️ 趁危哄抬 | 天災、疫情期間,模型偵測到需求暴增,把必需品價格拉高數倍 | 許多地區(例如美國多數州)在緊急狀態期間禁止哄抬價格;即使合法,品牌傷害巨大 |
| 🛑 演算法共謀 | 競爭者約定用演算法維持同一價格 | 2015 年美國司法部起訴 Amazon 平台海報賣家 David Topkins,他們約定用定價演算法協調售價,是美國首件電商演算法定價的刑事反壟斷案 |
| ⚠️ 共用定價軟體 | 多家競爭者把各自的非公開資料交給同一家定價軟體,由它建議價格 | 2024 年美國司法部對租屋定價軟體 RealPage 提起反壟斷訴訟,主張這類模式可能構成違法的資訊交換與價格協調 |
歐盟競爭執委 Margrethe Vestager 在 2017 年的演說中說得很直接:企業不能躲在電腦程式後面,逃避共謀的責任。
至於「各家各自用演算法、從未溝通、卻自然把價格維持在高檔」的默契共謀,目前各國法律仍在討論中,是灰色地帶——但「法律還沒規定」不等於「可以放心做」。
3. 偏見:模型學到的是過去的資料
假設一家貿易商用 AI 決定海外買家的賒銷(先出貨後收款)額度。訓練資料大多來自歐美日的老客戶,新興市場的資料很少、違約紀錄又被少數案例放大。結果模型對某些地區的買家系統性地給較低分數。
即使把「國家」欄位刪掉,模型仍可能從代理變數(proxy,例如電話區碼、銀行所在地、網頁語系)推回同樣的資訊。
參、把規則寫下來:AI 客服與定價的規格
1. 讓加航案不再發生
| 主管說的話 | 需要追問的問題 | 寫成規格 |
|---|---|---|
| 「AI 不能亂承諾」 | 哪些話題算「承諾」? | 退款、折扣、賠償、保固、合約條款列為高風險話題 |
| 「回答要正確」 | 正確的依據是什麼? | 高風險話題只能引用法務核可的政策知識庫(第 7.5 節 RAG),回覆須附上條文來源 |
| 「查不到怎麼辦」 | 能不能讓模型自己推論? | 知識庫查無對應條文 → 不回答,轉真人,並告知預計回覆時間 |
| 「要讓客人知道」 | 知道什麼? | 對話開頭標明「您正在與 AI 助理對話」(歐盟 AI 法案第 50 條也有類似的告知要求) |
| (主管沒說) | AI 與政策頁面說法不一致怎麼辦? | 以對客戶較有利者處理,並當天回報修正知識庫——這是加航案的直接教訓 |
2. 動態定價的護欄
| 規則 | 規格 |
|---|---|
| 漲幅上限 | 單日調價不得超過基準價 × 1.5;超過需定價經理核准 |
| 緊急狀態斷路器 | 政府宣布緊急狀態的地區,相關品項暫停自動調漲 |
| 禁用特徵 | 定價模型不得使用國籍、族裔等個人特徵;也不得使用可推回這些特徵的代理變數 |
| 資料來源 | 不得把競爭對手的非公開價格資料作為定價輸入 |
肆、動手算:偏見檢查
美國平等就業機會委員會等機構在 1978 年的《員工甄選程序統一指引》中提出「五分之四法則」:某群體的通過率若低於最高通過率群體的 80%,就視為可能存在「不利影響」(adverse impact),需要進一步檢查。它原本用於招募,但常被借來當作模型公平性的初步警訊。
通過率比值 = 該群體通過率 ÷ 最高群體通過率
📌 以下為教學情境數據。
| 買家所在區域 | 申請數 | 核准數 | 通過率 | 比值 | 判斷 |
|---|---|---|---|---|---|
| 歐美日 | 400 | 320 | 80.0% | 100.0% | — |
| 東南亞 | 200 | 110 | 55.0% | 68.75% | ⚠️ 低於 80%,需檢查 |
| 非洲 | 80 | 36 | 45.0% | 56.25% | ⚠️ 低於 80%,需檢查 |
⚠️ 比值低不等於「歧視」,而是「要調查」 可能的原因有三種:(1) 這些地區真的違約率較高;(2) 這些地區樣本太少,模型學不準;(3) 模型抓到了與還款能力無關的代理變數。只有 (1) 是合理的商業差異,(2)(3) 都代表公司正在錯失好客戶。分辨它們,要回頭看實際還款資料——這是本質性困難,模型不會替你回答。
伍、判斷看看
| 情境 | 你的判斷 | 參考答案 |
|---|---|---|
| ① AI 客服回答「這張票可以全額退」,但條款寫不可退 | 公司要負責嗎? | 很可能要。加航案的邏輯:網站上的資訊都是公司的資訊 |
| ② 颱風過後,AI 把當地瓶裝水價格調高 3 倍 | 正常定價? | ⚠️ 觸發「緊急狀態斷路器」與漲幅上限,應暫停並由人決定 |
| ③ 三家貨代約好都用同一套定價程式,且共享各自的成本資料 | 合法嗎? | 🛑 高風險,屬於資訊交換與價格協調,參考 RealPage 案 |
| ④ AI 業務員在信中自稱「業務專員 Amy」,不說自己是 AI | 可以嗎? | ⚠️ 違反透明原則;在歐盟可能違反告知義務 |
| ⑤ 信用模型刪掉了「國家」欄位,所以一定沒有偏見 | 對嗎? | 不對,代理變數仍可能帶入偏差,要用比值實際檢查 |
陸、回到情境
如果加航的聊天機器人照參段規格設計:「退款」屬高風險話題 → 只能引用政策知識庫 → 政策寫「已完成旅程不適用」→ 機器人會照實回答,Moffatt 就不會被誤導。真正的問題不是模型不夠聰明,而是沒有人把「哪些話 AI 不能自由發揮」寫成規格。
| 限制 | 後果 | 在哪一節解決 |
|---|---|---|
| 知識庫本身寫錯或過時 | AI 忠實地引用錯誤政策 | 14.3 知識新鮮度檢查 |
| 偏見比值只是初步警訊 | 可能誤判,也可能漏判 | 10.2 用黃金資料集持續評估 |
| 各國法規差異大 | 一套規則難以適用全球 | 13.4 跨國合規 |
本節小結
- 加航案:裁決庭駁回「機器人是獨立實體」的主張,判賠 CA$ 812.02。企業要為 AI 對外說的每一句話負責。
- 高風險話題(退款、折扣、賠償)只能引用核可的知識庫;查不到就轉真人。
- 動態定價合法,但趁危哄抬與演算法共謀是紅線。
- 刪掉敏感欄位不等於沒有偏見;要用通過率比值實際檢查,再追查原因。
柒、練習
- 改數字(5 分鐘):如果東南亞的核准數從 110 提高到 130,比值變成多少?是否仍低於 80%?
- 加規則(20 分鐘):替一家跨境電商的 AI 客服,列出 5 個「高風險話題」,並為每一個寫出「可引用的知識庫條目名稱」與「查不到時的標準回覆」。
- 管理反思(討論):200 家手機配件賣家都付費使用同一個「AI 智慧調價外掛」,結果大家的防摔殼價格都停在 US$ 29.9,遠高於過去的 US$ 12。這是否構成共謀?請分別從賣家、軟體商、平台三方的角度討論責任,並說明你需要知道哪些事實(例如:外掛是否使用了各賣家的非公開資料?)才能判斷。