14.3 商業落地的兩朵烏雲:極度即時市場與動態知識漂移

學完本節,你能夠:

  1. 說明為什麼大型語言模型不適合處理毫秒級的市場事件,並設計「快系統止血、慢系統謀略」的分工。
  2. 說明「知識漂移」的成因,以及為什麼法規知識要用外部資料庫而不是微調。
  3. 寫出一條「資料過期就停止計算」的新鮮度檢查規則。

壹、開場情境:同一週的兩個意外

1900 年 4 月,英國物理學家克耳文勳爵(Lord Kelvin)在演講中指出,當時看似完備的物理理論上空還飄著「兩朵烏雲」。後來,這兩朵烏雲分別引出了相對論與量子力學。(網路上常流傳他說過「物理學只剩小數點後的精確度要補」,但這句話並沒有可靠出處。)

AI 商業系統今天也有兩朵烏雲。

📌 以下為教學情境(依實務改編)。

一家台灣黃豆進口商導入了 AI 採購助理,負責報價、下單與試算進口成本。上線後某一週:

時間 事件 AI 助理的表現
週二 00:07 外匯市場出現閃崩,某幣別在不到一分鐘內大跌,幾分鐘後又大致反彈 收到新聞、開始推理避險策略,產出建議時行情早已反彈,期間自動報價系統仍用崩跌中的匯率報出多張單
週五 主管機關公告調整某類農產品的進口稅率,隔日生效 AI 依舊按照它「記得」的舊稅率試算成本,報價全部偏低

第一個意外的真實原型是 2016 年 10 月 7 日凌晨的英鎊閃崩:英鎊兌美元在約 40 秒內一度重挫近 10%,隨後幾分鐘內大致收復(各機構的計算口徑略有差異)。

本節要解決的問題: AI 太慢、AI 的知識會過時,這兩件事短期內不會消失。系統要怎麼設計,才能與它們共存?


貳、第一朵烏雲:AI 是慢的,市場是快的

1. 速度差多少

系統 反應時間的量級
交易所撮合、程式交易 毫秒(千分之一秒)以下
寫死的規則(「匯率變動超過 2% 就暫停報價」) 毫秒
大型語言模型回覆一段文字 數秒
推理模型深入思考(14.1 節) 數十秒到數分鐘

LLM 是一個字一個字(token)產生答案的(第 7.1 節),想得越深就越慢。這在寫報告時不是問題,但在市場劇烈波動時,等 AI 想清楚,損失早已發生。

2. 解法:快慢分工

心理學家康納曼(Daniel Kahneman,2002 年諾貝爾經濟學獎得主)在《快思慢想》中,把人的思考分成兩套:系統 1 快速、直覺;系統 2 緩慢、深思。借用這個比喻:

flowchart TD E["市場事件"] --> F{"快系統:寫死的規則
毫秒級"} F -->|"匯率 5 分鐘內變動 > 2%"| B["🚨 立即暫停自動報價
通知交易員"] F -.->|同時把資料交給| S["慢系統:LLM
分析新聞、評估影響"] S --> P["建議新的避險策略或門檻"] P -->|"人核准後"| F style F fill:#dcfce7,stroke:#16a34a style B fill:#fee2e2,stroke:#ef4444
快系統 慢系統
用什麼做 一般程式碼(確定性規則) 大型語言模型
任務 止血:暫停、熔斷(第 9.4 節的斷路器) 謀略:分析原因、提出新策略
會不會被語言說服 不會 會(13.1 節)
可以自己改規則嗎 不行 只能提出建議,經人核准才更新快系統

這和第 1.3 節「抓不到匯率就停止並告警」是同一個精神:不確定的時候,先停下來比繼續做更安全。


參、第二朵烏雲:知識會過時

1. 什麼是知識漂移

每個模型都有訓練資料截止日,之後發生的事它不知道。但外貿法規變動頻繁:

法規類型 變動節奏(舉例)
國際商品統一分類(HS 稅則) 世界海關組織約每五年全面修訂一次(例如 2022 年版、2028 年版)
各國關稅、反傾銷稅、配額 隨時公告,可能隔日生效
歐盟碳邊境調整機制(CBAM) 2026 年起進入正式實施期,細則陸續發布
自由貿易協定(如 CPTPP、RCEP)的降稅時程 依協定逐年調整

模型「記得」的世界與真實世界之間的落差,就叫知識漂移。最危險的是:模型不會說「我不知道」,而是很有自信地用舊資料回答。

2. 為什麼不用微調追上法規

微調的問題 說明
災難性遺忘 用新資料再訓練,模型可能變差原本會的東西
成本與時間 法規天天在變,不可能天天重新訓練
無法引用出處 模型答出稅率,卻說不出「依據哪一條公告、何時生效」,無法向海關稽核交代
刪不掉 舊稅率烤進模型後,很難保證它不再出現(13.4 節的同一個問題)

解法是把推理能力與法規知識分開:模型負責理解問題,法規放在外部資料庫(第 7.5 節的 RAG),每次查詢都取最新版本並附上出處。

可靠的答案 = 模型的理解能力 + 當下檢索到的最新法規(附出處與更新時間)

肆、讓 AI 做出來:資料過期就停

外部資料庫也會過時——爬蟲壞了、沒人更新。所以還需要一條新鮮度檢查:資料太舊就拒絕計算。

1. 給 AI 的 Prompt

你是熟悉 JavaScript 的關務系統工程師。

【功能】寫一個函數 calcDuty(item, rateTable, now) 計算進口關稅。
- item:{ hsCode: 稅號, customsValue: 完稅價格(TWD) }
- rateTable:{ updatedAt: 最後更新時間, rates: { 稅號: 稅率 } }

【規則】關稅 = 完稅價格 × 稅率,四捨五入到整數。
【例外】
1. 稅率表距離現在超過 24 小時,或更新時間在未來 → 拋出錯誤,停止計算並通知關務人員。
2. 查無稅號 → 拋出錯誤,請人工確認。不得自行猜測稅率。
【要求】24 小時宣告為最上方常數;附中文註解。

2. AI 產出的程式碼(已人工驗收)

// ===== 商業規則(關務主管只需要改這一行)=====
const MAX_AGE_HOURS = 24; // 稅率資料超過幾小時未更新,就不准計算

// 計算一筆進口貨物的關稅;資料過期或查無稅號就停止,不猜測
function calcDuty(item, rateTable, now) {
  const ageHours = (now - rateTable.updatedAt) / 3600000; // 毫秒換算成小時

  // 例外 1:資料過期(或時間戳記在未來,代表資料有問題)
  if (!(ageHours >= 0 && ageHours <= MAX_AGE_HOURS)) {
    throw new Error(`⚠️ 稅率資料已 ${ageHours.toFixed(1)} 小時未更新,停止計算並通知關務人員`);
  }
  // 例外 2:查無稅號
  const rate = rateTable.rates[item.hsCode];
  if (rate === undefined) {
    throw new Error(`⚠️ 找不到稅號 ${item.hsCode} 的稅率,請人工確認`);
  }
  return Math.round(item.customsValue * rate);
}

🔍 驗收重點 - 過期時是拋出錯誤、停止,而不是用舊稅率繼續算(fail-safe)。 - 查無稅號時,程式沒有「猜一個最接近的」——這正是 LLM 最容易犯的錯。


伍、跑跑看、壞給你看

假設完稅價格 NT$ 2,000,000,稅號 1201.90 的稅率表中為 3%(示意數字)。

實驗 稅率表多久前更新 預期結果 想想看
① 正常 6 小時 回傳 60,000 —
② 剛好邊界 24 小時 回傳 60,000 規格寫「超過 24 小時」才擋,24 小時整仍可算
③ 爬蟲壞了 30 小時 ⚠️ 已 30.0 小時未更新,停止計算 停下來會耽誤報價,但用錯稅率會怎樣?
④ 查無稅號 6 小時,稅號 9999.99 ⚠️ 找不到稅號,請人工確認 —
⑤ 時間錯亂 更新時間在 5 小時「之後」 ⚠️ 已 -5.0 小時未更新 擋對了,但訊息讓人看不懂。怎麼改?(練習 2)

陸、回到情境

開場的意外 加上本節設計後
閃崩時繼續用崩跌中的匯率報價 快系統偵測到 5 分鐘內變動超過 2%,毫秒內暫停自動報價;慢系統再分析要不要調整策略
用舊稅率試算成本 稅率改由外部資料庫查詢;資料超過 24 小時未更新就停止計算並通知關務人員

兩朵烏雲都沒有消失,但系統學會了在烏雲下安全地停下來。

限制 後果 在哪一節解決
「24 小時內更新」不代表內容正確 爬蟲抓錯欄位,資料很新但是錯的 5.6 持續驗證;抽樣人工核對
快系統的門檻(2%)是人訂的 訂太鬆擋不住,訂太嚴天天誤停 練習 1;10.3 用歷史資料回測
暫停期間生意停擺 錯失訂單 6.4 異常偵測與業務自癒;誰有權恢復要寫進規格(練習 3)

本節小結

  1. LLM 的速度是秒級,市場的速度是毫秒級;用寫死的規則止血,用 LLM 謀略。
  2. 模型的知識有截止日,而且會自信地用舊資料回答。
  3. 法規知識放在外部資料庫並附出處,不要靠微調追趕。
  4. 外部資料也會過時;過期就停,不要猜。

柒、練習

  1. 改數字(5 分鐘):關務主管認為稅率資料 12 小時就該更新一次。要改哪一行?實驗 ① 到 ③ 的結果會怎麼變?
  2. 加功能(20 分鐘):修改 Prompt,讓「更新時間在未來」與「資料過期」顯示不同的錯誤訊息;再新增一條規則:回傳結果時一併附上稅率來源與更新時間。
  3. 管理反思(討論):為一家跨國小麥進口商列出三個應交給「快系統」立即處理的事件,與三個應交給「慢系統」深入分析的事件。快系統暫停交易後,誰有權恢復?恢復的條件是什麼?

國立臺中科技大學 國際貿易系 / 企業管理系 專用教材

《現代軟體工程:商學院的 AI 系統思維與 Agent 實踐》

作者:陳俊智 博士 Dr. Chun-Chih Chen

本書章節架構改編自陳鍾誠教授(金門大學)開源課程《現代軟體工程》(github.com/ccc115a/se,MIT 授權),內容針對商學院全面改寫與擴充。