14.3 商業落地的兩朵烏雲:極度即時市場與動態知識漂移
學完本節,你能夠:
- 說明為什麼大型語言模型不適合處理毫秒級的市場事件,並設計「快系統止血、慢系統謀略」的分工。
- 說明「知識漂移」的成因,以及為什麼法規知識要用外部資料庫而不是微調。
- 寫出一條「資料過期就停止計算」的新鮮度檢查規則。
壹、開場情境:同一週的兩個意外
1900 年 4 月,英國物理學家克耳文勳爵(Lord Kelvin)在演講中指出,當時看似完備的物理理論上空還飄著「兩朵烏雲」。後來,這兩朵烏雲分別引出了相對論與量子力學。(網路上常流傳他說過「物理學只剩小數點後的精確度要補」,但這句話並沒有可靠出處。)
AI 商業系統今天也有兩朵烏雲。
📌 以下為教學情境(依實務改編)。
一家台灣黃豆進口商導入了 AI 採購助理,負責報價、下單與試算進口成本。上線後某一週:
| 時間 | 事件 | AI 助理的表現 |
|---|---|---|
| 週二 00:07 | 外匯市場出現閃崩,某幣別在不到一分鐘內大跌,幾分鐘後又大致反彈 | 收到新聞、開始推理避險策略,產出建議時行情早已反彈,期間自動報價系統仍用崩跌中的匯率報出多張單 |
| 週五 | 主管機關公告調整某類農產品的進口稅率,隔日生效 | AI 依舊按照它「記得」的舊稅率試算成本,報價全部偏低 |
第一個意外的真實原型是 2016 年 10 月 7 日凌晨的英鎊閃崩:英鎊兌美元在約 40 秒內一度重挫近 10%,隨後幾分鐘內大致收復(各機構的計算口徑略有差異)。
本節要解決的問題: AI 太慢、AI 的知識會過時,這兩件事短期內不會消失。系統要怎麼設計,才能與它們共存?
貳、第一朵烏雲:AI 是慢的,市場是快的
1. 速度差多少
| 系統 | 反應時間的量級 |
|---|---|
| 交易所撮合、程式交易 | 毫秒(千分之一秒)以下 |
| 寫死的規則(「匯率變動超過 2% 就暫停報價」) | 毫秒 |
| 大型語言模型回覆一段文字 | 數秒 |
| 推理模型深入思考(14.1 節) | 數十秒到數分鐘 |
LLM 是一個字一個字(token)產生答案的(第 7.1 節),想得越深就越慢。這在寫報告時不是問題,但在市場劇烈波動時,等 AI 想清楚,損失早已發生。
2. 解法:快慢分工
心理學家康納曼(Daniel Kahneman,2002 年諾貝爾經濟學獎得主)在《快思慢想》中,把人的思考分成兩套:系統 1 快速、直覺;系統 2 緩慢、深思。借用這個比喻:
毫秒級"} F -->|"匯率 5 分鐘內變動 > 2%"| B["🚨 立即暫停自動報價
通知交易員"] F -.->|同時把資料交給| S["慢系統:LLM
分析新聞、評估影響"] S --> P["建議新的避險策略或門檻"] P -->|"人核准後"| F style F fill:#dcfce7,stroke:#16a34a style B fill:#fee2e2,stroke:#ef4444
| 快系統 | 慢系統 | |
|---|---|---|
| 用什麼做 | 一般程式碼(確定性規則) | 大型語言模型 |
| 任務 | 止血:暫停、熔斷(第 9.4 節的斷路器) | 謀略:分析原因、提出新策略 |
| 會不會被語言說服 | 不會 | 會(13.1 節) |
| 可以自己改規則嗎 | 不行 | 只能提出建議,經人核准才更新快系統 |
這和第 1.3 節「抓不到匯率就停止並告警」是同一個精神:不確定的時候,先停下來比繼續做更安全。
參、第二朵烏雲:知識會過時
1. 什麼是知識漂移
每個模型都有訓練資料截止日,之後發生的事它不知道。但外貿法規變動頻繁:
| 法規類型 | 變動節奏(舉例) |
|---|---|
| 國際商品統一分類(HS 稅則) | 世界海關組織約每五年全面修訂一次(例如 2022 年版、2028 年版) |
| 各國關稅、反傾銷稅、配額 | 隨時公告,可能隔日生效 |
| 歐盟碳邊境調整機制(CBAM) | 2026 年起進入正式實施期,細則陸續發布 |
| 自由貿易協定(如 CPTPP、RCEP)的降稅時程 | 依協定逐年調整 |
模型「記得」的世界與真實世界之間的落差,就叫知識漂移。最危險的是:模型不會說「我不知道」,而是很有自信地用舊資料回答。
2. 為什麼不用微調追上法規
| 微調的問題 | 說明 |
|---|---|
| 災難性遺忘 | 用新資料再訓練,模型可能變差原本會的東西 |
| 成本與時間 | 法規天天在變,不可能天天重新訓練 |
| 無法引用出處 | 模型答出稅率,卻說不出「依據哪一條公告、何時生效」,無法向海關稽核交代 |
| 刪不掉 | 舊稅率烤進模型後,很難保證它不再出現(13.4 節的同一個問題) |
解法是把推理能力與法規知識分開:模型負責理解問題,法規放在外部資料庫(第 7.5 節的 RAG),每次查詢都取最新版本並附上出處。
可靠的答案 = 模型的理解能力 + 當下檢索到的最新法規(附出處與更新時間)
肆、讓 AI 做出來:資料過期就停
外部資料庫也會過時——爬蟲壞了、沒人更新。所以還需要一條新鮮度檢查:資料太舊就拒絕計算。
1. 給 AI 的 Prompt
你是熟悉 JavaScript 的關務系統工程師。
【功能】寫一個函數 calcDuty(item, rateTable, now) 計算進口關稅。
- item:{ hsCode: 稅號, customsValue: 完稅價格(TWD) }
- rateTable:{ updatedAt: 最後更新時間, rates: { 稅號: 稅率 } }
【規則】關稅 = 完稅價格 × 稅率,四捨五入到整數。
【例外】
1. 稅率表距離現在超過 24 小時,或更新時間在未來 → 拋出錯誤,停止計算並通知關務人員。
2. 查無稅號 → 拋出錯誤,請人工確認。不得自行猜測稅率。
【要求】24 小時宣告為最上方常數;附中文註解。
2. AI 產出的程式碼(已人工驗收)
// ===== 商業規則(關務主管只需要改這一行)=====
const MAX_AGE_HOURS = 24; // 稅率資料超過幾小時未更新,就不准計算
// 計算一筆進口貨物的關稅;資料過期或查無稅號就停止,不猜測
function calcDuty(item, rateTable, now) {
const ageHours = (now - rateTable.updatedAt) / 3600000; // 毫秒換算成小時
// 例外 1:資料過期(或時間戳記在未來,代表資料有問題)
if (!(ageHours >= 0 && ageHours <= MAX_AGE_HOURS)) {
throw new Error(`⚠️ 稅率資料已 ${ageHours.toFixed(1)} 小時未更新,停止計算並通知關務人員`);
}
// 例外 2:查無稅號
const rate = rateTable.rates[item.hsCode];
if (rate === undefined) {
throw new Error(`⚠️ 找不到稅號 ${item.hsCode} 的稅率,請人工確認`);
}
return Math.round(item.customsValue * rate);
}
🔍 驗收重點 - 過期時是拋出錯誤、停止,而不是用舊稅率繼續算(fail-safe)。 - 查無稅號時,程式沒有「猜一個最接近的」——這正是 LLM 最容易犯的錯。
伍、跑跑看、壞給你看
假設完稅價格 NT$ 2,000,000,稅號 1201.90 的稅率表中為 3%(示意數字)。
| 實驗 | 稅率表多久前更新 | 預期結果 | 想想看 |
|---|---|---|---|
| ① 正常 | 6 小時 | 回傳 60,000 | — |
| ② 剛好邊界 | 24 小時 | 回傳 60,000 | 規格寫「超過 24 小時」才擋,24 小時整仍可算 |
| ③ 爬蟲壞了 | 30 小時 | ⚠️ 已 30.0 小時未更新,停止計算 | 停下來會耽誤報價,但用錯稅率會怎樣? |
| ④ 查無稅號 | 6 小時,稅號 9999.99 | ⚠️ 找不到稅號,請人工確認 | — |
| ⑤ 時間錯亂 | 更新時間在 5 小時「之後」 | ⚠️ 已 -5.0 小時未更新 | 擋對了,但訊息讓人看不懂。怎麼改?(練習 2) |
陸、回到情境
| 開場的意外 | 加上本節設計後 |
|---|---|
| 閃崩時繼續用崩跌中的匯率報價 | 快系統偵測到 5 分鐘內變動超過 2%,毫秒內暫停自動報價;慢系統再分析要不要調整策略 |
| 用舊稅率試算成本 | 稅率改由外部資料庫查詢;資料超過 24 小時未更新就停止計算並通知關務人員 |
兩朵烏雲都沒有消失,但系統學會了在烏雲下安全地停下來。
| 限制 | 後果 | 在哪一節解決 |
|---|---|---|
| 「24 小時內更新」不代表內容正確 | 爬蟲抓錯欄位,資料很新但是錯的 | 5.6 持續驗證;抽樣人工核對 |
| 快系統的門檻(2%)是人訂的 | 訂太鬆擋不住,訂太嚴天天誤停 | 練習 1;10.3 用歷史資料回測 |
| 暫停期間生意停擺 | 錯失訂單 | 6.4 異常偵測與業務自癒;誰有權恢復要寫進規格(練習 3) |
本節小結
- LLM 的速度是秒級,市場的速度是毫秒級;用寫死的規則止血,用 LLM 謀略。
- 模型的知識有截止日,而且會自信地用舊資料回答。
- 法規知識放在外部資料庫並附出處,不要靠微調追趕。
- 外部資料也會過時;過期就停,不要猜。
柒、練習
- 改數字(5 分鐘):關務主管認為稅率資料 12 小時就該更新一次。要改哪一行?實驗 ① 到 ③ 的結果會怎麼變?
- 加功能(20 分鐘):修改 Prompt,讓「更新時間在未來」與「資料過期」顯示不同的錯誤訊息;再新增一條規則:回傳結果時一併附上稅率來源與更新時間。
- 管理反思(討論):為一家跨國小麥進口商列出三個應交給「快系統」立即處理的事件,與三個應交給「慢系統」深入分析的事件。快系統暫停交易後,誰有權恢復?恢復的條件是什麼?