3.5 AI 時代的企業系統設計:可插拔架構與高內聚低耦合
學完本節,你能夠:
- 說明企業 AI 系統的四層結構,以及每一層「換掉時不該影響到誰」。
- 設計一張模型路由表,依任務難度、風險與資料敏感度分配模型,並算出成本差異。
- 讀懂一個模型適配層的程式,判斷「換模型、換供應商」時需要改哪裡。
壹、開場情境:AI 回信功能被一家供應商綁住了
📌 以下為教學情境(依實務改編)。
鍵盤外銷公司去年做了一個「AI 詢價信助理」:海外客戶來信後,AI 自動分類、草擬回信,業務確認後寄出。當時工程師直接在程式裡呼叫某家 AI 廠商的專屬 API,分類、草擬、審合約,全部寫死同一個模型,而且散落在十幾個地方。
一年後接連發生三件事:
| 事件 | 公司想做的事 | 實際遇到的困難 |
|---|---|---|
| 廠商調漲價格 | 換成更便宜的模型 | 要改十幾處程式,每一處都要重新測試 |
| 另一家推出更擅長德文的模型 | 只讓「草擬德文回信」改用新模型 | 所有功能共用同一段呼叫,無法只換一部分 |
| 財務想用 AI 分析各產品毛利 | 毛利資料不能傳到外部雲端 | 系統只認得那一家雲端模型,沒有別的選擇 |
AI 模型更新速度以月計,價格與能力不斷變動。如果系統每換一次模型就要大改一次,企業就永遠被技術變化追著跑。
本節要解決的問題: 怎麼設計 AI 系統,才能隨時換用更好、更便宜或更安全的模型,又不必重寫業務邏輯?
貳、為什麼會這樣:把 AI 系統分成四層
第 3.1 節的低耦合和介面,在 AI 系統裡同樣適用。核心想法是:把「會變的東西」關在自己那一層,用固定的介面和其他層往來。
詢價信助理、ERP 審批畫面、報關儀表板"] L2["② 編排層
決定步驟順序、何時呼叫哪個工具、何時交給人審核"] L3["③ 工具與資料層
ERP/CRM 工具、法規知識庫、金流與物流 API"] L4["④ 模型適配層
統一窗口 askModel → 依路由表分派到不同模型"] L1 --> L2 L2 <--> L3 L2 <--> L4
| 層 | 負責什麼 | 常見變動 | 換掉時,不該影響誰 |
|---|---|---|---|
| ① 應用層 | 使用者看到、操作的畫面 | 改版面、加新入口 | 編排邏輯與模型 |
| ② 編排層 | 把一件工作拆成步驟、決定何時需要人工確認 | 調整流程、加審核關卡 | 畫面、工具 |
| ③ 工具與資料層 | 企業自己的資料與功能:ERP、CRM、內部規章 | 新增工具、資料庫搬家 | 模型(換模型後工具照樣能用) |
| ④ 模型適配層 | 把各家模型包成同一個窗口,依規則分派 | 換模型、換供應商、調整價格策略 | 業務邏輯與工具 |
幾個名詞的白話說明:
- 知識庫(RAG):讓 AI 回答前,先到公司文件中查相關段落再作答的做法。第 7 章詳述。
- MCP(Model Context Protocol):一個開放標準,讓企業把 ERP 查詢等功能包裝成工具後,任何支援 MCP 的 AI 應用都能使用。第 8 章與附錄 B.5 會實作。
- 模型適配層:業務程式只呼叫一個統一窗口(本節稱為
askModel),由這一層決定實際送給哪個模型。開場情境就是少了這一層。
這四層的價值在於:企業真正的資產在第③層(自己的資料、規則與工具),模型是可以替換的零件。
高內聚、低耦合的新意義
| 原則 | 傳統軟體 | AI 系統 |
|---|---|---|
| 高內聚 | 一個模組專心做一件事 | 一個 AI 工具或技能只負責一項業務職能,例如「HS Code 比對」只比對稅則,不碰付款 |
| 低耦合 | 模組間透過 API 溝通 | 換模型不影響工具;改 ERP 資料庫不必改 Prompt;改畫面不影響編排流程 |
參、把規則寫下來:模型路由表
模型適配層的核心是一張路由表:哪一類任務,交給哪一級模型。這是商業決策,不是技術決策,因為它同時牽涉成本、品質與資安。
| 任務 | 特性 | 分派到 | 理由 |
|---|---|---|---|
| 詢價信分類 | 量大、簡單、錯了業務會再確認 | 輕量雲端模型 | 便宜、快速 |
| 合約條款審查 | 量少、錯了代價高 | 高階雲端模型 | 品質優先 |
| 財務毛利分析 | 含敏感數據 | 公司內部部署的模型 | 資料不得離開公司 |
| (沒人說) | 路由表上沒有的新任務 | 不分派,停止並提示 | 避免敏感任務被預設送到雲端 |
| (沒人說) | 模型服務當機 | 停止並告警,不自動改送其他模型 | 改送可能違反上面的資料規則 |
最後兩列是例外規則。特別注意第二條:模型當機時「自動換一個能用的」聽起來很貼心,但如果財務數據因此被送到外部雲端,就違反了公司規定。
路由能省多少錢?
假設每月 10,000 次 AI 呼叫,其中 80% 是簡單的分類與草擬,20% 需要高階模型。以下價格為教學假設:
全部用高階模型:10,000 × NT$ 1.5 = NT$ 15,000
依路由分派: 8,000 × NT$ 0.1 + 2,000 × NT$ 1.5 = NT$ 3,800
節省比例: 1 − 3,800 ÷ 15,000 ≈ 74.7%
肆、讀一段程式:模型適配層
下面這段程式示範適配層的結構。為了能直接執行,用簡單的函式代替真正的模型 API 呼叫;真實系統中,只要把 PROVIDERS 裡的函式換成各家的 API 呼叫即可。
// ===== 商業規則:哪一類任務交給哪一級模型(調整路由只改這張表)=====
const ROUTES = {
classify_inquiry: 'light', // 詢價信分類:量大、簡單
review_contract: 'premium', // 合約條款審查:量少、風險高
analyze_finance: 'local', // 財務數據:不得離開公司
};
// ===== 模型適配層:每一級目前用哪個模型(換供應商只改這裡)=====
// 教學用:以假的函式代替真正的模型 API 呼叫
const PROVIDERS = {
light: (prompt) => `[輕量雲端模型] 已處理:${prompt}`,
premium: (prompt) => `[高階雲端模型] 已處理:${prompt}`,
local: (prompt) => `[公司內部模型] 已處理:${prompt}`,
};
// 業務程式一律呼叫 askModel,不直接呼叫任何廠商的 API
function askModel(task, prompt) {
const tier = ROUTES[task];
if (!tier) {
throw new Error(`任務「${task}」尚未設定路由,請先在 ROUTES 新增`);
}
try {
return PROVIDERS[tier](prompt);
} catch (err) {
// 模型服務失敗:停止並告警,不要自行改送其他模型
throw new Error(`模型服務(${tier})失敗,已停止處理,請通知系統負責人:${err.message}`);
}
}
console.log(askModel('classify_inquiry', '德國客戶詢問 B 款交期'));
console.log(askModel('analyze_finance', '第三季各產品毛利'));
執行結果:
[輕量雲端模型] 已處理:德國客戶詢問 B 款交期
[公司內部模型] 已處理:第三季各產品毛利
🔍 驗收重點(不懂語法也能檢查) - 業務程式裡,是否只出現
askModel,而沒有直接呼叫某家廠商的 API? - 路由規則(哪個任務用哪級模型)是否集中在最上方的ROUTES? - 遇到沒設定的任務或模型失敗時,程式是停下來,還是自動找一個模型繼續做?
這段程式和第 3.4 節一樣,可以貼到瀏覽器主控台(F12 →「Console」)執行。
伍、跑跑看、壞給你看
| 實驗 | 操作 | 預期結果 | 想想看 |
|---|---|---|---|
| ① 換供應商 | 把 light 那一行的文字改成 [新廠商輕量模型] |
分類任務的輸出改由「新廠商」處理,其他任務不受影響 | 換供應商時,你改了幾行? |
| ② 未設定的任務 | 加一行 askModel('translate_email', 'Hallo') |
停止並顯示「任務『translate_email』尚未設定路由」 | 為什麼不預設送給輕量模型就好? |
| ③ 模型當機 | 把 light 改成 (prompt) => { throw new Error('連線逾時'); } |
停止並顯示「模型服務(light)失敗,已停止處理…連線逾時」 | 自動改送高階模型,對分類任務有什麼風險?對財務任務呢? |
| ④ 改錯路由 | 把 analyze_finance 改成 'premium' |
程式照常執行,財務數據改送高階雲端模型 | 程式擋不住這種錯誤。誰應該審核路由表的修改? |
實驗④很重要:適配層讓「換模型」變得很容易,但也讓「改錯」變得很容易。路由表本身就是一份需要權限管理的商業規則(就像第 1.1 節的 MIN_MARGIN)。
陸、回到情境
加上模型適配層與路由表後,開場的三件事變成:
| 事件 | 現在怎麼處理 |
|---|---|
| 廠商漲價 | 只改 PROVIDERS 裡的一行,換成其他供應商 |
| 德文模型更好 | 新增一個任務 draft_reply_de,路由到新模型,其他任務不動 |
| 財務資料不能上雲 | 路由到 local,資料留在公司內 |
作家塔雷伯(Nassim Taleb)在《反脆弱》中區分「害怕變動」與「能從變動中獲益」的系統。可插拔架構的目標正是後者:新模型推出時,對企業來說是多了一個選項,而不是又一次重寫。
仍有限制:
| 限制 | 後果 | 在哪一節解決 |
|---|---|---|
| 不同模型對同一個 Prompt 的表現不同 | 換模型後品質可能下降 | 第 10 章 用評估資料集比較模型 |
| 路由表可能被誤改(實驗④) | 敏感資料外流 | 第 9 章 權限與防護欄、第 13 章 資料合規 |
| 工具層還沒有標準化 | 每接一個新 AI 應用都要重接 ERP | 第 8 章 MCP 工具封裝 |
本節小結
- AI 模型變化快,系統要設計成「模型是可替換的零件」,企業資產留在工具與資料層。
- 四層結構:應用層、編排層、工具與資料層、模型適配層;每層的變動不應波及其他層。
- 路由表是一份商業規則:同時考慮成本、品質與資料敏感度。
- 路由不到或模型失敗時要停止並告警,不要自動改送其他模型。
柒、練習
- 改數字(5 分鐘):如果簡單任務只佔 70%、高階任務佔 30%,每月總成本是多少?比全部用高階模型省下幾 %?
- 加功能(20 分鐘):公司想新增「草擬德文回信」任務。請先在路由表規格中加一列(特性、分派到、理由),再修改
ROUTES與PROVIDERS,並用實驗確認其他任務的輸出不受影響。 - 管理反思(討論):開場情境的公司犯了什麼架構上的錯誤?如果你是 IT 主管,簽約導入 AI 服務前,會在合約或驗收條件中要求哪些項目,避免被單一供應商綁住?