7.5 企業知識庫與 RAG:建立跨國貿易與法規外掛大腦

學完本節,你能夠:

  1. 用「開卷考試」說明 RAG 的運作流程,並指出它與微調、長上下文的差別。
  2. 設計知識庫的切塊方式與元資料(版本、生效日、狀態),避免檢索到過期或斷章取義的內容。
  3. 判斷檢索失敗時系統該怎麼回應,並說明 Karpathy「LLM Wiki」做法與傳統 RAG 的取捨。

壹、開場情境:AI 很有自信,但說錯了

📌 以下為教學情境(依外貿實務改編)。

紅海航線受阻後,船公司改道繞行好望角並加收附加費。德國買家 Schmidt GmbH 來信質問:「多出來的運費應該由誰負擔?」

業務把問題丟給 AI,AI 很有自信地回答:「依國際慣例,航線變更產生的額外費用通常由賣方吸收,建議主動提供折讓以維持關係。」

法務看了之後說:「我們跟 Schmidt 的 2026 年版合約第 14.2 條寫得很清楚,航線變更的額外運費與附加費由買方負擔。而且這張單是 FOB 高雄港,主運費本來就是買方安排的。」

AI 錯在哪?它沒看過這份合約,只能用訓練資料裡的一般說法拼湊答案,這就是第 7.1 節說的幻覺。

本節要解決的問題: 公司有成千上萬份合約、規章、SOP,不可能每次都整份放進上下文(第 7.2、7.4 節)。要怎麼讓 AI 在回答前,先找到「這個問題該看的那幾段原文」,並且只根據原文回答?


貳、為什麼會這樣:閉卷考 vs. 開卷考

閉卷考(直接問模型) 開卷考(RAG)
答案從哪裡來 模型訓練時記住的一般知識 回答前,先從公司知識庫找出相關原文
公司內部資訊 不知道 知道,只要知識庫裡有
資訊多新 停在模型訓練資料的時間點 知識庫更新,答案就跟著更新
能否附出處 不能可靠地附 可以標註「依據合約第 14.2 條」

RAG(Retrieval-Augmented Generation,檢索增強生成)這個名稱來自 2020 年 Meta(當時的 Facebook AI Research)研究團隊的論文,概念很直接:先檢索(Retrieval),再把找到的原文放進上下文(Augmented),讓模型據此生成回答(Generation)。

RAG 的兩個階段

flowchart LR subgraph PREP ["事前準備(文件更新時執行)"] D["合約、規章、SOP"] --> C["切塊
依條款、段落切分"] C --> E["轉成向量
並附上元資料"] E --> V["向量資料庫"] end subgraph ASK ["每次提問時"] Q["業務提問"] --> QE["提問轉成向量"] QE --> S["找出最相近的
幾段原文"] V --> S S --> P["原文+提問
組成 Prompt"] P --> A["模型回答
並標註出處"] end
步驟 做什麼 設計重點
切塊(Chunking) 把長文件切成較小的段落 依條款或段落的自然邊界切,不要把一條規定切成兩半
向量化(Embedding) 用 Embedding 模型把每段文字轉成向量(第 7.1 節) 意思相近的文字向量相近,所以「運費誰出」也能找到「附加費由買方負擔」
元資料(Metadata) 每段附上來源、版本、生效日、狀態、機密等級 先用元資料排除已廢止或無權限的內容,再比相似度
檢索(Retrieval) 找出與提問最相近的幾段(常稱 Top-k) 實務上常把「關鍵字搜尋」與「向量搜尋」併用
生成(Generation) 把原文與提問一起交給模型 規定「只能依據提供的原文回答;找不到就說找不到」

RAG、微調、長上下文怎麼選?

做法 適合 不適合
RAG 經常更新的事實型知識:合約、規章、產品規格 需要通讀整份文件的綜合判斷
微調(Fine-tuning) 固定的輸出風格、格式、專業用語 經常變動的事實:每次改政策都要重新訓練,而且模型仍可能記錯
長上下文 單份文件的深入分析(第 7.4 節) 跨數千份文件的查詢:成本高、注意力被稀釋

參、應用到情境:知識庫的規格

把「建立合約知識庫」這件事寫成規格:

主管說的話 追問 寫成規格
「把合約都放進去」 怎麼切? 以「條」為單位切塊,條文過長時再依「項」切分,每塊保留條號
「要用最新的」 舊版要刪掉嗎? 舊版保留但標記 status: 已廢止,檢索時先排除;稽核時仍可查
「AI 要講依據」 依據要多精確? 每個結論標註「文件名稱+版本+條號」
(主管沒說) 找不到相關條文怎麼辦? 回答「合約未規範,請洽法務」,不得用一般慣例推測
(主管沒說) 誰可以查哪些合約? 依部門與機密等級過濾(第 13.2 節最小授權)

回答階段的 Prompt

你是外貿合約查詢助理。

<retrieved_clauses>
[合約 14.2(2026 版,有效)] 因航線變更所生之額外運費及附加費,由買方負擔。
</retrieved_clauses>

<question>
繞道好望角多出來的運費由誰負擔?
</question>

【規則】
1. 只能依據 <retrieved_clauses> 的內容回答,每個結論標註條號與版本。
2. 若 <retrieved_clauses> 為空或與問題無關,只回答「合約未規範,請洽法務」。
3. 不得引用「國際慣例」「一般做法」補充合約沒寫的內容。

肆、動手:用 Python 做一個最小的檢索

真正的系統會用 Embedding 模型與向量資料庫(如 Chroma、pgvector)。為了不需安裝任何套件也能看懂原理,以下用「兩字詞組重疊數」代替向量相似度,模擬檢索這一步:

# ===== 檢索規則 =====
MIN_SCORE = 2   # 至少要有幾個共同詞組,才算「找到相關條文」
TOP_K = 2       # 最多取回幾段

# 知識庫:每一段都帶出處與狀態(元資料)
chunks = [
    {"id": "合約 14.2(2026 版)", "status": "有效",
     "text": "因航線變更所生之額外運費及附加費,由買方負擔。"},
    {"id": "合約 14.2(2023 版)", "status": "已廢止",
     "text": "因航線變更所生之額外運費,由賣方負擔。"},
    {"id": "合約 9", "status": "有效",
     "text": "貨款以電匯支付,出貨後 30 日內付清。"},
    {"id": "合約 11", "status": "有效",
     "text": "賣方應於裝船後 3 個工作天內寄送提單影本。"},
]

def bigrams(s):
    """把句子切成相鄰兩字的詞組,例如「運費」「費由」"""
    s = "".join(ch for ch in s if ch.strip() and ch not in ",。?、()")
    return {s[i:i + 2] for i in range(len(s) - 1)}

def retrieve(question):
    q = bigrams(question)
    scored = []
    for c in chunks:
        if c["status"] != "有效":       # 先用元資料排除已廢止版本
            continue
        score = len(q & bigrams(c["text"]))
        if score >= MIN_SCORE:
            scored.append((score, c))
    scored.sort(key=lambda x: -x[0])
    return scored[:TOP_K]

for question in ["航線變更的運費由誰負擔?", "繞道好望角多出來的錢誰付?"]:
    hits = retrieve(question)
    print("問:", question)
    if not hits:
        print("  → 找不到相關條文:回答「合約未規範,請洽法務」")
    for score, c in hits:
        print(f"  → [{c['id']}] 分數 {score}:{c['text']}")

執行結果:第一題找到「合約 14.2(2026 版)」,分數 6;第二題因為用詞完全不同(「錢誰付」vs.「運費由買方負擔」),找不到任何條文,系統回答「合約未規範,請洽法務」。

這正好說明為什麼要用向量檢索:字面比對只認得相同的字,Embedding 則能捕捉「多出來的錢」和「額外運費」意思相近。但也說明了另一件事:檢索失敗時,系統誠實說「找不到」,遠比 AI 自己編一個答案安全。


伍、跑跑看、壞給你看

實驗 操作 預期結果 想想看
① 拿掉版本過濾 把 if c["status"] != "有效": 改成 if False: 第一題同時找到 2026 版「買方負擔」與 2023 版「賣方負擔」,分數都是 6 AI 拿到兩條互相矛盾的條文,會怎麼回答?
② 門檻設為 0 MIN_SCORE = 0 第二題找回 14.2 與第 9 條,分數都是 0 完全不相關的條文被當成依據,比「找不到」更危險嗎?
③ 換個問法 第二題改成「繞道好望角多出來的運費誰負擔?」 找到 14.2(2026 版),分數 2 使用者的用詞會影響字面檢索,向量檢索能改善多少?
④ 新增條文 在 chunks 加一筆「合約 15:不可抗力事件……」 依問題用詞決定是否被檢索到 新合約上線後,誰負責把它放進知識庫?

陸、另一條路:Karpathy 的「LLM Wiki」

傳統 RAG 常見的失敗是「資訊墳場」:把大量未整理、互相矛盾、早已過期的檔案直接切塊灌進資料庫,檢索結果自然不可靠。

2026 年 4 月,Andrej Karpathy(OpenAI 創始成員之一、前 Tesla AI 總監)分享了他用 LLM 管理個人知識庫的做法:把原始資料放在一個資料夾,由 LLM 逐步「編譯」成一套互相連結的 Markdown 文件(摘要頁、概念頁、反向連結、索引),用 Obsidian 筆記軟體瀏覽,並定期請 LLM 檢查內容是否矛盾或過時。他提到在約百篇文章、數十萬字的規模下,不需要複雜的 RAG 架構也能運作。中文社群的開源指南《Obsidian + AI 橙皮書》(作者花叔)整理了以 Obsidian 搭配 Claude Code 實作這套想法的步驟。

傳統向量 RAG LLM Wiki
知識的形式 原始文件切成的片段 LLM 整理過、互相連結的 Markdown 頁面
LLM 的角色 回答時才去「翻書」 平時就負責「整理書架」:寫摘要、建連結、標記矛盾
適合規模 大量文件、多人查詢 個人或小團隊、文件量中等
主要風險 檢索到過期或斷章取義的片段 LLM 整理時寫錯,錯誤會被當成「知識」保存下來

兩者不是互斥的。企業實務上可以借用 LLM Wiki 的精神:文件用 Markdown 等純文字格式保存、在開頭標註版本與生效日(例如 YAML 標頭)、讓 AI 協助偵測新舊版本衝突,再把整理好的內容交給 RAG 檢索。但 AI 整理出來的內容,仍需要專人審核後才能成為正式依據。


柒、回到情境

有了合約知識庫,業務再問同一個問題,AI 會回答:「依合約第 14.2 條(2026 版),因航線變更所生之額外運費及附加費由買方負擔。」業務可以直接引用條號回覆 Schmidt,法務也能一眼核對。

限制 後果 在哪一節解決
檢索到了,但模型仍可能曲解原文 引用正確條號,結論卻錯 5.5 LLM-as-a-Judge、9.3 輸出驗證
知識庫沒人維護 過期文件持續被引用 14.3 動態知識漂移、10.5 組織記憶沉澱
法規類問題(關稅、出口管制、危險品運輸) 知識庫版本落後官方,答案就錯 知識庫只放官方原文並指定專人追蹤更新;重大決策仍須查核官方最新版
不同部門能查的文件不同 機密合約被不該看的人查到 13.2 最小授權

本節小結

  1. RAG 是「開卷考」:先檢索公司知識庫中的原文,再要求模型只依原文回答並標註出處。
  2. 知識庫的品質決定 RAG 的品質:依條款切塊、附上版本與狀態等元資料、排除已廢止內容。
  3. 檢索不到時要明確回答「找不到」,不能讓模型用一般慣例補。
  4. 經常變動的事實用 RAG,固定的風格與格式才考慮微調;LLM Wiki 提供了「平時就整理知識」的另一種思路。

捌、練習

  1. 改數字(5 分鐘):把 TOP_K 改成 1、MIN_SCORE 改成 7,重新執行。兩題的結果各是什麼?門檻設太高會有什麼代價?
  2. 加功能(20 分鐘):在每筆 chunks 加入 "dept" 欄位(例如「業務」「財務」),並修改 retrieve(),讓它只回傳提問者所屬部門可看的條文。先寫規格(說法 → 追問 → 規格,含例外),再改程式並測試。
  3. 管理反思(討論):某公司花了大筆預算把十年的內部文件拿去微調模型,結果模型仍常記錯產品型號,而且每次改退貨政策都要重新訓練。請從成本、更新速度、可追溯性三個角度,向管理層說明為什麼應改用 RAG。再想一想:你的實習單位或系所,最值得先建立知識庫的是哪一類文件?誰應該負責維護它?

國立臺中科技大學 國際貿易系 / 企業管理系 專用教材

《現代軟體工程:商學院的 AI 系統思維與 Agent 實踐》

作者:陳俊智 博士 Dr. Chun-Chih Chen

本書章節架構改編自陳鍾誠教授(金門大學)開源課程《現代軟體工程》(github.com/ccc115a/se,MIT 授權),內容針對商學院全面改寫與擴充。