問語言模型一家公司的營收，它可能給你一個錯誤、卻寫得非常自信的數字。問它一個市場統計，它能產出一個看起來真實、卻從未存在過的數字。
這些編造出來的產出叫幻覺，它們是用 AI 做金融研究時最大的危險：問題不在於偶爾明顯的錯誤，而在於流暢又貌似合理的假事實。
幻覺，是指一段流暢自信、卻沒有事實依據的產出。語言模型會產生它們，因為它是被訓練來生成可信文字的，不是來核實事實的。在金融研究裡，風險是一個看起來真實、實為編造的數字或來源，所以 AI 產出的每個數字與引用都必須對照底層資料檢查。
幻覺是什麼
幻覺是一段流暢自信、卻沒有事實依據的產出。模型產出聽起來正確的文字，因為它是被建構成聽起來正確的，而不是因為它把說法與現實核對過。
它和普通錯誤不同，因為它很難被抓住：編造的事實看起來、讀起來都和真實的一模一樣。
為什麼會發生
語言模型被訓練成以產出可信散文的方式預測下一個詞。它沒有內建一個把說法與資料庫或文件核對的步驟。
這就是為什麼答案的自信程度說明不了任何事：無論底層說法是真是假，模型的流暢程度都一樣。
| 類型 | 例子 | 為什麼危險 |
|---|---|---|
| 編造的數字 | 一個從未存在過的營收數字 | 看起來真實，容易引用 |
| 不存在的來源 | 一篇不存在的研究或報告 | 感覺像證據 |
| 錯誤的日期或數量 | 一個貌似合理但不正確的細節 | 溜進摘要裡 |
| 自信的錯誤說法 | 一條「眾所周知」但錯誤的市場事實 | 聽起來有權威 |
為什麼在金融研究裡尤其危險
金融研究建立在事實上：一個營收數字、一個價格、一個統計、一個來源。如果其中任何一個被編造，而你把分析建立在它上面，結論就會繼承這個錯誤。
危險不在於明顯的錯誤，而在於那個通過每一次閱讀檢查、並改變研究結論的貌似合理的事實。
| 項目 | AI 給出的數字 | 核對官方財報後 |
|---|---|---|
| 公司 X 全年營收 | 9.6 億元 | 8.4 億元 |
| 按市值 50 億元計算的市銷率（P/S） | 約 5.21 倍 | 約 5.95 倍 |
市值假設不變，只有營收這一個輸入換成了真實數字，算出來的市銷率就從 5.21 倍變成了 5.95 倍。
14.3% 的營收偏差，直接把市銷率拉低了約 0.74 倍。如果後續判斷「估值便宜還是貴」就建立在這個被壓低的市銷率上，結論從一開始就是錯的，而錯誤的起點只是一個沒有核對過的數字。
模型產出自信的散文，是因為它被這樣訓練。答案的流暢程度不是底層說法為真的證據。
怎麼檢查幻覺
把每個數字對照真實資料或文件核實。如果模型引用一個數字，去來源裡找到它並比較。如果它提到一份報告或研究，確認這份報告存在。
習慣是把任何 AI 產出的事實當成未驗證，直到能溯源。在來源裡找不到的數字應該丟棄，而不是引用。
常見問題
為什麼 AI 編造事實還這麼自信？
因為它是被訓練來生成可信文字的。自信是文字的屬性，不是說法被核對過的證據。
幻覺能消除嗎？
不能可靠地消除。實用防禦是驗證：把每個數字與來源對照底層資料檢查。
某些主題更容易出現幻覺嗎？
在數字與引用這類具體可查的事實上更危險，因為編造版本看起來和真實版本一模一樣。
