省了图谱预处理，亏了 API 费？揭秘 Dense RAG + Agent 里的 Token 烧钱陷阱！

摘要

拆解一個統一基準下的 RAG 比較研究，首次正面比較 Dense RAG 與五種 GraphRAG 變體，檢驗業界流行假設 Agentic Search 動態檢索可以取代 GraphRAG 昂貴的離線圖譜建構是否成立。結果顯示：在多跳推理任務上，即使搭配強化學習訓練的 Agentic Search，Dense RAG 與 GraphRAG 的差距依然高達 26.59 分，幾乎沒有縮小，證明圖結構帶來的結構化優勢無法被線上動態檢索取代；同時揭示 GraphRAG 生態正從外掛工具走向內化本能的範式轉移。內容為簡體中文頻道轉寫，已正體化與用語校正。

重点

• 單次檢索設定下，Dense RAG 與 GraphRAG 在多跳推理任務上的平均差距達 27.23 分；即使加上 RL 訓練的 Agentic Search，差距僅縮小到 26.59 分，縮小不到 1 分
• 反直覺發現：RL 訓練並未一貫勝過訓練前精心設計的工作流，訓練前的 Graph Search 反而優於 RL 訓練後的版本，顯示 agent 框架設計品質比 RL 訓練本身更重要
• Graph-R1 代表新方向：把圖譜檢索能力直接微調進模型權重，內化本能，而非透過提示詞描述規則，因為提示詞只能描述規則、無法傳授直覺
• 穩定性差異顯著：GraphRAG 標準差僅 0.18，遠低於 Dense RAG 的高方差，代表 GraphRAG 檢索結果更可預測、更適合生產環境
• 縮放定律：模型從 3B 放大到 32B，多跳推理差距從 14.70 分縮小到 7.19 分，但 7 分差距在實際應用中仍然明顯，且用大模型縮小差距的算力成本可能比直接上 GraphRAG 更貴
• 成本帳：以 100 萬 token 的資料集為例，GraphRAG 離線預處理時間是最快方案的 13 倍且成本最高；但研究提出 Token 刺客陷阱概念，Dense RAG 搭配 Agentic Search 在多跳任務中若迷路，會不斷重試燒 token，離線預處理省下的錢可能被線上 token 債抵銷
• 選型建議：簡單事實問答用 Dense RAG 即可省成本；需要跨實體關聯的多跳推理場景，GraphRAG 不是可選項而是必選項，需把離線建置成本、線上 token 消耗與回應延遲一起納入總帳

金句