MCP 會淘汰向量搜尋嗎?
MCP 不會取代向量搜尋:聯邦式 MCP 可讓智能體直接查詢結構化資料,但跨來源排序、延遲和供應商搜尋品質仍有限。企業資料中有 90% 是缺乏原生查詢 API 的 PDF、PPT、掃描檔和試算表,仍須經解析、抽取、分塊及索引;集中式檢索層則可快速查找語義相關內容。
MCP 不會取代向量搜尋:聯邦式 MCP 可讓智能體直接查詢結構化資料,但跨來源排序、延遲和供應商搜尋品質仍有限。企業資料中有 90% 是缺乏原生查詢 API 的 PDF、PPT、掃描檔和試算表,仍須經解析、抽取、分塊及索引;集中式檢索層則可快速查找語義相關內容。
LlamaIndex 分享 LlamaParse 擴展企業級 RAG 的四項實務要點:多租户負載調度、存取控制、文件解析與故障處理。平台託管調度控制可處理不同用户的負載差異;資料來源連接器會把檔案權限作為 metadata 寫入向量資料庫,供檢索按權限篩選。LlamaParse 保留文件結構、將表格轉為 Markdown 並提取圖片;資料匯入亦須應對第三方 AI 服務的限流、延遲和停機。
LlamaIndex 闡釋上下文工程:為 AI 智能體挑選並整理相關資訊,以填充 LLM 的上下文窗口,而非只設計提示詞或處理 RAG 檢索。上下文可包括系統提示詞、用户輸入、短期及長期記憶、知識庫資料、工具定義與回應、結構化輸出及全局狀態。文章亦討論知識庫或工具的選擇,以及以摘要壓縮和排序,在有限的上下文窗口內保留相關資訊。
DeepEval 與 LlamaIndex 的示例展示如何評估 RAG 流程,檢視生成答案及檢索內容的品質。示例採用 Answer Relevancy、Faithfulness 和 Contextual Precision,分別評估答案相關性、事實忠實度與檢索排序。DeepEval 提供 50+ 預置指標及自訂指標建構器,可依評測分數調整模型、提示詞模板、top-K 設定和嵌入模型。
LLM 正革新企業 PDF 解析,從單純讀取文字轉向理解文件版面與內容;LlamaParse 利用視覺語言模型處理文字和視覺元素,並保留文件結構。平台可處理表格、掃描文件、表單及技術圖紙,並透過 LlamaExtract 輸出 Markdown、JSON、XML 或自訂格式。服務提供免費及付費方案,實施指南涵蓋文件盤點、試點、擴展及正式部署。
LlamaIndex 教學示範如何以 LlamaParse Index 配合開源智能體框架,建立可檢索企業文件並回答複雜問題的文件智能體。示例使用 JPMorgan Chase 存款帳户披露文件及利率協議,結合 Claude Sonnet 4、文件查詢工具和計算器,處理透支費用等多步推理任務。
LlamaIndex 教程示範透過 Bright Data 工具為 LlamaIndex 的 AI 智能體接入網頁資料,支援按需取得更新資訊。範例以 `BrightDataToolSpec` 和 `FunctionAgent` 配置工具,展示網頁抓取、搜尋、結構化資料讀取及截圖,並提供完整 Python 程式碼。
StackAI 將 LlamaParse API 整合至智能體開發平台,作為文件匯入核心步驟,為企業文件智能體提供高準確度檢索。LlamaParse 已為企業客户處理超過 1 million 份文件,支援保險、金融及法律領域的知識庫。採用後,StackAI 的下游智能體準確度提升,尤其針對掃描及低質素文件,文件預處理的開發工作亦有所減少。
LlamaIndex 介紹為 Claude Code 加入文件理解能力的三種做法,涵蓋 MCP 文件檢索、CLI 文件操作,以及以 CLAUDE.md 指引工作流建置。
LlamaIndex 本期電子報慶祝 LlamaParse 一週年,並介紹 SemTools 更新、文件處理指南及即將舉行的 Fullstack Agents Hackathon。SemTools 新增 workspace,使用 LanceDB 快取嵌入向量,使 1000 papers 的搜尋時間由數分鐘縮至數秒,並支援 npm 安裝。Hackathon 設有 $20k 獎金。
文件處理中,解析會把文件轉成供 AI 使用、並保留內容、結構與脈絡的格式;擷取則依預設 schema 抽出指定欄位,輸出結構化資料。解析適用於搜尋問答、RAG,以及需要保留文件脈絡的場景;擷取則適用於填入資料庫、處理表單和自動化業務流程。擷取並非取代解析,而是建立在解析之上,須先將文件轉成機器可讀內容,再識別、驗證並整理目標欄位。
LlamaIndex 解讀 DeepSeek-OCR 將文件圖像作為文字資訊的壓縮表示,並分析其與文件解析、LlamaParse 的關係。文中稱,論文示例把 1,000 個文字 tokens 壓至 100 個視覺 tokens,解碼準確率為 97%;20× 壓縮時準確率約為 60%。文章指出,RAG、文件問答和摘要等理解型用途可考慮視覺壓縮;若需要結構化資料、語義層級或精確文字操作,仍需文件解析。
LlamaIndex 推出 LlamaParse v2,以四級配置取代 v1 的解析模式,並加入版本固定選項。四級為 Fast(1 credit/page)、Cost Effective(3 credits/page)、Agentic(10 credits/page)及 Agentic Plus(45 credits/page)。
LlamaIndex 電子報宣佈 LlamaParse v2,簡化設定並降低最高 50% 成本,另推出可自動分隔文件的 LlamaSplit Beta API。內容亦涵蓋採用虛擬檔案系統隔離的 Claude 安全編碼智能體、由 Gemini 3 Flash 驅動的檔案系統探索智能體,以及擴展支援 OpenAI Codex 的 AgentFS 整合。
LlamaIndex 指出,智能體正以檔案及檔案系統管理長期對話、檢索外部上下文和載入技能,並將其視為重要的上下文介面。作者稱,實驗中配備檔案系統工具和語義搜尋的推理智能體可動態檢索上下文,而單靠檔案搜尋在中小型文件集合上亦勝過 naive semantic search(不計延遲)。
LlamaIndex 本期電子報彙整產品、競賽與合作更新,包括 LlamaExtract 新增引用邊界框、推出 LobsterX,以及 Skills 與 MCP 工具選用指南。
LlamaIndex 本期電子報介紹其由 RAG 框架發展為智能體文件處理平台,並聚焦 LlamaParse、耐久工作流程及文件解析工具更新。平台服務 300k+ 用户、支援 50+ 格式;DBOS 整合提供自動步驟持久化與崩潰復原,另有簡報搜尋及 PDF 圖表解析工具。
LlamaIndex 本期電子報宣佈推出 LiteSearch 本地文件檢索系統,並聚焦文件解析能力更新。LiteSearch 以 LiteParse 建構檢索流程,涵蓋解析、分塊、嵌入向量與向量儲存,無需外部依賴;電子報亦介紹 .docx 表格頁面定位改進,以及整合 Gemini 3.1 Live API 的語音助理示範。
LlamaIndex 復盤 LlamaParse 文件處理流程中的兩類生產故障:模型重複輸出造成延遲與資源耗盡,recitation 內容攔截則令生成中止並使下游流程出錯。
LlamaIndex 推出 LiteParse Server,將 LiteParse 封裝為可自託管的 HTTP API,供不同語言或服務作為文件解析後端。它支援 PDF、Office 文件和圖片,提供帶有文字位置與邊界框的解析結果,並設有 /parse 和 /screenshots 兩個端點。
Adobe Acrobat 的 Scan & OCR 可用四次點擊為掃描 PDF 建立文字層,讓單份文件可用 Ctrl+F 搜尋,但不保證大量檔案檢索準確。單份低敏感文件可用免費線上 OCR,機密批次掃描則可用本機 OCRmyPDF;Google Drive 會把文字轉成新 Doc,而非可搜尋 PDF。
LlamaIndex 在 LlamaParse Index 中加入 Retrieval Harness,並將該功能及其他更新以 Beta 形式開放予所有付費方案。
LlamaIndex 將先低成本解析並檢索、再對相關頁面執行 VLM-OCR 的流程稱為 Just-in-Time Agentic OCR,適用於約 10–100 份文件的臨時資料室。
研究以涵蓋五個資料集、三類任務的 1,891 個樣本,評估 11 個 LLM 在實際 RAG 設定中的檢索穩健性;整體穩健性普遍偏高,但因任務而異。停用推理時,Qwen 和 GPT 模型的穩健性明顯下降,即使在單跳 QA 任務上亦然;把檢索文件作為工具回覆提供,則提升 Claude 模型表現、損害 Qwen 和 GPT 模型表現。研究指出,是否採用 RAG 仍須按個案判斷。
Inception Labs 發佈 Mercury 2.5,稱其相較 Mercury 2 智能提升 40%,並維持低延遲、低成本的服務特性。
AWS 介紹並部署 Adjudicated Query 模式,讓 Amazon Quick 的自然語言合規查詢透過固定 MCP 操作交由確定性規則引擎判定,而非由模型作出決策。
推薦理由:文章把自然語言查詢與合規判定分開,並以完整性收據和逐筆證據鏈展示如何核對大量檢查結果。
Ai2 開源 AstaBrief 8B,這款模型可把研究問題和檢索到的文獻摘錄生成帶引用報告,並已在 Asta 的 Generate a report 功能中提供 Fast mode。
Ai2 開源 AstaBrief 8B 及其訓練資料,並將這款科學報告生成模型加入 Asta 的 Fast mode。它以 Qwen3-8B 為基礎,根據研究問題和檢索到的文獻摘錄一次生成附引文報告;Asta 全流程中,Fast mode 平均每份報告需時 51.1 秒,較 Thinking mode 的 178.5 秒快約 3.5 倍。
SEER 是一個用於時間序列預測的閉環框架,在六個波動性時間序列基準測試中,持續優於最先進的時間序列基礎模型及語言模型基線。它將預測誤差轉化為兩種回饋機制:反思式檢索記憶,用以改進搜尋查詢及過濾雜訊;持續性因果知識庫,用以提煉可遷移的領域動態。框架在事件檢索及反思過程中嚴守時間順序,避免前視偏差及數據洩漏。
研究在德語單語 RAG 問答測試集上發現,智能體的推理語言與查詢及檢索文件語言一致,有助提升表現。強制以德語推理優於法語,即使模型在法語基準評測表現較高;檢索上下文越豐富且具結構感知,優勢越大。德語推理僅追平模型不受限制的原生英語推理,未能超越;研究團隊公開釋出測試集及 QA 基準。
n8n 團隊的指南比較向量 RAG 與 LLM 知識圖譜,並按檢索資訊的結構説明兩者各自適用的情境。向量 RAG 適合答案集中於少量語義相關段落的情況;需跨文件連結實體關係及處理多跳問題時,可考慮知識圖譜,兩類檢索並用則是 HybridRAG。n8n 可用向量儲存節點、實體抽取及 AI Agent 節點組合 HybridRAG,並透過執行記錄和逐步除錯查看流程資料。
AGO AI Quality Gate 是一套用於工業 RAG 評估的品質閘門框架,協助決定系統版本應放行、修訂還是封鎖。框架在 RAGBench 的評估顯示,gpt-4.1-nano 的 AUROC 為 0.603,gpt-4o 為 0.783;兩者每名評審使用相同分層測試樣本(N=1200)。
SourceLearn 框架讓 AI 智能體隨時間建立可重用、針對特定來源的理解能力。在 13/15 個設定中取得最佳結果,較 Hybrid RAG 最多提升 +22.6 分;移除關鍵文件後,表現約下跌 8 分,Hybrid RAG 則下跌 25 分。學習成果亦可遷移至未練習的任務,改善指引任務未直接涵蓋的來源部分。
保誠與阿里雲推出「AI核保師」,結合通義千問大模型及 RAG,讓理財顧問在數分鐘內獲取初步核保指引。據指方案整體準確率超過 95%、幻覺率低於 2%,並透過阿里雲「前沿部署工程師」(FDE)服務模式,在不足三個月內完成部署。
NeoMME 推出 260M 和 800M 兩種規模的多語言多模態編碼器,並提供用於視覺文件檢索的 NeoMME-Retriever。模型從零開始以單一雙向 Transformer 處理文字 token 和原始圖像 patch;NeoMME-Retriever 單次前向傳播可輸出密集與 late-interaction 嵌入向量。
Meta 團隊構建了一個面向特定合規領域的 AI 智能體,透過結構化知識系統、專家推理流程及自動改進管線,把專家回饋轉為經驗更新,毋須重新訓練模型。知識系統由 200+ 個文件組成,並以可組合流程(recipes)分開管理知識與推理程序;重組後每輪 token 用量減少約 80%。經過六星期、三個開發 sprint,Meta 表示個別評估時間由數天縮短至數分鐘,改進週期未出現回歸。
LG AI Research 提出 ReSQL,一個透過檢索增強錯誤推理持續改進 Text-to-SQL 能力的框架。框架將執行失敗轉化為錯誤推理資料,用 LoRA 微調同一模型,並在推理時檢索三個最相似的錯誤推理案例輔助修正。研究指出,提供正確答案和結構化推理指引後,1B 參數模型也能分析自身錯誤。
Andrew Ng 在《AI 工程技能地圖》第二部分梳理構建及部署 AI 應用所需的六類能力,包括 LLM 基礎、以數據為模型提供依據、構建智能體系統、評測驅動開發、生產環境運行及機器學習基礎。他指出,AI 輸出較難預測,工程師需反覆檢視中間結果,透過評測與錯誤分析推動開發,並處理成本、延遲及安全風險。
Mistral 推出 Agentic Search,讓模型透過多步檢索搜尋、查看、導覽及核實複雜文件中的資料。在 FinanceBench 金融文件測試中,正確率由 26.7% 升至 86%;OfficeQA Pro 表格密集的多文件問題則由 6.3% 升至 51.9%。
推薦理由:FinanceBench 和 OfficeQA Pro 的基準數據呈現 Agentic Search 相較單次 RAG 的準確率提升,也量化延遲與 token 使用量變化。
Andrew Ng 與 DeepLearning.AI 提出 AI Engineering Skills Map 第一部分,列出 AI 工程的四項核心技能。四項技能包括構建及部署 AI 應用、軟件工程基礎、使用編碼智能體,以及塑造產品構建方向。地圖的整理依據包括逾 10,000 則招聘廣告、數十次結構化訪談、問卷和其他網上數據,旨在協助開發者規劃學習重點及僱主招聘。