跳到正文
10月3日週六
  1. LlamaIndex:產品、工程與評測43

    MCP 會淘汰向量搜尋嗎?

    MCP 不會取代向量搜尋:聯邦式 MCP 可讓智能體直接查詢結構化資料,但跨來源排序、延遲和供應商搜尋品質仍有限。企業資料中有 90% 是缺乏原生查詢 API 的 PDF、PPT、掃描檔和試算表,仍須經解析、抽取、分塊及索引;集中式檢索層則可快速查找語義相關內容。

  2. LlamaIndex:產品、工程與評測39

    LlamaParse 擴展企業級 RAG 的 4 個方法

    LlamaIndex 分享 LlamaParse 擴展企業級 RAG 的四項實務要點:多租户負載調度、存取控制、文件解析與故障處理。平台託管調度控制可處理不同用户的負載差異;資料來源連接器會把檔案權限作為 metadata 寫入向量資料庫,供檢索按權限篩選。LlamaParse 保留文件結構、將表格轉為 Markdown 並提取圖片;資料匯入亦須應對第三方 AI 服務的限流、延遲和停機。

  3. LlamaIndex:產品、工程與評測47

    LlamaIndex:甚麼是上下文工程,以及可考慮的技巧

    LlamaIndex 闡釋上下文工程:為 AI 智能體挑選並整理相關資訊,以填充 LLM 的上下文窗口,而非只設計提示詞或處理 RAG 檢索。上下文可包括系統提示詞、用户輸入、短期及長期記憶、知識庫資料、工具定義與回應、結構化輸出及全局狀態。文章亦討論知識庫或工具的選擇,以及以摘要壓縮和排序,在有限的上下文窗口內保留相關資訊。

  4. LlamaIndex:產品、工程與評測49

    使用 DeepEval 和 LlamaIndex 評估 RAG

    DeepEval 與 LlamaIndex 的示例展示如何評估 RAG 流程,檢視生成答案及檢索內容的品質。示例採用 Answer Relevancy、Faithfulness 和 Contextual Precision,分別評估答案相關性、事實忠實度與檢索排序。DeepEval 提供 50+ 預置指標及自訂指標建構器,可依評測分數調整模型、提示詞模板、top-K 設定和嵌入模型。

  5. LlamaIndex:產品、工程與評測34

    超越 OCR:LLM 如何革新企業文件處理中的 PDF 解析

    LLM 正革新企業 PDF 解析,從單純讀取文字轉向理解文件版面與內容;LlamaParse 利用視覺語言模型處理文字和視覺元素,並保留文件結構。平台可處理表格、掃描文件、表單及技術圖紙,並透過 LlamaExtract 輸出 Markdown、JSON、XML 或自訂格式。服務提供免費及付費方案,實施指南涵蓋文件盤點、試點、擴展及正式部署。

  6. LlamaIndex:產品、工程與評測45

    用文件智能體自動化工作流程:使用 LlamaParse 建構具上下文感知能力 AI 的完整教學

    LlamaIndex 教學示範如何以 LlamaParse Index 配合開源智能體框架,建立可檢索企業文件並回答複雜問題的文件智能體。示例使用 JPMorgan Chase 存款帳户披露文件及利率協議,結合 Claude Sonnet 4、文件查詢工具和計算器,處理透支費用等多步推理任務。

  7. LlamaIndex:產品、工程與評測38

    StackAI 使用 LlamaParse,為企業文件智能體提供高準確度檢索

    StackAI 將 LlamaParse API 整合至智能體開發平台,作為文件匯入核心步驟,為企業文件智能體提供高準確度檢索。LlamaParse 已為企業客户處理超過 1 million 份文件,支援保險、金融及法律領域的知識庫。採用後,StackAI 的下游智能體準確度提升,尤其針對掃描及低質素文件,文件預處理的開發工作亦有所減少。

  8. LlamaIndex:產品、工程與評測36

    LlamaIndex 電子報:2025-09-23

    LlamaIndex 本期電子報慶祝 LlamaParse 一週年,並介紹 SemTools 更新、文件處理指南及即將舉行的 Fullstack Agents Hackathon。SemTools 新增 workspace,使用 LanceDB 快取嵌入向量,使 1000 papers 的搜尋時間由數分鐘縮至數秒,並支援 npm 安裝。Hackathon 設有 $20k 獎金。

  9. LlamaIndex:產品、工程與評測50

    LlamaIndex:解析與擷取——理解文件處理的兩種基本方法

    文件處理中,解析會把文件轉成供 AI 使用、並保留內容、結構與脈絡的格式;擷取則依預設 schema 抽出指定欄位,輸出結構化資料。解析適用於搜尋問答、RAG,以及需要保留文件脈絡的場景;擷取則適用於填入資料庫、處理表單和自動化業務流程。擷取並非取代解析,而是建立在解析之上,須先將文件轉成機器可讀內容,再識別、驗證並整理目標欄位。

  10. LlamaIndex:產品、工程與評測65

    超越 OCR:DeepSeek-OCR 的視覺壓縮如何服務文件 AI

    LlamaIndex 解讀 DeepSeek-OCR 將文件圖像作為文字資訊的壓縮表示,並分析其與文件解析、LlamaParse 的關係。文中稱,論文示例把 1,000 個文字 tokens 壓至 100 個視覺 tokens,解碼準確率為 97%;20× 壓縮時準確率約為 60%。文章指出,RAG、文件問答和摘要等理解型用途可考慮視覺壓縮;若需要結構化資料、語義層級或精確文字操作,仍需文件解析。

  11. LlamaIndex:產品、工程與評測45

    LlamaIndex 電子報:2025-12-23

    LlamaIndex 電子報宣佈 LlamaParse v2,簡化設定並降低最高 50% 成本,另推出可自動分隔文件的 LlamaSplit Beta API。內容亦涵蓋採用虛擬檔案系統隔離的 Claude 安全編碼智能體、由 Gemini 3 Flash 驅動的檔案系統探索智能體,以及擴展支援 OpenAI Codex 的 AgentFS 整合。

  12. LlamaIndex:產品、工程與評測53

    LlamaIndex 指出檔案系統正成為智能體管理上下文的核心介面

    LlamaIndex 指出,智能體正以檔案及檔案系統管理長期對話、檢索外部上下文和載入技能,並將其視為重要的上下文介面。作者稱,實驗中配備檔案系統工具和語義搜尋的推理智能體可動態檢索上下文,而單靠檔案搜尋在中小型文件集合上亦勝過 naive semantic search(不計延遲)。

  13. LlamaIndex:產品、工程與評測38

    LlamaIndex 2026-03-10 電子報

    LlamaIndex 本期電子報介紹其由 RAG 框架發展為智能體文件處理平台,並聚焦 LlamaParse、耐久工作流程及文件解析工具更新。平台服務 300k+ 用户、支援 50+ 格式;DBOS 整合提供自動步驟持久化與崩潰復原,另有簡報搜尋及 PDF 圖表解析工具。

  14. LlamaIndex:產品、工程與評測37

    LlamaIndex 2026-03-31 電子報:推出 LiteSearch 並更新文件解析能力

    LlamaIndex 本期電子報宣佈推出 LiteSearch 本地文件檢索系統,並聚焦文件解析能力更新。LiteSearch 以 LiteParse 建構檢索流程,涵蓋解析、分塊、嵌入向量與向量儲存,無需外部依賴;電子報亦介紹 .docx 表格頁面定位改進,以及整合 Gemini 3.1 Live API 的語音助理示範。

  15. Cohere Labs:官方研究博客44

    大型語言模型在 RAG 中的檢索穩健性評估

    研究以涵蓋五個資料集、三類任務的 1,891 個樣本,評估 11 個 LLM 在實際 RAG 設定中的檢索穩健性;整體穩健性普遍偏高,但因任務而異。停用推理時,Qwen 和 GPT 模型的穩健性明顯下降,即使在單跳 QA 任務上亦然;把檢索文件作為工具回覆提供,則提升 Claude 模型表現、損害 Qwen 和 GPT 模型表現。研究指出,是否採用 RAG 仍須按個案判斷。

10月2日週五
  1. AWS Machine Learning Blog69

    使用 Amazon Quick 與 Adjudicated Query 模式,對數萬份租約進行合規掃描

    AWS 介紹並部署 Adjudicated Query 模式,讓 Amazon Quick 的自然語言合規查詢透過固定 MCP 操作交由確定性規則引擎判定,而非由模型作出決策。

    推薦理由:文章把自然語言查詢與合規判定分開,並以完整性收據和逐筆證據鏈展示如何核對大量檢查結果。

  2. HuggingFace Daily Papers(社區熱門論文)34

    SEER: Self-Evolving Event Reasoning and Retrieval for Time Series Forecasting

    SEER 是一個用於時間序列預測的閉環框架,在六個波動性時間序列基準測試中,持續優於最先進的時間序列基礎模型及語言模型基線。它將預測誤差轉化為兩種回饋機制:反思式檢索記憶,用以改進搜尋查詢及過濾雜訊;持續性因果知識庫,用以提煉可遷移的領域動態。框架在事件檢索及反思過程中嚴守時間順序,避免前視偏差及數據洩漏。

  3. HuggingFace Daily Papers(社區熱門論文)38

    探討推理語言對齊在單語檢索增強生成中的作用

    研究在德語單語 RAG 問答測試集上發現,智能體的推理語言與查詢及檢索文件語言一致,有助提升表現。強制以德語推理優於法語,即使模型在法語基準評測表現較高;檢索上下文越豐富且具結構感知,優勢越大。德語推理僅追平模型不受限制的原生英語推理,未能超越;研究團隊公開釋出測試集及 QA 基準。

10月1日週四
  1. n8n Blog50

    何時選用 LLM 知識圖譜或向量 RAG:架構選擇指南

    n8n 團隊的指南比較向量 RAG 與 LLM 知識圖譜,並按檢索資訊的結構説明兩者各自適用的情境。向量 RAG 適合答案集中於少量語義相關段落的情況;需跨文件連結實體關係及處理多跳問題時,可考慮知識圖譜,兩類檢索並用則是 HybridRAG。n8n 可用向量儲存節點、實體抽取及 AI Agent 節點組合 HybridRAG,並透過執行記錄和逐步除錯查看流程資料。

  2. HuggingFace Daily Papers(社區熱門論文)38

    SourceLearn:從知識存取到來源學習,培養對特定來源的理解能力

    SourceLearn 框架讓 AI 智能體隨時間建立可重用、針對特定來源的理解能力。在 13/15 個設定中取得最佳結果,較 Hybrid RAG 最多提升 +22.6 分;移除關鍵文件後,表現約下跌 8 分,Hybrid RAG 則下跌 25 分。學習成果亦可遷移至未練習的任務,改善指引任務未直接涵蓋的來源部分。

9月9日週三
9月3日週四
9月2日週三
  1. Meta Engineering Blog65

    Meta 拆解能向專家學習的「組織第二大腦」AI 智能體構建方式

    Meta 團隊構建了一個面向特定合規領域的 AI 智能體,透過結構化知識系統、專家推理流程及自動改進管線,把專家回饋轉為經驗更新,毋須重新訓練模型。知識系統由 200+ 個文件組成,並以可組合流程(recipes)分開管理知識與推理程序;重組後每輪 token 用量減少約 80%。經過六星期、三個開發 sprint,Meta 表示個別評估時間由數天縮短至數分鐘,改進週期未出現回歸。

8月27日週四
  1. LG AI Research:官方研究博客50

    [ACL 2026] ReSQL:透過檢索增強錯誤推理實現自我改進的 Text-to-SQL 框架

    LG AI Research 提出 ReSQL,一個透過檢索增強錯誤推理持續改進 Text-to-SQL 能力的框架。框架將執行失敗轉化為錯誤推理資料,用 LoRA 微調同一模型,並在推理時檢索三個最相似的錯誤推理案例輔助修正。研究指出,提供正確答案和結構化推理指引後,1B 參數模型也能分析自身錯誤。

8月21日週五
  1. DeepLearning.AI · Andrew Ng 來信61

    AI 工程技能地圖第二部分:構建及部署 AI 應用所需掌握的六類能力

    Andrew Ng 在《AI 工程技能地圖》第二部分梳理構建及部署 AI 應用所需的六類能力,包括 LLM 基礎、以數據為模型提供依據、構建智能體系統、評測驅動開發、生產環境運行及機器學習基礎。他指出,AI 輸出較難預測,工程師需反覆檢視中間結果,透過評測與錯誤分析推動開發,並處理成本、延遲及安全風險。

8月20日週四
  1. Mistral AI68

    Mistral 推出 Agentic Search,以多步檢索提升準確率並降低延遲和 token 使用量

    Mistral 推出 Agentic Search,讓模型透過多步檢索搜尋、查看、導覽及核實複雜文件中的資料。在 FinanceBench 金融文件測試中,正確率由 26.7% 升至 86%;OfficeQA Pro 表格密集的多文件問題則由 6.3% 升至 51.9%。

    推薦理由:FinanceBench 和 OfficeQA Pro 的基準數據呈現 Agentic Search 相較單次 RAG 的準確率提升,也量化延遲與 token 使用量變化。

8月14日週五
  1. DeepLearning.AI · Andrew Ng 來信56

    Andrew Ng 與 DeepLearning.AI 提出 AI Engineering Skills Map 第一部分,列出四項核心技能

    Andrew Ng 與 DeepLearning.AI 提出 AI Engineering Skills Map 第一部分,列出 AI 工程的四項核心技能。四項技能包括構建及部署 AI 應用、軟件工程基礎、使用編碼智能體,以及塑造產品構建方向。地圖的整理依據包括逾 10,000 則招聘廣告、數十次結構化訪談、問卷和其他網上數據,旨在協助開發者規劃學習重點及僱主招聘。