醫療預約恢復的 Postgres 檢索架構:涵蓋三個保留窗口
醫療預約助手的檢索架構應以交易式資料庫作為預約資料的權威來源,保留可重播的變更日誌和可重建索引;無法確認資料新鮮度時,則回退至有明確條件的資料庫查詢,而不確認時段。
醫療預約助手的檢索架構應以交易式資料庫作為預約資料的權威來源,保留可重播的變更日誌和可重建索引;無法確認資料新鮮度時,則回退至有明確條件的資料庫查詢,而不確認時段。
作者分享為 Dify 的大語言模型編排部署 Redis 支援的分散式斷路器及帶隨機抖動的指數退避,應對供應商 API 故障引發的級聯失效。部署後,供應商故障期間 P99 延遲由 8.3s 降至 2.1s,上游 5% 錯誤率不再擴大為用戶端 34% 失敗率,且 90 日內沒有資料庫連線池耗盡事件。程式示例設定連續 5 次失敗後快速失敗 60 秒,並建議按模型供應商分隔連線池。
RAG 系統的可靠性取決於能否從文件中檢索並組裝足以回答問題的正確證據,而不只是大語言模型的生成能力。文章建議按文件來源、切分、檢索、排序和生成分開排查,並以 Recall@K 衡量預期來源是否出現在前 K 項結果。遇到多文件問題,還須確認所有必要來源均已檢索,並在證據不足或互相矛盾時避免直接作答。
Vicquant 作者檢查其金融問答系統的查詢路由器,發現 20 個依賴文件的問題中有 18 個未送往 RAG 文件庫,既有 RAG 評分因此未能捕捉這項失誤。
Himanshu Joshi 製作免費 11 集動畫課程《System Design for the AI Era》,講解 AI 系統從示範走向正式環境所涉及的設計問題。
文章建議餐牌助手先建立具版本管理的評測集,再選擇檢索方法,並分開評估檢索結果、過期或不可供應項目的排除,以及答案是否受檢索證據支持。評測案例應記錄查詢時間、餐廳、有效版本,以及可接受和禁止的項目 ID,並按餐牌變更執行針對性測試。文中提供 Python 評測程式碼,分別衡量召回、禁用項目命中及過期項目是否排在首位。
Graphify 以靜態分析建立確定性程式碼知識圖譜;在 50K LOC Python/TypeScript monorepo 的 200 次查詢測試中,作者稱其相較 LangChain + ChromaDB 向量檢索可減少 85-92% 的 token 消耗。
持久化 Agent 記憶方案結合 SQLite FTS5 與 sqlite-vec,兼顧地址等字串的精確搜尋和語意檢索。文章以 RRF 融合兩類搜尋結果,並介紹透過 LibSQL/Turso 嵌入式副本同步資料,以及容器檔案失效和多個 Agent 寫入競爭等問題。
文章歸納 ChatGPT 的 7 種隱形 RAG「植入物」為模型可查詢的外部資料來源,用來補充回答所需資訊。類別包括一般知識、技術文件、新聞 RSS、法律資料、商品目錄、科學研究,以及歷史與市場趨勢數據;文章亦説明如何將相關資料整合到自己的 AI 工作流程。
作者為 PDF-to-Markdown API 加入混合式欄位偵測,利用欄間留白判斷欄位邊界,沒有穩定分欄時則按單欄流程處理,並遵從 PDF 明確提供的閲讀順序提示。這能避免雙欄論文內容交錯,令 RAG 檢索引用互不相關欄位句子的問題;測試時亦須涵蓋跨欄圖片、合併儲存格的表格及多欄註腳。
AuditGuard AI 是一款面向自由工作者、小型企業東主及納税人的帳單和税務審核應用,可自動擷取收據資料、驗算小計加税項是否等於總額,並追蹤分類及繳付狀態。它透過 Ollama 本地運行開放權重模型,提供「Ask Your Bills」自然語言查詢,並標示重複收據和缺漏税務登記資料。
DeepSeek 於2026年10月17日正式上線 Search 與 Fetch 兩項 API,支援即時網頁搜尋與抓取,面向 Agent 和 RAG 應用。兩者均基於自研搜尋引擎,按成功請求收費(5元/千次),速率限制為每秒5次,並分開計數。
DeepSeek 正式上線 Search / Fetch API,並發布 DeepSeek Harness v0.2.1-rc1。
新聞變更提醒的檢索系統應結合歷史索引與即時抓取,並將段落、來源識別資料和引用納入檢索契約。實作上需保留租戶及版本資料,並在具代表性的變更集上分別評估召回率、精確率、新鮮度和引用覆蓋率。
ScopeLock 為自由工作者及小型代理商分析客戶要求是否超出工作範圍,引用工作説明書(SOW)條款並草擬回覆和變更單。示範測試以 TabPFN 估算出 15.3h,並按每小時 $125 計算約 $1,913 的變更單金額。推理核心採用開放權重 Gemma 3,可透過 OpenRouter 使用,亦可在本機改用 Ollama。
.NET 向量嵌入服務在由原型擴展至生產環境時,常見問題包括 FAISS 執行緒安全、嵌入 API 速率限制、索引資料過時及記憶體耗盡。文章比較 MiniLM、FAISS 與 Azure Search 等方案,並提出微服務拆分、快取及故障切換等做法,以兼顧延遲、成本和召回率。
AWS Context 是 AWS 宣佈的服務,旨在將企業資料、業務概念和組織知識連結成知識圖譜,讓 AI 智能體在執行時檢索受治理的情境資訊。它涵蓋關係發現、經審核的業務知識及遵守存取權限的檢索,並描述以 Apache Iceberg 格式在 Amazon S3 Tables 發佈關鍵情境中繼資料。文中的客戶支援流程是示範性設計,並非已部署的服務設定或已執行的整合測試。
Node.js 競品文件研究管線應在向量索引前設置遵守 robots 規則的採集邊界,並落實限流、來源 URL 追溯及按來源刪除。每個內容片段都須保留來源 URL;採集遭拒時不建立文件,遇到限流則暫停,索引失敗時以穩定操作識別碼重試。
私隱導向的知識檢索應採用分階段設計,透過明確集合、受限查詢及可追溯來源,提升近似重複辨識的可解釋性並控制索引成本。兩階段查詢先套用租戶、擁有人及文件類型篩選,再評分候選項並保留來源識別碼供引用。每次調校後以代表性文件和失敗案例評估召回率、精確率,並檢查跨擁有人誤配風險。
開發者變更日誌追蹤器應採用分階段檢索,以分開的集合、有限查詢及可追溯的來源脈絡,取代每次部署重嵌入所有頁面和單次大型查詢。系統按內容雜湊值判斷變更,只將更新片段寫入向量集合,並在 Postgres 保存來源資料及刪除狀態。抓取、重試和向量搜尋均設上限,答案則保留來源資訊。
作者實測 pdftotext、pymupdf4llm 和 ocrmypdf,整理 PDF 轉純文字或 Markdown 的適用情況與限制。測試檔中,pdftotext -layout 保留表格行列;pymupdf4llm 輸出帶標題的 Markdown,但表格被壓成一行,結果會因 PDF 表格繪製方式而異。掃描 PDF 須先用 ocrmypdf 加入文字層,再抽取文字。
作者介紹其學習與作品集項目 enterprise-ai-agent,這是一個根據 AWS 公開文件回答問題、附上來源,並在文件未涵蓋時拒答的 RAG 助手。在已涵蓋問題上,Hit rate@4 為 100%、MRR 為 1.0,8 個 Agent 測試全部通過;作者提醒測試集規模小且由自己編寫。
作者為 URL-to-Markdown 轉換器加入提早停止檢查,避免它沿重新導向鏈把 GDPR 同意頁誤當成文章內容。轉換器最多跟隨 3 次重新導向,並根據 HTML 可見文字長度及同意相關字句識別同意頁,回傳明確的受阻訊號,避免將頁面內容送入 RAG 流程。
作者為 RAG 應用程式設計基線方案:答案須有檢索段落支持並附上來源,證據不足時則明確拒答。測試涵蓋可回答、相關但無依據及無關問題,並檢查引用是否支持答案,以及系統有否不必要地拒答。
作者以小型企業貸款審核智能體示範,如何在模型決策之外以程式碼設定風險上限,讓達高風險門檻的申請必須轉交人工審核。風險分數根據貸款額與年收入比例、信用分數及 DSCR 計算,預設上限為 0.75;測試亦顯示,即使申請文字含提示詞注入內容,仍會觸發升級處理。作者指出,上限只檢查輸入數值,實際審核仍須以可信來源驗證資料。
CoRE 提出一種無需預設查詢與規則配對監督的結構化知識檢索方法,協同學習為查詢選擇推理規則,以及依規則約束檢索證據。它交替使用強化學習訓練路由策略,並以對比學習訓練檢索器。在 STaRK-QA 的科學發現、生物醫學推理和電子商務知識管理數據集上,實驗顯示 CoRE 有效;分析亦顯示規則使用情況可用於自動改進和發現規則。
文章介紹如何透過 OpenDMA 將 LlamaIndex 接入 Alfresco,並提供 AlfrescoReader、AlfrescoRetriever 和 AlfrescoToolSpec 三種整合方式。
文章以 Python 示範法律合約審閲檢索的三道引用關卡,分別檢查存取權限、來源身份和答案覆蓋。範例在建立模型上下文前,排除租戶或案件權限不符、缺少文件 ID 或來源 URL 的結果,並指出相似度較高不能凌駕授權檢查。文中建議以保留版本資料的持久索引處理需要重複核對的證據,只在新鮮度影響判斷時加入即時檢索,並以召回率、精確率、引用覆蓋率及未授權結果數檢查檢索品質。
這份清單整理了 60 多款今日即可使用的免費及開源 AI 工具,涵蓋 10 個類別,並為每項提供連結、約略星數和簡介。工具可在本機執行、自行託管,或透過免費方案使用,類別包括聊天、編碼助理、本機推理、影像、影片、音訊、RAG、向量資料庫及 API。完整清單收錄於 GitHub,並歡迎社羣提交補充。
文章提出客戶支援知識庫檢索的分頁設計原則,建議以固定快照配合遊標,並按資料時效和引文要求選用向量搜尋、網頁搜尋或兩者結合。若服務商無法保證快照,回答期間應保存已返回的識別碼;向量檢索則須在資料及查詢階段保留租戶與 ACL 限制。來源不一致時應附上兩邊引文並轉交審核,並按分頁邊界、遊標及引文覆蓋率測試檢索流程。
A.Talaat 示範如何在 Ruby on Rails 中以 PostgreSQL 的 pgvector 擴充功能建置 RAG,並透過 ActiveRecord 搜尋嵌入向量。
這篇教程介紹 RAG 的 5 種分塊策略,並為每種策略提供可執行的 Python 範例。策略包括固定大小、遞迴、句子邊界、文件結構及語義分塊,適用於不同類型的文件。文章建議先以留出評估集比較兩三種方案,並稱帶 Markdown 分隔符的遞迴分塊可作為 2026 年約 70% 生產語料的預設方案。
AgriBridge 是面向印度農民的開源 AI 農業智能平台,結合影像分析、多語言語音識別、RAG 和環境數據提供情境化農業支援。平台支援英語、印地語和孟加拉語,斷網時可將作物掃描排隊儲存在本機,但 AI 分析仍須連接後端。其 DINOv2 分類管線有 387 個輸出類別,準確度仍需進一步實地驗證。
Production RAG 是一款採用 Apache 2.0 授權、內置組織層級存取控制的開源 RAG 引擎。它在 SQL WHERE 子句中按組織、部門、團隊和用戶範圍限制查詢,並在 Postgres 內結合語義搜尋與全文搜尋。引擎支援透過 Ollama 和本地 ONNX 嵌入向量離線運行,也可接入 OpenAI、Claude 或 Gemini。
Alan West 分析 pg_vectorsearch 與 pgvector HNSW 的效能比較,指出前者查詢較快,但建置時間差距受測試設定及記憶體條件影響。
作者以 8 款本地 PDF 抽取器測試 27 份、共 1,567 頁文件,涵蓋表格、掃描件、圖表及 RAG 檢索。Docling 在真實表格的 TEDS 為 0.83,Tesseract 5 的掃描件平均字符錯誤率為 0.32;EasyOCR 找回 84% 圖表資訊。
非結構化數據缺乏沿襲同步,會令企業 RAG 檢索到已過期或已刪除的向量,生成過時政策答案。擁有 4,000 萬個向量、涵蓋 15 個企業數據儲存庫的組織,全面重新嵌入需耗費數萬美元並令流程停機 36 小時。文章建議以雙時態元數據、CDC 加密墓碑標記及查詢時時間篩選,管理文件生命週期並排除過期內容。
OpenViking 將 Agent 記憶、知識 RAG 和技能整合為可按查詢模式演化結構的上下文資料庫,並以同一儲存層管理三類上下文。其 DSH-plugin 架構分為資料、Schema 和 Handler 三層,按查詢延遲、檢索準確度、Agent 反饋及結構變化調整索引;演化決策以版本化遷移記錄,並支援回滾。
Onic Ai 介紹以 Brand Context 將品牌資訊整理成具版本管理的結構化資料,供 LLM 生成內容時參照,以減少虛構功能或使用過期政策等錯誤。文章建議按更新頻率分開資料、明列不可作出的聲稱,並以事實表提供產品資訊。文中亦建議用 4 至 5 項固定任務作回歸測試,並由人員在發布前核對價格、政策及重要聲稱;Brand Context 只能減少偏差,不能完全消除。
RagLeap Graph Java v0.2.0 透過行為一致性測試,對照 Python 版 ragleap-graph v0.9.0。測試涵蓋 422 組字串相似度配對、25 項抽取設定案例,並以 27 項刻意注入的錯誤檢驗測試效力;本地測試共 129 項,全部通過。LLM 抽取尚未以真實模型供應商驗證,其他 Neo4j 部署及向量搜尋適配器亦仍需測試。