跳到正文
10月18日週日
  1. DEV Community51

    Dify 大語言模型編排的斷路器模式:強化工作流的 API 故障防護

    作者分享為 Dify 的大語言模型編排部署 Redis 支援的分散式斷路器及帶隨機抖動的指數退避,應對供應商 API 故障引發的級聯失效。部署後,供應商故障期間 P99 延遲由 8.3s 降至 2.1s,上游 5% 錯誤率不再擴大為用戶端 34% 失敗率,且 90 日內沒有資料庫連線池耗盡事件。程式示例設定連續 5 次失敗後快速失敗 60 秒,並建議按模型供應商分隔連線池。

  2. DEV Community58

    RAG 系統的難點不在大語言模型,而在檢索與證據品質

    RAG 系統的可靠性取決於能否從文件中檢索並組裝足以回答問題的正確證據,而不只是大語言模型的生成能力。文章建議按文件來源、切分、檢索、排序和生成分開排查,並以 Recall@K 衡量預期來源是否出現在前 K 項結果。遇到多文件問題,還須確認所有必要來源均已檢索,並在證據不足或互相矛盾時避免直接作答。

10月17日週六
  1. DEV Community62

    Python 檢索架構:餐牌助手如何設計評測集

    文章建議餐牌助手先建立具版本管理的評測集,再選擇檢索方法,並分開評估檢索結果、過期或不可供應項目的排除,以及答案是否受檢索證據支持。評測案例應記錄查詢時間、餐廳、有效版本,以及可接受和禁止的項目 ID,並按餐牌變更執行針對性測試。文中提供 Python 評測程式碼,分別衡量召回、禁用項目命中及過期項目是否排在首位。

  2. DEV Community47

    My PDF-to-Markdown converter kept flattening two-column papers into soup — column detection was the whole game

    作者為 PDF-to-Markdown API 加入混合式欄位偵測,利用欄間留白判斷欄位邊界,沒有穩定分欄時則按單欄流程處理,並遵從 PDF 明確提供的閲讀順序提示。這能避免雙欄論文內容交錯,令 RAG 檢索引用互不相關欄位句子的問題;測試時亦須涵蓋跨欄圖片、合併儲存格的表格及多欄註腳。

  3. DEV Community30

    AuditGuard AI:以私隱為先的本地税務及帳單審核助手

    AuditGuard AI 是一款面向自由工作者、小型企業東主及納税人的帳單和税務審核應用,可自動擷取收據資料、驗算小計加税項是否等於總額,並追蹤分類及繳付狀態。它透過 Ollama 本地運行開放權重模型,提供「Ask Your Bills」自然語言查詢,並標示重複收據和缺漏税務登記資料。

  4. DEV Community45

    ScopeLock: open-weight AI that turns freelance scope creep into paid change orders

    ScopeLock 為自由工作者及小型代理商分析客戶要求是否超出工作範圍,引用工作説明書(SOW)條款並草擬回覆和變更單。示範測試以 TabPFN 估算出 15.3h,並按每小時 $125 計算約 $1,913 的變更單金額。推理核心採用開放權重 Gemma 3,可透過 OpenRouter 使用,亦可在本機改用 Ollama。

  5. DEV Community35

    AWS Context: How Knowledge Graphs Give AI Agents Governed Enterprise Context

    AWS Context 是 AWS 宣佈的服務,旨在將企業資料、業務概念和組織知識連結成知識圖譜,讓 AI 智能體在執行時檢索受治理的情境資訊。它涵蓋關係發現、經審核的業務知識及遵守存取權限的檢索,並描述以 Apache Iceberg 格式在 Amazon S3 Tables 發佈關鍵情境中繼資料。文中的客戶支援流程是示範性設計,並非已部署的服務設定或已執行的整合測試。

  6. DEV Community48

    大規模索引下私隱導向知識檢索的相關性調校

    私隱導向的知識檢索應採用分階段設計,透過明確集合、受限查詢及可追溯來源,提升近似重複辨識的可解釋性並控制索引成本。兩階段查詢先套用租戶、擁有人及文件類型篩選,再評分候選項並保留來源識別碼供引用。每次調校後以代表性文件和失敗案例評估召回率、精確率,並檢查跨擁有人誤配風險。

  7. DEV Community50

    以 Node.js 和 Postgres 實現具可追溯上下文的開發者變更日誌檢索

    開發者變更日誌追蹤器應採用分階段檢索,以分開的集合、有限查詢及可追溯的來源脈絡,取代每次部署重嵌入所有頁面和單次大型查詢。系統按內容雜湊值判斷變更,只將更新片段寫入向量集合,並在 Postgres 保存來源資料及刪除狀態。抓取、重試和向量搜尋均設上限,答案則保留來源資訊。

  8. DEV Community62

    PDF 轉純文字或 Markdown:3 個免費指令實測及其限制

    作者實測 pdftotext、pymupdf4llm 和 ocrmypdf,整理 PDF 轉純文字或 Markdown 的適用情況與限制。測試檔中,pdftotext -layout 保留表格行列;pymupdf4llm 輸出帶標題的 Markdown,但表格被壓成一行,結果會因 PDF 表格繪製方式而異。掃描 PDF 須先用 ocrmypdf 加入文字層,再抽取文字。

  9. DEV Community68

    為何我的貸款審核智能體無法批准高風險貸款,無論模型多有信心

    作者以小型企業貸款審核智能體示範,如何在模型決策之外以程式碼設定風險上限,讓達高風險門檻的申請必須轉交人工審核。風險分數根據貸款額與年收入比例、信用分數及 DSCR 計算,預設上限為 0.75;測試亦顯示,即使申請文字含提示詞注入內容,仍會觸發升級處理。作者指出,上限只檢查輸入數值,實際審核仍須以可信來源驗證資料。

  10. HuggingFace Daily Papers(社區熱門論文)32

    CoRE 如何協同學習規則路由與約束式結構化知識檢索

    CoRE 提出一種無需預設查詢與規則配對監督的結構化知識檢索方法,協同學習為查詢選擇推理規則,以及依規則約束檢索證據。它交替使用強化學習訓練路由策略,並以對比學習訓練檢索器。在 STaRK-QA 的科學發現、生物醫學推理和電子商務知識管理數據集上,實驗顯示 CoRE 有效;分析亦顯示規則使用情況可用於自動改進和發現規則。

  11. DEV Community57

    法律合約審閲檢索解析:2026 年 3 道 Python 引用核驗關卡

    文章以 Python 示範法律合約審閲檢索的三道引用關卡,分別檢查存取權限、來源身份和答案覆蓋。範例在建立模型上下文前,排除租戶或案件權限不符、缺少文件 ID 或來源 URL 的結果,並指出相似度較高不能凌駕授權檢查。文中建議以保留版本資料的持久索引處理需要重複核對的證據,只在新鮮度影響判斷時加入即時檢索,並以召回率、精確率、引用覆蓋率及未授權結果數檢查檢索品質。

  12. DEV Community48

    60 多款今日即可使用的免費及開源 AI 工具

    這份清單整理了 60 多款今日即可使用的免費及開源 AI 工具,涵蓋 10 個類別,並為每項提供連結、約略星數和簡介。工具可在本機執行、自行託管,或透過免費方案使用,類別包括聊天、編碼助理、本機推理、影像、影片、音訊、RAG、向量資料庫及 API。完整清單收錄於 GitHub,並歡迎社羣提交補充。

  13. DEV Community53

    客戶支援檢索架構:知識庫分頁的 4 項規則

    文章提出客戶支援知識庫檢索的分頁設計原則,建議以固定快照配合遊標,並按資料時效和引文要求選用向量搜尋、網頁搜尋或兩者結合。若服務商無法保證快照,回答期間應保存已返回的識別碼;向量檢索則須在資料及查詢階段保留租戶與 ACL 限制。來源不一致時應附上兩邊引文並轉交審核,並按分頁邊界、遊標及引文覆蓋率測試檢索流程。

  14. DEV Community60

    RAG 分塊:5 種策略及可執行 Python 範例

    這篇教程介紹 RAG 的 5 種分塊策略,並為每種策略提供可執行的 Python 範例。策略包括固定大小、遞迴、句子邊界、文件結構及語義分塊,適用於不同類型的文件。文章建議先以留出評估集比較兩三種方案,並稱帶 Markdown 分隔符的遞迴分塊可作為 2026 年約 70% 生產語料的預設方案。

  15. DEV Community32

    AgriBridge:以開源 AI 連接農業與智能

    AgriBridge 是面向印度農民的開源 AI 農業智能平台,結合影像分析、多語言語音識別、RAG 和環境數據提供情境化農業支援。平台支援英語、印地語和孟加拉語,斷網時可將作物掃描排隊儲存在本機,但 AI 分析仍須連接後端。其 DINOv2 分類管線有 387 個輸出類別,準確度仍需進一步實地驗證。

10月16日週五
  1. DEV Community49

    I built an open-source RAG engine with org-level access control, because I couldn't find one

    Production RAG 是一款採用 Apache 2.0 授權、內置組織層級存取控制的開源 RAG 引擎。它在 SQL WHERE 子句中按組織、部門、團隊和用戶範圍限制查詢,並在 Postgres 內結合語義搜尋與全文搜尋。引擎支援透過 Ollama 和本地 ONNX 嵌入向量離線運行,也可接入 OpenAI、Claude 或 Gemini。

  2. DEV Community46

    The Stale Vector Trap: Why Unstructured Data Lineage is Breaking Enterprise RAG

    非結構化數據缺乏沿襲同步,會令企業 RAG 檢索到已過期或已刪除的向量,生成過時政策答案。擁有 4,000 萬個向量、涵蓋 15 個企業數據儲存庫的組織,全面重新嵌入需耗費數萬美元並令流程停機 36 小時。文章建議以雙時態元數據、CDC 加密墓碑標記及查詢時時間篩選,管理文件生命週期並排除過期內容。

  3. DEV Community43

    OpenViking 自我演化上下文資料庫:Agent 記憶、RAG 與技能如何整合於同一儲存層

    OpenViking 將 Agent 記憶、知識 RAG 和技能整合為可按查詢模式演化結構的上下文資料庫,並以同一儲存層管理三類上下文。其 DSH-plugin 架構分為資料、Schema 和 Handler 三層,按查詢延遲、檢索準確度、Agent 反饋及結構變化調整索引;演化決策以版本化遷移記錄,並支援回滾。

  4. DEV Community62

    Brand Context 如何把品牌上下文整理成 Schema,減少 LLM 編造資訊

    Onic Ai 介紹以 Brand Context 將品牌資訊整理成具版本管理的結構化資料,供 LLM 生成內容時參照,以減少虛構功能或使用過期政策等錯誤。文章建議按更新頻率分開資料、明列不可作出的聲稱,並以事實表提供產品資訊。文中亦建議用 4 至 5 項固定任務作回歸測試,並由人員在發布前核對價格、政策及重要聲稱;Brand Context 只能減少偏差,不能完全消除。

  5. DEV Community39

    Testing Python-to-Java Parity in a Graph Retrieval Library

    RagLeap Graph Java v0.2.0 透過行為一致性測試,對照 Python 版 ragleap-graph v0.9.0。測試涵蓋 422 組字串相似度配對、25 項抽取設定案例,並以 27 項刻意注入的錯誤檢驗測試效力;本地測試共 129 項,全部通過。LLM 抽取尚未以真實模型供應商驗證,其他 Neo4j 部署及向量搜尋適配器亦仍需測試。