跳到正文
10月19日週一
  1. DEV Community66

    Naive RAG 為何難應付生產環境?7 種 RAG 架構對應不同檢索失效

    Rudratosh Shastri 梳理 Naive RAG 的五類檢索失效,並介紹七種分別針對不同問題的 RAG 架構。文章以詞彙不匹配、上下文流失、跨文件綜合及錯誤檢索等問題,對應混合搜尋與重排、查詢轉換、Contextual Retrieval、RAPTOR、GraphRAG、Self-RAG/CRAG、Agentic RAG 和自適應路由,並比較適用情況及成本。

  2. DEV Community55

    pgvector HNSW 並行寫入時召回率下降,排查發現向量正規化不一致

    作者在 pgvector HNSW 並行回填時發現召回率下降,排查確認兩個 embedding 客戶端輸出的向量正規化不一致,令內積索引排序受向量長度影響。六個 COPY workers 並行寫入時,鎖等待約 3s 並拖慢評測;將每筆交易改為提交 2k rows、設定 maintenance_work_mem = 1GB 後,p99 插入延遲由 3412ms 降至 96ms。

  3. DEV Community41

    FreelanceCanvas:Gemma 在本機撰寫客戶提案,從需求簡介到投標盡在一個畫布

    FreelanceCanvas 透過 Ollama 在本機執行 Gemma(預設模型為 gemma3:1b),根據客戶簡介或 PDF 配對過往項目,並撰寫自由工作者提案。工具亦會整理客戶資料及生成音訊稿;里程碑、價格和風險則由固定三階段範本提供。本機執行令提案文字留在用戶電腦,而項目配對目前使用雜湊向量,並非真正的嵌入向量。

  4. DEV Community34

    AHGV Local AI Tutor:注重私隱的 AI 學習助理

    AHGV Local AI Tutor 是一款 AI 學習助理,讓學生上載 PDF、Markdown 和文字檔或貼上筆記,生成摘要、温習筆記和選擇題,並根據相關內容回答問題。系統先以詞彙檢索找出相關段落;前端採用 React 19 和 Vite,後端採用 FastAPI。項目旨在支援開放權重模型,作者正探索輕量部署方案,並計劃令推理流程可重現及清楚記錄模型和部署要求。

  5. DEV Community59

    作者以 FalkorDB 圖譜讓智能體查找系統負責人與依賴關係

    作者把公司知識由向量檢索的文字片段轉入 FalkorDB 圖譜,讓智能體以 Cypher 查詢關係,回答值班工程師的問題。示範圖譜約有 4,000 個節點,可查找系統負責人、追蹤依賴影響範圍,以及回溯決策文件和作者。圖譜亦保存對話記憶並支援工單自動指派,七項工具透過 MCP 提供;作者將每個租戶使用獨立圖譜和正式評測列為後續工作。

  6. DEV Community57

    每項事實均附引文、時間與爭議記錄:在 FalkorDB 上構建 Nodus

    作者以 FalkorDB 構建 Nodus,將公司資訊整合成雙時間知識圖譜,回答歸屬、知識及決策原因等問題,並為答案附上來源引文。系統以不可變斷言紀錄保存證據及有效時間,並用物化邊快取支援查詢;新主張只有權威程度相等或更高時才取代舊主張,否則記錄為爭議。

  7. DEV Community23

    Company Brain AI 平台

    Company Brain 是一個結合知識圖譜與專責 AI 智能體的企業知識助理,讓用戶以自然語言查詢公司資訊,並取得根據檢索資料生成、附有來源及證據資訊的答案。系統可匯入 CSV 數據集至 FalkorDB,再透過 OpenRouter 的 LLM 生成回覆;前端以 React 和 TypeScript 建構,提供對話介面、搜尋、報告及知識探索等功能。

10月18日週日
  1. DEV Community34

    Why Vector RAG Fails AI Agents: Building an Autonomous SRE Swarm with FalkorDB

    FalkorSynapse 以 FalkorDB 建構自主 SRE 多智能體系統,將服務、工程師、程式碼變更及事故處理手冊連成圖,支援智能體分析依賴關係、追查故障原因及找出負責人。FalkorDB 以 GraphBLAS 執行圖遍歷,查詢速度低於 1 ms;系統亦可執行已驗證的處理手冊,並把事故應對記錄寫入持久記憶。

  2. DEV Community43

    The 2026 Agentic AI Roadmap: From LLM Basics to Production

    Agentic AI 路線圖提出由 LLM 基礎走向正式環境的七步學習路徑,適合初學者及資深開發者。七步依次涵蓋基礎、核心組件、協調、RAG 與檢索、設計模式、安全與評估,以及正式環境和生態系統。路線圖亦涵蓋 ReAct、LangGraph、多智能體工作流程、MCP、延遲、成本及可觀測性。

  3. DEV Community60

    如何按租戶隔離合約檢索證據:經得起審查的檢查方法

    文章提出,合約工作區應將租戶範圍設為由伺服器推導並簽署的權限,供每個檢索階段使用,並在啟用語義搜尋前以對抗性測試驗證隔離。所有進入排序、重排序、提示詞組裝及引用呈現的文件 ID 都必須屬於該租戶,單在最後一次向量查詢加入 metadata filter 並不足夠。文章建議以兩個租戶的相同文本測試檢查文件版本、引用、快取鍵及追蹤紀錄,並在授權、索引、排序或快取變更時重跑。

  4. DEV Community43

    凌晨 2 時七個警報:以圖資料庫構建 AI 值班智能體 RootCause Agent

    作者為 Graph Hacks 構建 RootCause Agent,利用 FalkorDB 圖資料庫沿服務依賴關係追查故障根因,並把新事件寫回圖中。在示例事故中,智能體判定 cache 是根因,追出部署 D-1 的設定變更,並找出影響範圍及應聯絡的工程師。以相同數據和模型測試,圖智能體在 11 項檢查中得 11/11,向量 RAG 得 1/11。

  5. DEV Community35

    A docs assistant a small business can run on its own laptop, built with open-weight AI

    PumpGuard 是一款以小型企業文件回答問題的助理,可引用所用頁面,並在知識庫找不到答案時明確説明。它以開放嵌入模型搜尋文件,並在本機使用 Qwen2.5(0.5B、1.5B 和 3B,4-bit)生成答案;文件不必離開客戶的電腦。作者亦提供免費課程,帶領學員從頭建構這個專案。

  6. DEV Community37

    LLM - Memory for Agent

    文章梳理 AI Agent 的 6 種記憶類型:Buffer、Window、Token、Summary、Long-term 和 Semantic,説明各自如何保留對話或事實。Buffer 會儲存完整對話,Window 和 Token 記憶會捨棄較舊訊息,Summary 則以摘要保留舊對話中的資訊。Long-term 記憶可跨對話儲存事實;Semantic 記憶以嵌入向量搜尋長期資訊。

  7. DEV Community65

    提示詞快取可讓重複前綴享有 90% 折扣

    提示詞快取會對重複的穩定前綴按較低費率計費,將穩定內容放在提示詞前段、動態內容置後,有助降低 LLM API 輸入成本。GPT-5.6 Sol 的快取輸入價格為 $0.40 per 1M tokens,未快取輸入為 $4.00 per 1M tokens;以每月 1,100 項任務的參考工作負載計,約可節省 $190。

  8. DEV Community16

    Challenge 3

    Hacktoberfest Open-Source AI Challenge 參賽作品正構建 Industrial AI Assistant,讓工業團隊以對話查詢經核准文件,並查看答案的來源引用。計劃以 RAG 結合文件解析、OCR、嵌入向量及向量搜尋,從相關文件內容生成答案。項目亦希望採用開放權重模型,並支援私隱、成本及基建要求各異的部署環境。

  9. DEV Community61

    Go 多租戶 SaaS 幫助中心如何設計檢索分頁(10k 個租戶)

    Go 多租戶 SaaS 幫助中心的檢索分頁應以租戶範圍的不可變快照為基礎,固定候選排序後再逐頁返回,避免索引變動造成頁面重複、遺漏或引用偏移。文章提供以 HMAC-SHA256 簽署的 Go 分頁遊標範例,要求伺服器驗證租戶、查詢、政策、快照及有效期;每次續頁仍須套用現行授權。文中亦列出遊標邊界、引用版本及跨頁重複等測試和監測項目。

  10. DEV Community53

    Python 醫療預約助手的語義檢索故障隔離與高負載回退設計

    文章提出以 Python 編排醫療預約助手的語義檢索回退流程:檢索只提供候選醫護人員,展示時段前必須向排程資料來源核實即時可預約性。流程按語義、詞法及結構化檢索逐級回退,保留專科、地點等硬性條件;資訊不足時要求澄清,無法驗證時不展示未核實時段。示例採用 900 ms 總預算及 250 ms 語義檢索上限,作者指出這些是示例政策值,並非效能承諾。

  11. DEV Community54

    開發者更新日誌檢索如何平衡租戶隔離、新鮮度與引用成本

    開發者更新日誌檢索應以按租戶隔離的向量索引保存歷史,只在新鮮度要求需要時加入網頁檢索,並確保每次檢索和引用都保留租戶邊界。文章建議為即時抓取設定逾時、重試上限及獨立預算;若抓取逾時,應顯示存檔資料的時間,不能把舊內容當作最新資訊。部署前應測試跨租戶隔離、已刪頁面、內容更新及引用完整度,並以零隔離違規作為上線門檻。

  12. DEV Community57

    支援知識更新的抓取與嵌入向量管線如何運作

    文章指出,支援知識的抓取與嵌入流程應按版本化數據管線設計,讓符合條件的更新內容及時可搜尋,並在檢索延遲預算內返回合適段落。作者建議同時監測檢索延遲、新鮮度年齡及各階段耗時,並保留來源 URL、抓取版本、內容雜湊和索引世代等追溯資料。候選索引需先驗證並通過檢索測試,再原子式切換;延遲優化也不應省略相關性評估。

  13. DEV Community51

    AI 智能體為何失敗:模式匹配勝過推理支架

    Yano.AI Technologies Inc. 認為,AI 智能體的可靠性更應依靠模式匹配路由,而非增加推理支架。涵蓋 19 個基準的 2026 年綜述指出,任務鏈愈長,錯誤愈會累積;增加規劃器、批判迴圈或更長的思維鏈,也不一定提升可靠性。文章建議以確定性路由限制模型作用範圍;菲律賓央行評估中,治理成熟度為 0.9,低於數據、模型及工具的 2.1。

  14. DEV Community30

    由紙本報告到洞見:如何用 Pinecone、Ollama 和 PaddleOCR 建立私人醫療 RAG 系統

    教學示範以 PaddleOCR、Pinecone、Ollama 和 LangChain 建立私人醫療 RAG 系統,從化驗報告擷取文字、轉成向量,再檢索相關內容回答問題。Ollama 可在本地執行 Llama 3,系統亦可比較不同日期的報告數值並分析趨勢;在 Pinecone 加入日期 metadata,則可按日期篩選資料。

  15. DEV Community54

    工程文件檢索架構:可稽核的媒體清單處理管線

    文章提出以兩階段檢索、不可變稽核事件和版本化文件分塊建立媒體清單檢索架構,並在生成前檢查資料新鮮度與授權。方案先以詞彙檢索套用租戶及時間窗限制,再重排候選結果;來源修正或清單刪除時追加事件,以便重建索引狀態。文章亦建議重新檢查檢索權限,並分開衡量召回率、引用精確度和延遲。

  16. DEV Community55

    如何為多租戶 SaaS 支援中心設計檢索架構(含分頁)

    文章提出以分階段檢索、明確集合與有界查詢,為多租戶 SaaS 支援中心設計可在分頁後保留來源脈絡的檢索架構,並將數據匯入、檢索和答案生成分開設定 SLO。檢索契約應包含租戶、產品及語言篩選、來源 ID、引用欄位和遊標,並分開衡量 recall at k、引用命中率及過期結果率。

  17. HuggingFace Daily Papers(社區熱門論文)42

    Deep Fusion Memory:面向大語言模型的區塊級參數化記憶

    Deep Fusion Memory(DFM)是一種區塊級參數化記憶架構,透過閘控交叉注意力將預測的記憶融入中間隱藏狀態,推理時無需明確檢索。與現有參數化記憶方法相比,DFM 建構訓練資料所需的檢索查詢減少 32 倍、檢索項目減少 2048 倍。在六項問答任務中,DFM 相較最強基線,在 Mistral-7B-v0.3 和 Qwen3-8B-Base 上分別提升 12.71% 和 11.19%。

  18. DEV Community49

    E-commerce Product Search: 5 Query Bounds for Grounded Semantic Retrieval

    電子商務產品搜尋應採用分階段語義檢索,明確指定搜尋集合、查詢界限及可追溯的來源資訊,讓結果有據可查。每個索引片段都應保留文件、產品、租戶、存取控制及目錄版本等資料,並按有效版本篩選、按產品 ID 去重。檢索亦須限制候選數、重排項目、上下文片段、重試次數及總耗時,並記錄所用界限和文件 ID,方便排查異常結果。

  19. DEV Community55

    餐廳菜單檢索架構:搜尋索引的安全刪除設計

    文章提出餐廳菜單檢索架構的安全刪除契約,要求刪除一經接受,相關紀錄即不得進入新答案,即使索引尚未完成實際移除。系統應以應用程式刪除帳本及服務閘門排除該紀錄,並保留文件識別碼、來源連結、集合及內容版本等可追溯資料。文章亦建議以刪除傳播 SLO、查詢限制及延遲或重複事件測試,並按服務契約與維運需求選擇託管或自管方案。