跳到正文
10月22日週四
  1. Dify Blog46

    Dify 整合 TiDB Vector,以分散式向量儲存強化知識流程

    Dify 的 Knowledge Pipeline 正式整合 TiDB Vector,讓處理後的知識可供下游 AI 應用重用,並以分散式向量儲存支援大規模檢索。TiDB Vector 支援 SQL 與向量混合搜尋,可先用 SQL 篩選結構化中繼資料,再進行語義檢索。開發者可透過 Knowledge Node 擷取知識庫內容,為 LLM 提供上下文。

  2. Dify Blog41

    Agentic RAG:以自主推理提升檢索能力

    Dify透過 Agent Node 工作流程實現 Agentic RAG,讓智能體分析用戶意圖、選擇工具和資料來源、改寫搜尋查詢,並評估檢索結果後重試或改用其他策略。這種迭代方式有助提升答案的依據和可靠性,但亦會增加延遲、成本和整體複雜度。

  3. Dify Blog61

    Dify 知識庫自 v1.11.0 起支援多模態檢索

    Dify 知識庫自 v1.11.0 起支援多模態檢索,可在 Workflow 應用中共同理解、檢索和使用文字與圖片。系統將圖片和文字放入統一語義空間,支援 Image-to-Text、Text-to-Image 和 Image-to-Image 檢索,並可從 Markdown 連結提取 JPG、PNG、GIF 圖片,大小上限為 2MB。

  4. Dify Blog53

    如何為適用於工作流程的 LLM 應用設計提示詞

    Dify 提出一套為工作流程設計 LLM 應用提示詞的方法,強調輸出要可重複、以提供的上下文為根據,並採用一致格式。方法建議把固定規則放在 system prompt,將每次輸入放在 user prompt,並以證據要求和 JSON schema 約束輸出。Dify 的視覺化工作流程建構器、企業級基礎設施、知識來源整合及 RAG pipelines,則用於在工作流程中實踐這套提示詞設計。

  5. Dify Blog40

    Dify 入門指南

    Dify 支援用戶建立 AI 應用,涵蓋聊天機械人、Agent、文字生成器、Workflow 及 Chatflow,並可選用不同模型供應商。Dify cloud 提供 200 個免費訊息額度,供用戶試用 OpenAI、Anthropic(Claude)、Google(Gemini)及 xAI(Grok)。

  6. Dify Blog37

    從 AI 實驗到企業平台:為何大多數 AI 概念驗證無法投入正式環境,以及如何應對

    企業 AI 概念驗證往往卡在示範可行與日常、可靠、大規模投入業務運作之間,因為它們通常只為展示而建,未按正式運行要求設計。文章提出將 AI 工作流程投入正式環境的五階段框架,重點包括從一開始便兼顧可運行性、分離業務邏輯與技術實作,以及以機構知識支援工作流程。

  7. Dify Blog27

    行銷人員如何利用 Dify 建立可靠的 AI 工作流程

    Dify 以 LLM 編排平台協助行銷團隊把提示詞轉為可重複執行的 AI 工作流程,並在流程中串接模型、知識庫、外部 API、邏輯步驟及人工審核。文中列出多渠道內容生成、潛在客戶評分與分流,以及行銷知識庫三種應用。Dify 適合需要依既定步驟和邏輯執行的自動化,聊天助手則適合一次性任務。

  8. Dify Blog27

    IT 領導者指南:建構 AI 應用,而非底層平台

    企業 IT 團隊應把重點放在建構可管理的 AI 應用,而非從零打造底層平台,並由現成平台提供共用基建。2025 年有 42% 的企業放棄大部分 AI 項目,平均有 46% 的概念驗證未能進入生產階段。Dify Cloud 提供 LLM、內置 RAG、視覺化工作流程及可觀測性,並設有免費 Sandbox tier。

  9. Dify Blog53

    初學者如何在 Dify 建立知識庫

    Dify 的入門指南示範如何匯入文件建立知識庫,設定分塊、索引與檢索方式,再連接至「Chat with Your Documents」模板。指南建議採用 General 分塊、High Quality 索引及 Vector Search,並以 OpenAI 的 text-embedding-3-small 作為嵌入模型的入門選擇。

  10. Chroma Research46

    Chroma Research 評估用 Embedding Adapters 提升檢索效果

    Chroma Research 評估在嵌入向量上套用線性轉換,以提升檢索準確度的做法。只調整查詢嵌入向量,使用最少 1,500 組已標註的查詢與文件配對,檢索準確度較單獨使用預訓練嵌入模型最高提升 70%。從未標註為相關的文件中隨機抽取負面例子已足以達成改善,有助降低標註成本。

  11. Chroma Research51

    Chroma Research 提出生成式基準測試方法評估檢索系統

    Chroma Research 提出一套生成式基準測試方法,先篩選與用戶情境相關的文件,再根據情境和範例查詢生成測試查詢,以評估檢索系統。研究在 9 個公開數據集及 Weights and Biases 的 WandBot 生產資料上測試,生成查詢大致保留嵌入模型的相對排名;在 WandBot 案例中,相關檢索指標亦較接近真實查詢。團隊並提供完整程式碼,供用戶為自己的數據建立基準。

  12. Chroma Research61

    Chroma Context-1:訓練具上下文自我修剪能力的 20B 參數搜尋智能體

    Chroma 訓練並公開 Context-1,一個以超過 8,000 項合成任務訓練的 20B 參數搜尋智能體,模型權重採 Apache 2.0 授權。Context-1 會把高層問題拆成子查詢並多輪搜尋,按相關性修剪檢索內容;研究稱其檢索表現可與前沿模型相比,推理速度最高可達 10x,成本較低。Chroma 亦公開合成任務生成流程的完整程式碼,以支援重現和後續研究。

  13. DEV Community47

    兩階段檢索與重排序技術指南

    這份技術指南説明如何將檢索系統分為候選生成與相關性排序兩個階段,先提高召回率,再提升精確度。指南以向量索引或 BM25 生成 Top-N 候選,經 LLM 重排序後選出 Top-k,並提出相關架構、延遲目標及評估指標。評估標準包括 200 條條款查詢的召回率至少 0.85、95 百分位延遲不高於 150 ms,以及 Precision@k 至少 0.78。

  14. DEV Community59

    2026 年 Go 近似重複客服工單向量閾值設計評析

    文章以 Go 示範近似重複客服工單的三段式相似度閘門,將工單判為新工單、送交人工審核或重複項目。方案要求固定嵌入與正規化流程、限制候選集,並以標註樣本校準閾值;相似度只作排序訊號,不能證明工單描述同一事件。文章亦建議記錄版本、分數與審核結果,監察重複證據、不同事件覆蓋率及審核積壓,以免錯誤抑制影響檢索增強生成。

  15. DEV Community22

    停止只靠提示詞:2026 年如何真正以 AI 開發

    現代 AI 開發已不再只是調整提示詞,而是把 AI 整合到可擴展、具韌性的軟件系統中。文章指出,開發重點包括以 RAG、向量資料庫和上下文窗口管理做好上下文工程,以及建構能拆分任務、執行命令和重試的 AI 智能體。針對特定技術堆疊,經微調的小型開源模型也正成為選擇,可在本地或專用雲端執行。

  16. DEV Community52

    RAG 生產環境資料新鮮度:2026 年資料同步策略

    生產環境中的 RAG 可透過 CDC、webhook 或輪詢偵測來源變更,再以增量索引、刪除標記及資料新鮮度 SLA 維持索引與來源同步。文件版本資料(source ID、checksum、timestamp 及 embedding model version)可用來判斷只更新 metadata、重新嵌入或重新分塊;還要監察同步延遲、刪除傳播、快取失效和故障恢復。

  17. DEV Community61

    2026 年向量搜尋延遲處理:限制逾時並平穩降級

    Node.js 向量搜尋應以請求級期限限制檢索時間、預留回應組裝時間,逾時時回退至詞彙檢索或相容快取,並明確標記降級狀態。可用 AbortController 取消向量呼叫,但需確認資料庫客戶端會遵從取消訊號;父請求取消時則應停止兩條檢索分支,而非回傳降級結果。文章建議分開監測期限耗盡、降級比例和延遲,並以人工評估查詢的召回率與資料新鮮度作為品質護欄。

  18. DEV Community50

    Node.js 具版本管理的內部工程文件檢索架構(2026)

    Node.js 內部工程文件檢索應採用分階段架構,並把文件版本管理納入檢索契約,避免模型根據過時文件生成答案。流程分為變更正規化、限時檢索候選文件,以及按版本重新排序或篩選並附上來源脈絡;每個階段都設有請求時限、命中數上限及重試預算。移除的文件須明確標記刪除並移除其文本區塊,評估則應追蹤召回率、引文覆蓋率及選中舊版本答案的比率。

  19. DEV Community59

    Postgres RAG 分塊解析:影響檢索質素的 3 個切分邊界

    文章説明,RAG 知識庫的分塊邊界會影響檢索結果能否包含完整答案及足以支持引用的上下文。建議用同一組標註問題比較固定長度、標題感知,以及保留完整程序或表格的切分方式,並按生產環境實際返回結果數評估答案涵蓋率、引用充分性、重複結果率和索引大小。文章亦指出,改用向量服務本身不會修正不合適的切分策略。

  20. DEV Community58

    RAG:如何連接 LLM 與應用程式數據,以及何時適合採用

    RAG 透過先從外部來源檢索相關資料,再交由 LLM 生成回答;文章亦説明這種架構的適用情況。文中拆解資料準備、檢索、分段、權限控制與評估等環節,指出 RAG 不保證檢索結果正確,也不會自動消除模型幻覺。作者檢視自己的教育應用後,決定先修正已知學生資料的上下文組裝,暫不加入文件檢索;改動的消耗、延遲、完整度和忠實度仍需透過對照案例評估。

  21. DEV Community49

    旅遊行程規劃器的檢索架構與分塊邊界

    旅遊行程規劃器應採用分階段檢索,明確指定資料集、限制查詢範圍,並按行程決策設定分塊邊界,讓答案連同可追溯的來源脈絡呈現。文章建議先以小型標註資料集測試,再投入正式環境;檢索單位應保留相關行程條件,避免把例外規定與其限制的時間表拆開。

  22. DEV Community63

    Go RAG 引用指向錯誤頁面:排查分塊偏移量中繼資料

    排查 Go RAG 引用指向錯誤頁面的核心,是確認引用文字、位元組偏移量、頁碼及文件版本均來自同一次解析。文章建議由同一份解析結果產生分塊與引用中繼資料,驗證通過後再切換索引,並保留舊版本供回滾。每次更改解析器或分塊器後,應抽查十條引用,並核對文字雜湊值、來源頁碼及文件版本;檢索結果正確不代表引用座標正確。

  23. DEV Community53

    新聞監測 RAG 合約解析:Node.js 變更告警的檢索邊界與資料新鮮度

    文章建議以分階段檢索、明確集合和有界查詢,設計 Node.js 新聞監測服務的 RAG 合約,平衡爬取範圍、分塊與資料新鮮度,並讓變更告警保留可追溯來源。合約應回傳候選段落、穩定文件 ID、來源 URL 及租戶和存取中繼資料;檢索時先按租戶、文件時間及存取權限篩選,再把 URL、文件 ID、爬取時間和區塊位置附於告警。

  24. DEV Community56

    重新思考 LLM 知識庫:或許先從 LLM Wiki 開始?

    作者比較 GraphRAG 與 LLM Wiki 兩類 LLM 知識庫,指出兩者都以 LLM 將原始資料蒸餾為更高層次的知識表示。兩者共同面對生成內容錯誤、知識過時、來源脈絡流失及難以按特定用途評估等問題。作者認為小規模起步可先選 LLM Wiki,因 Markdown 較易閲讀和修改;資料量大且關係複雜時,則應考慮 GraphRAG。

  25. DEV Community52

    Node.js 醫療預約檢索:控制延遲的重排與故障復原

    Node.js 醫療預約檢索指南建議,以單一回應時限約束檢索與重排,只處理期限內到達的證據,並在答案中保留來源 URL 或文件 ID。指南建議按問題意圖選取檢索路徑,只有預留時間足夠時才重試;遇 HTTP 429 時遵從 Retry-After 並採用指數退避。索引更新應以來源修訂版本為完成單位,移除已刪內容後才啟用新版本,避免過期資訊繼續被檢索。