跳到正文

#RAG

今日 20 條
今天11月22日週日20 則
  1. 阿里雲開發者社區 AI37

    企業領導力培訓 RAG 系統的構建:從知識檢索到智能輔導的落地實踐

    方案以 RAG 構建企業領導力 AI 培訓系統,透過四層架構整合私有知識檢索、生成及個性化輔導。系統結合 BM25 關鍵詞檢索、向量語義檢索與 Cross-Encoder 重排序,並加入存取控制、敏感詞過濾及引用溯源。方案亦提出以 REST API 接入培訓平台,並透過相似度閾值、無相關資訊檢測及人工複核降低幻覺風險。

  2. DEV Community54

    3 個降低 LLM 生產環境成本的策略

    作者提出降低生產環境 LLM 成本的方法,建議按功能追蹤 token 用量及費用、快取靜態提示詞內容,並按任務複雜度將請求路由至不同模型。文章指出,提示詞快取通常可節省 40-80%,動態模型路由常可減少 40-70% 成本。文中亦建議壓縮提示詞,並以批次 API 處理非即時工作,通常可享 token 費率 50% 折扣。

  3. 阿里雲開發者社區 AI31

    AI 驅動知識庫問答系統的構建:架構設計與工程實踐

    這套企業知識庫問答方案採用 RAG 架構,結閤中文 Embedding 模型與 FAISS 或 Milvus,檢索企業私有知識並生成答案。系統透過文檔解析、智能分塊、向量化、Top-K 片段召回及提示詞模板完成離線建庫與在線問答。方案亦提出調整相似度閾值、加入快取,以及為敏感資料實施權限隔離和審計日誌追蹤。

  4. 阿里雲開發者社區 AI32

    AI奇門遁甲排盤網站開發實戰:大模型流式解盤與排盤引擎全解析

    AI奇門遁甲排盤網站以排盤引擎與 AI 解盤引擎解耦,結合歷法計算及大模型流式解盤。系統可採用 Vue3 或 React、Node.js 或 Python,並以 RAG 控制模型幻覺,透過 SSE 或 WebSocket 流式輸出。實作亦涵蓋真太陽時處理、Token 精簡、API 頻率限制及相同排盤時間與問題的結果快取。

  5. 阿里雲開發者社區 AI18

    AI 奇門遁甲小程序開發實戰:盤局智能解讀模組的 RAG 架構與大模型微調方案

    奇門遁甲小程序盤局智能解讀模組採用「知識圖譜+RAG+LLM微調」架構,結合結構化符號知識、知識檢索與領域微調生成解讀報告。文章以 Neo4j、FAISS 和 LoRA 為例,説明知識圖譜構建、根據問題與盤局資訊檢索知識片段,以及微調通用大模型的方法。

  6. DEV Community58

    旅遊檢索中,作者為何選擇明確分塊邊界與引用優先策略

    作者為旅遊行程規劃器採用按行程事實與引用單位劃分的文本區塊,再以元資料篩選少量區塊,讓每項行程陳述能對應到來源跨度。攝取流程先依標題、清單項目、表格列或段落識別結構邊界,再只在實體和有效時間相同時合併相鄰單位;重疊只用於補足代詞或局部例外。生成時要求每項陳述至少對應一個檢索跨度,若沒有跨度達到相關性門檻,便改為提問或明確表示沒有來源。

  7. DEV Community48

    Amplify 檔案入口網站與 Next.js RAG 應用將表情符號換成線條圖示,並比較 GenU(檔案入口網站系列第 8 篇)

    作者在 AWS Amplify Gen 2 檔案入口網站及 Next.js 權限感知 RAG 應用中,以線條圖示取代表情符號,並比較兩者與 GenU 的異同。檢測程式在入口網站找出 585 個顯示於畫面的表情符號,RAG 應用則替換了 440 個。GenU 部分根據 README 和文件整理,作者沒有部署該應用。

  8. DEV Community52

    電商產品搜尋檢索架構:設定安全的爬取邊界

    電商產品搜尋應以權威產品記錄及當前可售狀態設定爬取邊界,並在檢索架構中明確管理資料新鮮度。每個檢索片段應連結父級產品記錄、有效期及 SKU、variant、locale 和 revision 等中繼資料;先套用身份、範圍和新鮮度篩選,再進行詞彙與語義排序,價格及庫存則於回答時向交易資料來源查詢。上線前應測試完整爬取、重播、亂序更新和刪除事件,過期或不符合條件的結果應排除或讓系統拒答。

  9. DEV Community61

    菜單助理檢索:按證據時效設定時間窗口

    文章建議菜單助理按事實欄位設定證據新鮮度,作為檢索資格條件,而非使用單一全局逾時,只有仍在時效窗口內的版本才進入排序。價格、税項及優惠的起始窗口為 15 分鐘,可用性與營業時間為 2 小時,食材及致敏原為 24 小時,地址及餐廳身份為 7 日;每項證據應保留來源、擷取時間、內容雜湊及解析器版本。若沒有證據通過期限篩選,應要求澄清或重新擷取,並以已擷取頁面回放測試政策。

  10. DEV Community57

    AI 客服幻覺:六個真實案例與修正方法

    作者整理了一套支援八種語言、為電動單車品牌處理電郵及即時通訊的 AI 客服系統中六個錯誤回覆案例,並説明各自成因與修正方法。修正措施包括把長對話整理成附來源和日期的事實、為每封草稿先搜尋知識庫,以及按新郵件重新生成自動回覆。個別訂單的對話輸入由 37,604 tokens 減至 4,722,該次回覆中的每項內容均正確。

  11. DEV Community61

    RAG 助手答對 7/10,如何找出其餘 3 題的失敗原因

    RAG 助手答錯時,先檢查實際檢索到的頁面,便可分辨問題出在未找對資料,還是模型未能正確使用資料。文章將基本 RAG 失效歸納為六類,包括漏檢、排名過低、分塊遺失標題、舊版本優先、模型誤用內容,以及答案分散在多頁。案例中,若混合搜尋和重排器分別修復兩題,答對率可由 70% 升至 90%;作者建議先處理低成本的常見問題,再考慮智能體循環或知識圖譜。

  12. DEV Community54

    招聘候選人搜尋如何平衡檢索品質與延遲備援

    文章提出,招聘候選人搜尋應把檢索品質與延遲視為同一回應契約,只執行預算內可完成且能提供證據的檢索,並明確標示降級結果。先套用硬性資格條件,若結果證據不足,只在剩餘預算內啟用一種備援;無匹配、證據不足與階段超時應分開記錄。作者建議以本地查詢重播調校門檻,並記錄各階段耗時、證據數量、語料快照及備援原因;違反硬性條件的結果不可因延遲壓力而接受。

  13. DEV Community56

    提示詞工程並不足夠:如何構建可靠的 LLM 應用

    可靠的 LLM 應用不能只靠提示詞工程,還須在 LLM API 外建立控制層,處理輸出驗證、逾時與重試,以及檢索內容檢查。文章建議以 Pydantic 在執行時驗證輸出結構,為 API 呼叫設定逾時和指數退避重試,並在 RAG 流程中篩選及核對檢索內容。提示詞應納入版本控制,部署前以結構化基準測試,並追蹤正式環境輸出,以留意模型更新時的漂移。

11月21日週六
  1. DEV Community54

    多租戶支援中心檢索架構:具新鮮度感知的 Schema 設計

    多租戶 SaaS 支援中心的檢索架構應把文章、修訂版本和文字分塊分表保存,以 tenant_id 隔離資料,並由來源記錄重建檢索索引。候選檢索和重複項分組都要套用租戶條件;發布前須確認任務對應的仍是最新修訂版本,避免舊分塊進入可搜尋狀態。文章亦建議先以向量搜尋提出候選,再以標準化文字等確定性檢查確認重複項。

  2. DEV Community55

    Python 刷新 Lever 職位空缺資料:區分新職位與內容變更

    這套 Python 流程透過定期擷取 Lever 職位空缺快照及比對指定事實欄位的內容雜湊,識別既有職位的內容改寫,而非只靠 `onlyNewSinceLastRun` 尋找新職位。內容未變時只更新來源記錄,改寫時則完整替換職位資料並停用舊文本分塊;`scrapedAt` 只保留作來源追溯,不納入雜湊。API 沒有更新或關閉時間戳,因此快照中缺席的職位應標記為未觀察,不能直接視為已關閉。

  3. DEV Community55

    如何設計寧可回答「不知道」的醫院 RAG:編碼前發現的 9 個陷阱

    作者提出一套醫院內部 RAG 助理架構,要求每項回答附上院內資料來源,資料未記錄時便不作推斷。設計以 EHR 為事實來源,並加入權限檢查、資料狀態區分、來源重新核對及逐項引用驗證等機制。這是根據設計檢視及假設情境提出的方案,並非正式實作、臨牀驗證或效能基準。

  4. DEV Community63

    RAG 系統仍會引用已刪除文件,因索引未同步

    RAG 系統可能在來源文件刪除或修改後,仍從未同步更新的索引檢索舊內容,因來源與索引是分開維護的副本。文章建議以文件而非個別分塊為同步單位,處理建立、編輯、刪除、移動及權限變更,並逐項測試索引是否及時反映。Microsoft 的 Azure AI Search 指引指出,軟刪除策略須在首次執行索引器前設置;事後補設仍不能移除先前已刪除、但留在索引中的文件。

  5. 阿里雲開發者社區 AI34

    LLM 文本私隱與匿名化方法綜述

    這項綜述梳理 LLM 文本私隱與匿名化方法的演進,指出研究已由靜態移除個人可識別資訊(PII),轉向兼顧語義效用、任務需求與合規性的動態決策。文中整理語義重寫、局部差分私隱、基準評估及代理私隱對齊等路線,並比較各自在表示質素、適應效率與計算成本上的取捨。

  6. DEV Community64

    RAG 架構圖:檢索增強生成應用如何組成

    這份 RAG 架構指南把應用拆成持續執行的資料匯入路徑,以及逐題執行的查詢路徑,兩者共用嵌入模型、向量索引和中繼資料儲存區。資料匯入路徑負責解析及切分文件、生成向量並保存權限標籤;查詢路徑則進行混合搜尋、權限過濾和重排,再讓 LLM 根據所選區塊生成附來源的答案。文中以取回 50 個候選、重排後選 8 個區塊為例,並建議固定嵌入模型版本、記錄各步驟,以及用固定問題集評估檢索來源和答案。

  7. 阿里雲開發者社區 AI44

    Qwen3.8-Flash 深度解讀:模型定位、特性、能力與訂閲收費説明

    Qwen3.8-Flash 是面向高頻、低延遲及成本敏感任務的輕量模型,適合批量內容處理、客服問答和資訊抽取等場景。它支援 JSON 結構化輸出、工具調用及文字與圖像輸入,並可透過百煉平台調用,兼容 OpenAI 與 Anthropic 風格接口。個人版 Token Plan 月費由 39 元至 312 元,額度按月重置、不結轉。

  8. DEV Community60

    mycs 扁平問答流程:先發布,才讓模型讀取

    mycs 以扁平問答整理知識庫,只有正式發布的條目才會進入模型的候選清單,答覆再由程式核對是否有原文依據。同一組 13 道題中,完全正確的題目由 7 道增至智譜版本的 10 道,再在 Qwen3.6 上增至 11 道;年假例子則由程式按已有 8 天、新增 15 天及上限 30 天算出 23 天。

  9. DEV Community28

    我打造了 Deskwise:供公司文件使用的私有 AI 助理(Django + Next.js)

    Deskwise 是作者打造的私有 AI 助理,能根據公司文件回答問題並標示來源頁面。系統按公司、部門或指定人士設定存取權限,並記錄上載、提問及下載;搜尋結合 70% 向量相似度與 30% BM25。產品已可運作,但尚未有收入或客戶;作者正出售完整原始碼及知識產權,並提供交接。

  10. DEV Community63

    GraphRAG 與 RAG 的差異在問題類型,而非準確率

    文章比較 Vector RAG 與 GraphRAG,指出應按問題類型選擇,而非只看準確率差距。作者在五章語料庫的 GraphRAG 測試中,索引約需 12 min 19 s,MCP query_graph 工具的平均查詢延遲為 22.5 s。作者未以同一組問題測試 vector-only 系統;這組數據來自一個小型語料庫,採詞彙實體和有序短語匹配衡量召回,並非跨項目比較。

  11. DEV Community51

    如何用 Python 建立本地化 SERP 監測流程

    教程示範如何用 Python 建立本地化 SERP 監測流程,涵蓋搜尋結果採集、解析、SQLite 儲存,以及按地點、語言、裝置和時間比較變化。文章建議保留原始回應,並把各項搜尋請求背景存為獨立資料,避免混合不同搜尋環境進行比較。SERP 數據亦可接入 AI Agent 或 RAG 工作流,並保留來源 URL、標題、摘要、擷取時間及搜尋查詢,以便審核。

  12. DEV Community61

    TypeScript 檢索狀態機:法律合約審查中的 4 種失效模式

    法律合約審查知識庫的 TypeScript 檢索方案以文件狀態機管理索引恢復,並在無法確認來源版本一致時拒絕生成答案。文件分為 pending、verified、stale 或 quarantined 狀態;候選索引須通過區塊數和 contentDigest 驗證,才可透過 manifest 原子發佈。文章亦列出重試、競爭發佈及摘要不符等測試情境。

  13. DEV Community62

    如何在不中斷服務下替換嵌入模型並重建物業知識索引

    作者提出一套供物業管理機械人在不中斷服務下替換嵌入模型的索引遷移方案:並行建立新舊索引、重播後續編輯與刪除,再原子切換配對的查詢編碼器和索引。Go 示例使用標準庫及確定性測試替身,演示變更重播、切換與回滾,但不代表實際檢索質素或吞吐量。方案要求核對新鮮度、引用和刪除狀態,並在回滾窗口內持續更新舊索引。

  14. DEV Community51

    餐廳菜單助理的向量搜尋與網頁搜尋:如何劃定爬取邊界

    餐廳菜單助理應採用分階段檢索:網頁搜尋只用於受限地發現候選菜單頁,答案則從指定向量集合取得,並為每個檢索片段附上來源 URL。流程按允許清單抓取並索引菜單,只查詢相應餐廳集合,並設定各階段逾時、結果上限和文件時效;證據不足時應追問或拒答。Infrai 可作為統一 REST 介面選項,其即時探索功能提供 295 個路由、涵蓋 20 個模組,但允許清單、資料保留和處理方邊界仍由應用程式負責。

  15. DEV Community47

    Node.js 教育科技搜尋:如何排查部署後找不到向量集合的環境設定問題

    Node.js 教育科技搜尋服務部署後出現「找不到向量集合」,通常是新環境設定的集合名稱未在該環境建立;啟動時應列出集合並核對設定名稱,缺少時令部署失敗。集合建立應放在明確且可重複執行的設定工作中,並於批量匯入前完成,不應放在學員的搜尋請求路徑。