跳到正文
11月21日週六
  1. DEV Community50

    語義檢索如何改善房源搜尋與來源去重測試

    房地產房源搜尋的語義檢索問題,往往源自重複庫存和過時記錄;文章建議以分階段檢索、明確的資料集、有限查詢及可追溯的來源脈絡,建立可測試的檢索流程。比較 Pinecone、Weaviate、Elasticsearch 和 Infrai 時,應使用相同的標註問題集,評估召回率、重複率、過時結果率和來源網址引用能力。去重應在限定 top-k 檢索後按標準房源 ID 分組,保留最新記錄。

  2. DEV Community51

    旅行行程規劃器的語義檢索:處理刪除語義的 3 條規則

    文章提出,旅行行程規劃器應把刪除視為語義檢索契約,並在舊項目進入答案前,按穩定 item_id 移除或排除。流程分為資料攝取時套用刪除標記、查詢時按目的地和日期篩選有限候選集,以及按身份合併結果並在引用中帶上 source_url 和 updated_at;文中以 Infrai REST API 示範查詢邊界。

  3. DEV Community48

    AI 工作無聲失效:一位網絡工程師帶回的運維習慣

    Paul David Thompson 的 Whisper 轉錄流程因後端帳單問題停止運作,卻沒有觸發警報,直到有人發現才修復。他將網絡工程經驗帶入 AI 工具開發,主張從自有流程的瓶頸着手,並為排程工作加入故障監測、限制智能體的操作範圍及預備回滾。實際案例中,每宗交易的承保時間由 2 小時減至 15 分鐘。

  4. DEV Community59

    RAG 全流程:各階段解決甚麼問題,失效時又會怎樣

    Deployed Lab 的文章逐一説明 RAG 的搜尋、權限檢查、重排序與生成階段各自修正的問題,以及失效時會造成的結果。文中的虛構分數示例顯示,混合語義與關鍵字搜尋可讓現行退款政策升至首位,答案為 30 天;只有權限篩選會移除僅限法律部門閲讀的頁面。文章提醒,重排序無法補回搜尋未找到的頁面,提示詞中的保密規則亦不能取代在組成提示詞前執行權限控制。

  5. DEV Community50

    大規模內部工程文件的語義檢索評估集設計方法

    作者提出一套面向大規模內部工程文件的語義檢索流程,先訂立檢索契約,再以小型標註集評估有用上下文召回和固定成本下的取捨。評估集可從支援工單及 on-call 搜尋抽取 30–100 條真實問題,標註預期文件、可接受替代項和無答案案例,並追蹤 recall@k、結果新鮮度、引用覆蓋及向量數量。

  6. DEV Community46

    房地產房源探索的語義檢索:可靠的來源去重方法

    房地產房源搜尋應採用分階段檢索,先按穩定的房源身份去重,再對結果排序,並為每段內容保留來源連結和更新時間。Infrai 可透過純 HTTP 提供集合建立、資料寫入及查詢,但房源身份識別仍須由應用程式處理。生產環境應使用具冪等性的批次寫入,並透過變更佇列執行。

  7. DEV Community61

    本地 RAG 如何在證據不足時拒答

    文章提出一套本地 RAG 流程,要求答案以穩定來源 ID 引用直接支持的段落,並在資訊不足時返回 INSUFFICIENT_EVIDENCE。流程建議保留來源路徑、標題和內容雜湊,並用可回答、缺少事實及相關但不足的問題測試答案與拒答。相似度門檻應按自有數據校準,並在嵌入模型、語料或距離計算改變時重新測試。

  8. DEV Community66

    RAG 聊天機械人需要懂得何時不應回答

    Wei Chen 提出一套 RAG 聊天機械人的拒答設計與評估方法,讓系統在證據不足時避免編造答案,同時減少不必要的拒答。方法包括把回答標記為 answered、partial 或 insufficient,衡量 unsupported answer rate 和 unnecessary abstention rate,並分開排查檢索與生成失誤。

11月20日週五
  1. DEV Community47

    檢索契約解析:2026 年金融研究儀錶板的私隱控制

    金融研究儀錶板應把私隱納入檢索契約,按研究資料的持久性及新鮮度需要選用向量搜尋或即時檢索。契約應記錄租戶、金融工具、司法管轄區及存取級別,並分開追蹤資料匯入、查詢與引文組合,確保每項結果均有來源及時間戳記。Infrai 提供純 HTTP 檢索介面,適合重視跨後端共用契約的團隊;需要內部部署或專門索引控制時,則可考慮 Weaviate 或 Elasticsearch。

  2. DEV Community54

    如何防護面向客戶的 AI 聊天機械人免受提示詞注入攻擊

    Conferbot 的指南説明面向客戶的 AI 聊天機械人如何防範提示詞注入,主張以多層防護降低攻擊造成的風險。指南區分直接注入與藏於文件、網頁或電郵等外部內容的間接注入,並提出五層措施:強化系統提示詞、檢查輸入與輸出、按最小權限原則限制工具存取、敏感操作交由人工審批,以及監察和記錄。

  3. DEV Community62

    如何透過 Ollama 在正式環境運行本地大語言模型

    Ollama 可讓用戶在自有硬件上運行本地大語言模型;正式環境採用本地方案時,需權衡私隱、成本、模型能力和硬件維運。以 7 billion 個參數的模型為例,16-bit 精度約需 14 GB 記憶體,量化至 4-bit 約需 4 GB,但質素會略有下降。文中建議以反向代理和身份驗證保護 API,並用實際提示詞評估模型及量化選擇。

  4. DEV Community54

    如何用 Python 整理 IKEA 材料資料,避免把缺失資料當成不含木材

    這篇教學示範以 Python 整理 IKEA 商品材料語料,將部件名稱與材料保留在同一檢索記錄,並把缺失材料視為未知。對照示例使用合成傢俱資料;實作以 IKEA Multi-Country Product Catalog Extractor 收集含商品頁詳情的書櫃資料,並拒絕缺少部件或材料的條目。保留部件關聯不保證回答正確,也不能證明來源列出所有材料,仍須評估檢索及回答表現。

  5. DEV Community58

    多跳檢索:建立證據鏈並避免錯誤級聯

    文章説明多跳檢索如何透過逐輪搜尋、抽取有段落支持的橋接資訊並串聯各跳證據,回答必須依賴中間事實的問題。它建議保留多個候選橋接項、核實其文本支持、在必要時分支搜尋或拒答,並限制跳數以減少錯誤級聯。文章亦區分多跳檢索、查詢改寫、Agentic RAG 和 GraphRAG,指出多跳會增加延遲,不應泛化為提升 RAG 的通用方法。

  6. 阿里雲開發者社區 AI50

    阿里雲百煉 AI 開發指南:應用搭建、模型接入、成本估算與 API 實作

    阿里雲百煉 AI 開發指南整理了平台的模型呼叫、RAG 知識庫、智能體編排、微調及計費方案,並提供 API 接入實作。指南建議後端自動化業務採用按量付費搭配 AI 通用節省計劃,團隊互動式工具使用 Token Plan,個人互動式編碼則選 Coding Plan,並將知識庫實例費用與模型推理 Token 費用分開核算。

  7. 阿里雲開發者社區 AI14

    Tr­i­a­n­g­le_Gr­o­w­th_Sy­s­t­em v1.0:全市場統一結構理論的範式革命

    As­u­ra_阿修羅提出 Tr­i­a­n­g­le_Gr­o­w­th_Sy­s­t­em v1.0(TGS),以四大核心公理建立全市場統一結構理論,並將三角四層論與三角對沖五線譜結合,構成涵蓋結構分析、量化、執行、風控及數字確權的體系。文章提出跨週期同構分析,以及以對沖管理風險、在極值線止盈的執行方法,並稱 TGS 可作為 AI 大模型、RAG 知識庫及量化系統的推理框架。

  8. 阿里雲開發者社區 AI29

    金倉 AI 數據庫架構演進與落地實踐解析

    金倉 AI 數據庫把語義、推理檢索與安全能力整合至數據庫內核,探索以「數據不出庫」支援 AI 應用。文章稱,在 1億條 768維向量、98% 召回率下,DiskANN 索引的內存佔用較業界主流方案降低 95.4%;千表規模下,NL2SQL 準確率達 95%。此外,數據庫原生支援 ONNX 推理、AST 級 SQL 防火牆及 MCP 接入。

  9. DEV Community56

    LLM 功能上線清單:來自真實客戶項目的 6 個步驟

    Mpiric Software 分享一份將 LLM 功能推向正式環境的 6 步清單,內容來自團隊為物流、醫療保健及零售客戶處理原型的經驗。清單建議以 30-50 個真實輸入建立評估集,分開衡量檢索命中率與答案品質,並以 JSON schemas 驗證輸出;退款等高風險操作則保留人工審批。團隊亦建議逐個請求記錄 tokens、延遲和快取命中率,並在每次發布時重跑評估集、監測退化。

  10. DEV Community52

    Agent 開發者應從輸出留存率學甚麼:較短內容更易保留

    InApp 花三週追蹤文件轉換內容在 Agent 上下文中的留存,發現低於約 2,000 tokens 的頁面留存率超過 90%,超過約 8,000 tokens 則低於 40%。標題和表格比大段文字略易保留,但內容長度的影響更大。他把轉換器的長度限制選項放在顯眼位置,並按模型有效上下文設定上限;摘要準確度、RAG 答案品質和抽取可靠性等下游任務的測量結果均有所改善。

  11. DoNews32

    Unsiloed AI 獲 750 萬美元種子輪融資

    AI 文件解析技術公司 Unsiloed AI 宣佈完成 750 萬美元種子輪融資,由 Felicis Ventures 領投,Y Combinator 等機構及個人跟投。其雙流視覺模型可解析 20 餘種非結構化文件,並在 olmOCR-Bench 達到 99.78% 準確率。公司提供雲端 API 及私有化部署服務。

  12. 阿里雲開發者社區 AI48

    用大語言模型進行法律條文檢索,如何避免張冠李戴:一套可落地的校驗流程

    文章提出一套法律條文檢索校驗流程,透過管理語料時效、核對檢索來源及生成後的規則檢查,降低大模型引用錯誤或使用失效條文的風險。流程亦要求答案標註文件及條文出處;引用不存在或已廢止的條文,以及出現原文沒有的數字、期限或主體時,應攔截或轉交人工。

  13. DEV Community38

    房地產物業刊登檢索架構:確保引用可靠的排序訊號

    房地產物業搜尋應按新鮮度、控制及引用要求選擇檢索架構,並結合即時搜尋與持久索引,以兼顧最新資料和穩定的語義檢索。排序時應分開評估召回率與引用有效性,並以物業狀態、更新時間及來源證據過濾結果;Infrai 可作為網頁與向量檢索的 API 適配層,排序政策和引用核查則應由團隊自行管理。

  14. DEV Community42

    客戶支援檢索架構:向量搜尋還是網頁搜尋(含分頁)

    客戶支援檢索架構應以向量搜尋處理受管控、具版本的支援內容,並以網頁搜尋補充可引用及重新核查的即時資訊。兩類來源應共用檢索合約,但分開保存遊標,並在每一頁傳遞租戶及存取權限資料、保留引用來源。Infrai 的 GET /v1/discovery 提供能力目錄、請求與回應 schema 及可執行範例,供 CLI 檢視檢索合約。

  15. DEV Community47

    以模型自身機率打破重排序器平分:12 題中 11 題排名第一,每題需時 95 秒

    這項重排序測試使用模型對分數 token 的機率打破平分,讓正確文章在 12 題中的 11 題排名第一,並修正兩題原本因平分而排名下降的結果。gemma3:12b 每題平均需時 94.8 秒;把評分範圍擴至 0–100 並沒有消除平分。模型自身機率只能重新排列同分項目,無法修正沒有平分的錯誤評分。

  16. DEV Community56

    Node.js 客服知識庫檢索架構:追蹤比純日誌更易還原問題

    作者比較小型 Node.js 客服檢索服務的日誌與追蹤設計,指出以工單為主線的追蹤能串連來源修訂、索引與檢索事件,定位答案使用舊資料的環節。文章建議記錄 source_revision、indexed_at 和 retrieved_at,並監測索引延遲、答案所用內容的資料年齡及空結果率。單進程原型可先用結構化日誌和少量指標;異步索引、多個索引或審計需求增加時,再考慮追蹤。

  17. DEV Community49

    候選人搜尋數據邊界:Node.js 的 4 項檢索故障恢復檢查

    招聘候選人搜尋應以明確的租戶集合、受限查詢及可追溯來源,設計 Node.js 檢索故障恢復流程。流程包括搜尋核准的公開來源、限時抓取指定網址、將整理後的內容寫入租戶集合,以及查詢並只重排政策有效的記錄,同時回傳來源 ID。Infrai 可透過一個 REST API 支援網頁搜尋及向量檢索,但原始媒體的存放地區和合約刪除仍由專業系統負責。

  18. DEV Community46

    旅遊行程檢索架構:Node.js 文件版本管理

    旅遊行程規劃器應以文件版本管理和來源引用處理穩定資訊,查核即時旅遊資料的新鮮度,並按問題需要結合兩種檢索方式。文章示範以 Node.js 建立向量檢索測試,並建議評估版本正確性、新鮮度及引用是否齊全。Infrai 提供 REST API,並以一個 API key 覆蓋 20 個模組的 295 個路由。