跳到正文
11月17日週二
  1. DoNews38

    騰訊優圖實驗室研究總監孫星離職

    騰訊優圖實驗室研究總監、專家研究員孫星已離職。他於2016年加入騰訊優圖實驗室,早期研究醫療影像 AI,參與肺癌識別和糖尿病視網膜病變篩查研究。進入大模型時代後,他轉向多模態大模型、Agent 與 RAG,參與 Video-MME、VITA、Youtu-VL、Youtu-Agent 和 Youtu-GraphRAG 等項目。

  2. AWS Machine Learning Blog64

    Amazon Bedrock Managed Knowledge Base 如何按租戶自訂回答

    Amazon Bedrock Managed Knowledge Base 可透過檢索指令,為不同租戶設定各自的回答語氣、格式、檢索指引及回答政策。檢索指令本身不限制可檢索的文件,需配合 metadata filter 或分開的知識庫控制租戶資料存取。文章亦示範如何固定指令版本、逐租戶推出更新,並從 Planning trace 確認回應採用的指令版本。

    推薦理由:文章拆解租戶指令與 metadata filter 的分工,並示範如何固定版本、追蹤回應及逐租戶推出變更,以管理指令更新。

  3. AWS Machine Learning Blog69

    Amazon Bedrock Managed Knowledge Base 支援表格搜尋

    Amazon Bedrock Managed Knowledge Base 現已支援表格搜尋,可透過 AgenticRetrieveStream 請求結合 CSV、XLSX 或 XLS 表格計算與相關文件資訊,回答分析問題。

    推薦理由:文章以財務政策、結賬備忘錄及 P&L 活頁簿示範如何結合文件規則與全表計算,並透過追蹤記錄查看程式讀取的檔案。

11月16日週一
  1. DEV Community61

    大語言模型是壓縮器:Edoardo Dusi 用 gzip 示範聊天機制

    Edoardo Dusi 以 gzip 搭建沒有神經網絡、GPU 或模型權重的聊天示範,説明壓縮與預測可以視為同一類工作。示範使用其網站整理的 477 條問題、104 個答案及 26 KB 資料,按壓縮距離檢索相近問答,距離高於 0.45 時拒答。在 20 條測試問題中,它對 15 條有答案的問題答對 10 條,並拒絕全部 5 條沒有答案的問題;作者説這只是示範數字,並非基準測試。

  2. DEV Community55

    私隱 PDF 檢索的分塊邊界:一套便於遷移的架構

    文章為私隱導向的個人知識管理器提出一套便於遷移的 PDF 檢索架構,透過分階段處理、明確指定資料集合、限制查詢範圍及保留來源脈絡,讓更換向量服務時毋須改寫答案層。檢索單位應包含文件、頁碼、章節、來源版本和存取範圍等中繼資料,並按新鮮度及權限篩選結果;答案須附帶來源引用。文章以 Infrai 的 REST API 作為適配器例子,並建議用具代表性的 PDF 測試召回率、引用正確度及舊版本比例。

  3. DEV Community56

    miPDFlib 如何在 .NET 服務中將 PDF 轉成供大語言模型流程使用的 Markdown,免用 Python 和原生程式庫

    miPDFlib 可在 .NET 服務中分析 PDF 版面並匯出 Markdown,亦可按標題切分供 RAG 使用的內容區塊,無需 Python 或原生程式庫。在 42 篇未參與欄位偵測開發的近期 arXiv 論文中,跨欄文字順序與 LaTeX 原文平均匹配率為 96.9%,完整分析約需每頁 5 ms。工具不提供 OCR,依賴啟發式版面分析,環繞圖片的雜誌排版及部分表格仍可能處理不完善。

  4. DEV Community64

    小型團隊何時值得自託管 LLM:成本、硬件與任務取捨

    小型團隊是否適合自託管 LLM,取決於資料是否必須留在內部、請求量是否穩定,以及工作是否需要判斷力。作者以 36 封真實財務電郵測試,託管模型正確抽取 32 封的答案,本地 4B 模型則抽取正確 13 封;兩者平均每次呼叫分別約需 2 秒和 23 秒,整個 Agent 羣組的託管 API 費用每日約五美仙,因此作者把判斷工作轉至託管 API,保留 embeddings 在本地。

  5. DEV Community61

    Decodo 的 /map API 如何列出網站頁面

    Decodo 的教學示範如何用 /map API 擷取網站 Sitemap 和頁面連結,再按路徑篩選納入 RAG 的頁面。在 modelcontextprotocol.io 的例子中,361 個 URL 經篩選後剩下 57 個,對應 2026-07-28 規格版本。教學亦示範定期重新執行 /map,比對已儲存清單以找出新增和移除的頁面。

  6. Unite.AI59

    Elsevier 將患者病歷情境整合至 ClinicalKey AI

    Elsevier 於 2026 年 11 月 16 日宣佈,ClinicalKey AI 現可在電子健康紀錄(EHR)工作流程中存取患者病歷,並以循證臨牀內容評估治療方案。回覆會同時附上病歷資料與臨牀證據引文;其循證內容涵蓋約 1,000 種期刊全文,患者情境功能目前僅在美國提供。臨牀醫師仍負責最終評估及治療計劃。

  7. DEV Community62

    RAG 如何運作:嵌入向量、向量搜尋,以及 AI 應用為何需要檢索

    RAG 會在用戶提問時檢索相關資料片段,將它們連同問題放入提示詞,讓語言模型根據上下文生成答案。文章説明索引與查詢兩階段,涵蓋嵌入向量、分塊、向量搜尋,以及混合搜尋、重排和查詢改寫等改進方法。文中亦整理檢索失誤、過時資料與權限洩漏等風險,並建議分開評估檢索和答案質素,以小型測試集比較改動。

  8. DEV Community65

    AI 智能體錯誤處理:200 OK 無法捕捉的 5 類失效

    Rajni Walia 的文章整理 5 類一般 API 監控難以捕捉的 AI 智能體失效,指出 200 OK 不代表決策正確或任務已完成。文章建議在應用程式層驗證業務規則、資料時效、授權和交易狀態,並為不確定或例外情況設置人工升級。文章亦提出追蹤任務完成及經核實的問題解決率等結果指標,並測試逾時、資料衝突與重試等情境。

  9. DEV Community61

    作者團隊一個月浪費 $9,500 LLM API 費用,分享導致超支的 7 個錯誤

    作者團隊檢視 AI 寫作助手的 LLM API 開支,六週內將月費由 $9,580 降至 $1,700,減幅 82%,且沒有更改提示詞或用戶體驗。七項問題包括所有請求均使用 GPT-4、429 錯誤重試過多、上下文過長、串流未取消、重複查詢未快取、缺乏監測,以及綁定單一供應商。修正後,平均回應時間由 2.8s 降至 1.9s,錯誤率由 7.2% 降至 0.8%,用戶滿意度沒有可測量的變化。

  10. DEV Community71

    Hearth 以 Ollama 運行的家用 AI 助理測試資料是否離開電腦,發現 Python 記錄漏掉 FFmpeg 連線

    WeekendAiProjects 測試 Hearth 家用助理,發現 FFmpeg 解析音訊時可能開啟網絡連線,而 Python 網絡記錄看不到這些編譯程式碼發出的連線。他們改為按 MIME 類型或副檔名指定音訊格式,並以應用程式記錄、作業系統連線檢查及拔除網絡等方式交叉驗證本機運行。文章亦指出,提示詞措辭無法可靠阻止文件中的植入指令,小模型環境下應在程式碼層過濾相關句子。

  11. DEV Community63

    客服聊天機械人如何建立 30 題回歸測試套件,並以 Python 執行器檢查答案

    文章提供一套客服聊天機械人的 30 題回歸測試方案,配有 YAML 測試案例及約 60 行 Python 執行器,可逐題檢查答案。測試涵蓋常見支援意圖、必須準確的事實、拒答或轉交、範圍外問題,以及近期更新的內容;檢查包括必須包含及不得包含的字串。文章建議在提示詞、知識庫或模型變更時及每晚執行,並每週抽查對話,把錯誤答案加入測試。

  12. DEV Community66

    如何檢查 RAG Agent 引文是否確實出自引用來源

    作者提出一套 Python 方法,檢查 RAG Agent 的引文是否出現在指定來源中,並先做精確比對,再以 RapidFuzz 模糊比對。方法會正規化文本、拒絕過短引文或未知來源,並要求引文與匹配文本中的數字一致;驗證失敗時可重試一次,仍失敗則交由人工審核。這項檢查只能確認引文存在,不能證明主張由引文支持。

  13. 阿里雲開發者社區 AI58

    AI 時代如何管理軟件設計文件,讓 Coding Agent 理解架構並維持程式碼一致性

    文章説明如何整理軟件設計文件,讓 Coding Agent 理解項目架構、遵循技術約束,並維持文件與程式碼一致。做法涵蓋模組設計、API 契約、數據模型和 ADR,並以 AGENTS.md、版本管理及程式碼 Review 串連需求、設計、程式碼和測試;BaseMetas 雲文檔的離職成員文件交接僅為示例,不代表產品現有的實際程式碼或文件目錄。

  14. 阿里雲開發者社區 AI31

    附架構圖:企業級智能客服建設方案應包含哪些核心模組?

    阿里雲瓴羊 Quick Service 以「模型—平台—應用」三層架構配合「感知—理解—決策—執行」四層閉環,涵蓋多模型調度、RAG、AI Agent、人機協同及智能質檢。系統可透過 API 連接訂單、物流等後端系統,在對話中完成業務操作;AI 問答準確率可達 93%,複雜業務處理時長可縮短約 60%。文章亦列出高並發、安全合規及多種部署模式等企業級建設要求。

  15. DEV Community67

    團隊使用 LLM Wiki 前,先設計好權限,避免知識編譯抹平存取控制

    文章指出,團隊將 LLM Wiki 用於共享資料時,知識編譯可能抹平不同來源的權限差異,令受限資訊出現在更廣泛可讀的頁面。作者建議每頁的可讀範圍不得廣於來源權限的交集,並記錄來源及 ACL,方便在來源權限變更後重編譯或隔離相關頁面。高敏感或無法按受眾拆分的內容應採用按用戶權限篩選的即時檢索,並以低權限帳戶測試答案、摘要、引用及儲存輸出是否洩漏。

  16. DEV Community48

    Node.js 為注重私隱的知識管理器提供引用控制檢索

    Node.js 個人知識管理系統應以私有向量索引保存長期筆記,只在明確要求最新資訊時加入即時網頁檢索,並把存取規則與引用納入檢索契約。Infrai 的平台提供 20 個模組、295 條路由,可作為混合式架構中的整合選項。向量資料庫只能排列候選結果,服務仍須在生成答案前執行存取判斷;引用失效時應拒絕輸出。

  17. DEV Community48

    2026 餐廳菜單檢索架構:新鮮度窗口與重排序取捨

    餐廳菜單檢索應採用分階段流程:先搜尋新鮮來源,再查詢有界集合,最後只對少量候選結果重排序。新鮮度政策要能重新索引已更改的菜單內容、移除已刪除的記錄,並在答案中保留來源脈絡;例如菜單頁面可視作在 15 分鐘內維持最新。Infrai 以單一 REST API 提供網頁搜尋和向量操作;若需要深度調校排名或全代管搜尋控制平面,專門服務會是較佳選擇。

  18. 阿里雲開發者社區 AI37

    秋招補錄測試崗怎麼投:避開「已招滿」的假職位,鎖定三類真正在招人的團隊

    秋招補錄期間,求職者應避開已招滿或招聘資訊可疑的測試崗,優先留意年底新增編制、業務線獨立補錄及仍有招聘名額的 AI 測試/測開團隊。AI 測試職位可能以「算法評測」或「質量效能」等名稱招聘,搜尋時應拓展關鍵詞並核實 HC 來源、招聘渠道和麪試流程。簡歷應突出實際處理問題的經驗,並準備可説明的 AI 測試項目。

  19. 阿里雲開發者社區 AI41

    數碼轉型必讀:企業如何選擇合適的智能客服系統?

    企業選擇智能客服系統,評估重點正由答得準轉向能否透過 AI Agent 調用後端系統,在對話內完成業務操作。阿里雲瓴羊 Quick Service 問答準確率達93%,可處理查物流、改地址及申請退款等流程,複雜業務處理時長可縮短60%。企業應按自身客服諮詢結構,評估業務執行、多輪對話、知識供給、全渠道一致性及人機交接。

  20. DEV Community46

    金融研究儀錶板的有界查詢指南

    金融研究儀錶板的檢索架構應設定明確的資料集合、查詢範圍及可追溯的來源脈絡,並分別記錄載入、檢索和引用資訊。遇到 HTTP 429 時,重試應保留相同集合、篩選條件、查詢內容及關聯識別資料,不應擴大搜尋範圍或移除篩選條件。Infrai 在一個金鑰下提供 295 條路由、涵蓋 20 個模組,可用於向量查詢階段,但不會替團隊決定分塊大小、新鮮度政策或評估資料。

  21. DEV Community72

    如何構建可用於正式環境的 RAG 智能體:第二部分

    作者以 TypeScript 和 Vercel AI SDK 構建一個回答新西蘭税務問題的 RAG 智能體,配備一個模型、三個法例資料庫工具及循環式工具調用。在 54 個答案的測試中,智能體得分由 0.582 升至 0.729,自信但錯誤的回答由 5 次降至 0 次。作者建議每次只改動一項設定並重複評測,以分辨改進與分數波動,亦為每個答案設定輪數、時間和費用上限。

  22. 阿里雲開發者社區 AI55

    RAG 檢索未命中時,如何用閾值與拒答機制攔截模型編造答案

    作者以本機 CPU 搭建 RAG 實驗,展示檢索未命中時模型會從不相關上下文拼湊看似合理的答案,並以檢索閾值和拒答提示詞設置兩道防線。實驗使用 bge-small-zh-v1.5 檢索及 Qwen2.5-0.5B-Instruct 本地推理,庫外問題最高相似度為 0.519,設定 0.55 閾值後被攔截;庫內問題得分 0.877,正常作答不受影響。

  23. DEV Community55

    Node.js 部署後如何修復市場遙測中的向量集合錯誤

    文章提供排查 Node.js 部署後向量集合「找不到」錯誤的方法,將問題視為集合識別不一致,而非檢索品質問題。做法是以同一純函數解析環境專屬集合名稱,在啟動時確認集合存在,並於檢查失敗時阻止服務就緒及批次匯入。文章亦建議在匯入及搜尋事件記錄相同的集合與 release 資訊,並在發布前核對匯入數量、抽樣讀取及引用資料。

  24. DEV Community48

    開發者更新日誌追蹤器的租戶隔離檢索設計

    開發者更新日誌追蹤器應以租戶範圍的向量索引檢索產品更新日誌,只在明確需要即時資訊時加入網頁搜尋,並以同一檢索合約區分兩條路徑。查詢須在排序前帶上租戶範圍,網頁結果則標示為即時內容並附上連結及檢索時間。文章亦比較多種向量檢索方案,並建議透過評估集、內容雜湊及可安全重試的索引流程控制品質與成本。

  25. DEV Community62

    物流報告留存:以預簽名上傳由瀏覽器直傳物件儲存

    物流報告應按檔案大小選用預簽名 PUT 或預簽名 multipart 上傳,需要表單政策時則採用 POST,並以應用程式記錄管理留存。流程需先驗證客戶並建立包含留存期限及狀態的報告記錄,確認物件有效後才交由 RAG 流程處理;清理工作程序則按規則刪除未完成、遭拒或到期的物件。

  26. DEV Community55

    向量索引如何保持最新:以夜間 Cron 重新索引已更改的 PDF

    文章示範以夜間 Cron 同步已更改的 PDF,先刪除舊向量再寫入替代區塊,並在整批成功後才更新持久化的上次成功時間。若寫入失敗,流程保留原有時間標記,讓下次執行再次處理該文件;穩定來源 ID 則用來關聯同一 PDF 的所有區塊。Go 範例會記錄選取文件數(包括 0),並透過 Infrai 的 discovery endpoint 核對所需向量路徑,但不臆測刪除與 upsert 的請求欄位。

  27. DEV Community55

    Ocean Coldiron 如何在 RAG 系統接觸醫療資料前進行評估

    Ocean Coldiron 分享一套在 RAG 系統接觸醫療資料前的評估方法,主張不能以回答流暢作為系統可用的證據。方法包括建立涵蓋應答、拒答及引用要求的版本化問題集,分開評估檢索結果與答案忠實度,並在提示詞、模型等變更後重跑回歸測試。他亦建議記錄檢索內容與工具調用軌跡而不保存敏感資料,並對可能影響現實行動的答案保留人工審核。

  28. DEV Community56

    旅遊行程規劃器如何快取檢索資料並避免供應商綁定

    旅遊行程規劃器可採用分階段檢索設計,快取正規化檢索輸入及來源文件,而非最終行程,並讓查詢與重排序階段可替換。快取鍵應由標準化查詢、篩選條件、檢索單位版本及新鮮度政策組成,並可按來源 ID 和 collection 版本處理失效。作者把 Infrai 列為需要統一 REST API 及相鄰後端能力時的選項,並指出重視向量專用控制、混合查詢或深度索引調校時,專門服務可能更合適。