Amazon Bedrock Managed Knowledge Base 如何透過 Agentic Retrieve 建構具記憶能力的 AI 智能體
Amazon Bedrock Managed Knowledge Base 透過 memoryConfiguration 接入 AgentCore memory,處理對話還原、相關記憶搜尋及回存。
推薦理由:文章以員工助理示範結合對話記憶與知識庫檢索,並以已驗證身份及 IAM 條件分別控制文件存取和用戶記憶隔離。
Amazon Bedrock Managed Knowledge Base 透過 memoryConfiguration 接入 AgentCore memory,處理對話還原、相關記憶搜尋及回存。
推薦理由:文章以員工助理示範結合對話記憶與知識庫檢索,並以已驗證身份及 IAM 條件分別控制文件存取和用戶記憶隔離。
教程示範如何安裝和使用開源工具 Promptfoo,設定並跑通基礎 LLM、Agent 和 RAG 評測,並介紹紅隊測試的配置流程。示範環境使用智譜 GLM-5.3,內容涵蓋 CLI 命令、本地控制台,以及以 YAML 配置模型、提示詞、測試用例和斷言。
騰訊優圖實驗室研究總監、專家研究員孫星已離職。他於2016年加入騰訊優圖實驗室,早期研究醫療影像 AI,參與肺癌識別和糖尿病視網膜病變篩查研究。進入大模型時代後,他轉向多模態大模型、Agent 與 RAG,參與 Video-MME、VITA、Youtu-VL、Youtu-Agent 和 Youtu-GraphRAG 等項目。
Amazon Bedrock Managed Knowledge Base 可透過檢索指令,為不同租戶設定各自的回答語氣、格式、檢索指引及回答政策。檢索指令本身不限制可檢索的文件,需配合 metadata filter 或分開的知識庫控制租戶資料存取。文章亦示範如何固定指令版本、逐租戶推出更新,並從 Planning trace 確認回應採用的指令版本。
推薦理由:文章拆解租戶指令與 metadata filter 的分工,並示範如何固定版本、追蹤回應及逐租戶推出變更,以管理指令更新。
Amazon Bedrock Managed Knowledge Base 現已支援表格搜尋,可透過 AgenticRetrieveStream 請求結合 CSV、XLSX 或 XLS 表格計算與相關文件資訊,回答分析問題。
推薦理由:文章以財務政策、結賬備忘錄及 P&L 活頁簿示範如何結合文件規則與全表計算,並透過追蹤記錄查看程式讀取的檔案。
Edoardo Dusi 以 gzip 搭建沒有神經網絡、GPU 或模型權重的聊天示範,説明壓縮與預測可以視為同一類工作。示範使用其網站整理的 477 條問題、104 個答案及 26 KB 資料,按壓縮距離檢索相近問答,距離高於 0.45 時拒答。在 20 條測試問題中,它對 15 條有答案的問題答對 10 條,並拒絕全部 5 條沒有答案的問題;作者説這只是示範數字,並非基準測試。
Uber 的 Legal Redlining Agent 將平均合約審核時間縮短逾 20%,AI 生成決策的準確率為 91%。該 Agent 整合於 Microsoft Word,結合 RAG、律師歷史回饋及確定性規則,分析外部人士提出的條款修改、評估法律風險,並建議接受、拒絕或修改條款;律師仍負責審核和批准建議。
文章為私隱導向的個人知識管理器提出一套便於遷移的 PDF 檢索架構,透過分階段處理、明確指定資料集合、限制查詢範圍及保留來源脈絡,讓更換向量服務時毋須改寫答案層。檢索單位應包含文件、頁碼、章節、來源版本和存取範圍等中繼資料,並按新鮮度及權限篩選結果;答案須附帶來源引用。文章以 Infrai 的 REST API 作為適配器例子,並建議用具代表性的 PDF 測試召回率、引用正確度及舊版本比例。
miPDFlib 可在 .NET 服務中分析 PDF 版面並匯出 Markdown,亦可按標題切分供 RAG 使用的內容區塊,無需 Python 或原生程式庫。在 42 篇未參與欄位偵測開發的近期 arXiv 論文中,跨欄文字順序與 LaTeX 原文平均匹配率為 96.9%,完整分析約需每頁 5 ms。工具不提供 OCR,依賴啟發式版面分析,環繞圖片的雜誌排版及部分表格仍可能處理不完善。
小型團隊是否適合自託管 LLM,取決於資料是否必須留在內部、請求量是否穩定,以及工作是否需要判斷力。作者以 36 封真實財務電郵測試,託管模型正確抽取 32 封的答案,本地 4B 模型則抽取正確 13 封;兩者平均每次呼叫分別約需 2 秒和 23 秒,整個 Agent 羣組的託管 API 費用每日約五美仙,因此作者把判斷工作轉至託管 API,保留 embeddings 在本地。
Decodo 的教學示範如何用 /map API 擷取網站 Sitemap 和頁面連結,再按路徑篩選納入 RAG 的頁面。在 modelcontextprotocol.io 的例子中,361 個 URL 經篩選後剩下 57 個,對應 2026-07-28 規格版本。教學亦示範定期重新執行 /map,比對已儲存清單以找出新增和移除的頁面。
Elsevier 於 2026 年 11 月 16 日宣佈,ClinicalKey AI 現可在電子健康紀錄(EHR)工作流程中存取患者病歷,並以循證臨牀內容評估治療方案。回覆會同時附上病歷資料與臨牀證據引文;其循證內容涵蓋約 1,000 種期刊全文,患者情境功能目前僅在美國提供。臨牀醫師仍負責最終評估及治療計劃。
文章提出私有 SaaS 文件接收的路徑選擇原則:一般可在上載後驗證的文件使用瀏覽器向儲存空間作限權簽名寫入;若必須在儲存前檢查或轉換內容,則使用串流伺服器代理。
RAG 會在用戶提問時檢索相關資料片段,將它們連同問題放入提示詞,讓語言模型根據上下文生成答案。文章説明索引與查詢兩階段,涵蓋嵌入向量、分塊、向量搜尋,以及混合搜尋、重排和查詢改寫等改進方法。文中亦整理檢索失誤、過時資料與權限洩漏等風險,並建議分開評估檢索和答案質素,以小型測試集比較改動。
Rajni Walia 的文章整理 5 類一般 API 監控難以捕捉的 AI 智能體失效,指出 200 OK 不代表決策正確或任務已完成。文章建議在應用程式層驗證業務規則、資料時效、授權和交易狀態,並為不確定或例外情況設置人工升級。文章亦提出追蹤任務完成及經核實的問題解決率等結果指標,並測試逾時、資料衝突與重試等情境。
作者團隊檢視 AI 寫作助手的 LLM API 開支,六週內將月費由 $9,580 降至 $1,700,減幅 82%,且沒有更改提示詞或用戶體驗。七項問題包括所有請求均使用 GPT-4、429 錯誤重試過多、上下文過長、串流未取消、重複查詢未快取、缺乏監測,以及綁定單一供應商。修正後,平均回應時間由 2.8s 降至 1.9s,錯誤率由 7.2% 降至 0.8%,用戶滿意度沒有可測量的變化。
WeekendAiProjects 測試 Hearth 家用助理,發現 FFmpeg 解析音訊時可能開啟網絡連線,而 Python 網絡記錄看不到這些編譯程式碼發出的連線。他們改為按 MIME 類型或副檔名指定音訊格式,並以應用程式記錄、作業系統連線檢查及拔除網絡等方式交叉驗證本機運行。文章亦指出,提示詞措辭無法可靠阻止文件中的植入指令,小模型環境下應在程式碼層過濾相關句子。
文章提供一套客服聊天機械人的 30 題回歸測試方案,配有 YAML 測試案例及約 60 行 Python 執行器,可逐題檢查答案。測試涵蓋常見支援意圖、必須準確的事實、拒答或轉交、範圍外問題,以及近期更新的內容;檢查包括必須包含及不得包含的字串。文章建議在提示詞、知識庫或模型變更時及每晚執行,並每週抽查對話,把錯誤答案加入測試。
作者提出一套 Python 方法,檢查 RAG Agent 的引文是否出現在指定來源中,並先做精確比對,再以 RapidFuzz 模糊比對。方法會正規化文本、拒絕過短引文或未知來源,並要求引文與匹配文本中的數字一致;驗證失敗時可重試一次,仍失敗則交由人工審核。這項檢查只能確認引文存在,不能證明主張由引文支持。
文章説明如何整理軟件設計文件,讓 Coding Agent 理解項目架構、遵循技術約束,並維持文件與程式碼一致。做法涵蓋模組設計、API 契約、數據模型和 ADR,並以 AGENTS.md、版本管理及程式碼 Review 串連需求、設計、程式碼和測試;BaseMetas 雲文檔的離職成員文件交接僅為示例,不代表產品現有的實際程式碼或文件目錄。
react-native-ultrastore 推出 v3.1.0,以 MMKV v4 和 Nitro Modules 建構零依賴、同步的 JSI runtime,整合儲存、響應式狀態、裝置端向量搜尋及 LLM 串流快取。套件大小為 36.1 kB,支援約 50k 個向量的本機搜尋,並包括 42 項生命週期測試。
藍凌 aiKM 透過知識治理和多場景應用,將企業靜態文檔庫轉為可供大模型和智能體調用的知識資產。平台以 SIGTT 方法治理多源知識,並提供智能搜索、問答及知識庫聯動智能體等能力。招商局集團以平台管理 250萬+篇語料及 31萬+條問答對。
阿里雲瓴羊 Quick Service 以「模型—平台—應用」三層架構配合「感知—理解—決策—執行」四層閉環,涵蓋多模型調度、RAG、AI Agent、人機協同及智能質檢。系統可透過 API 連接訂單、物流等後端系統,在對話中完成業務操作;AI 問答準確率可達 93%,複雜業務處理時長可縮短約 60%。文章亦列出高並發、安全合規及多種部署模式等企業級建設要求。
文章指出,團隊將 LLM Wiki 用於共享資料時,知識編譯可能抹平不同來源的權限差異,令受限資訊出現在更廣泛可讀的頁面。作者建議每頁的可讀範圍不得廣於來源權限的交集,並記錄來源及 ACL,方便在來源權限變更後重編譯或隔離相關頁面。高敏感或無法按受眾拆分的內容應採用按用戶權限篩選的即時檢索,並以低權限帳戶測試答案、摘要、引用及儲存輸出是否洩漏。
Node.js 個人知識管理系統應以私有向量索引保存長期筆記,只在明確要求最新資訊時加入即時網頁檢索,並把存取規則與引用納入檢索契約。Infrai 的平台提供 20 個模組、295 條路由,可作為混合式架構中的整合選項。向量資料庫只能排列候選結果,服務仍須在生成答案前執行存取判斷;引用失效時應拒絕輸出。
餐廳菜單檢索應採用分階段流程:先搜尋新鮮來源,再查詢有界集合,最後只對少量候選結果重排序。新鮮度政策要能重新索引已更改的菜單內容、移除已刪除的記錄,並在答案中保留來源脈絡;例如菜單頁面可視作在 15 分鐘內維持最新。Infrai 以單一 REST API 提供網頁搜尋和向量操作;若需要深度調校排名或全代管搜尋控制平面,專門服務會是較佳選擇。
秋招補錄期間,求職者應避開已招滿或招聘資訊可疑的測試崗,優先留意年底新增編制、業務線獨立補錄及仍有招聘名額的 AI 測試/測開團隊。AI 測試職位可能以「算法評測」或「質量效能」等名稱招聘,搜尋時應拓展關鍵詞並核實 HC 來源、招聘渠道和麪試流程。簡歷應突出實際處理問題的經驗,並準備可説明的 AI 測試項目。
阿里雲瓴羊 Quick Service 面向客服場景,讓業務人員無需編寫程式碼或依賴技術團隊,便可配置流程、接入渠道及更新知識庫。SaaS 版最快 1 天可上線,知識庫更新生效延遲小於 5 分鐘;AI 問答準確率達 93%,可自動處理 80% 以上常見問題。
企業選擇智能客服系統,評估重點正由答得準轉向能否透過 AI Agent 調用後端系統,在對話內完成業務操作。阿里雲瓴羊 Quick Service 問答準確率達93%,可處理查物流、改地址及申請退款等流程,複雜業務處理時長可縮短60%。企業應按自身客服諮詢結構,評估業務執行、多輪對話、知識供給、全渠道一致性及人機交接。
金融研究儀錶板的檢索架構應設定明確的資料集合、查詢範圍及可追溯的來源脈絡,並分別記錄載入、檢索和引用資訊。遇到 HTTP 429 時,重試應保留相同集合、篩選條件、查詢內容及關聯識別資料,不應擴大搜尋範圍或移除篩選條件。Infrai 在一個金鑰下提供 295 條路由、涵蓋 20 個模組,可用於向量查詢階段,但不會替團隊決定分塊大小、新鮮度政策或評估資料。
作者以 TypeScript 和 Vercel AI SDK 構建一個回答新西蘭税務問題的 RAG 智能體,配備一個模型、三個法例資料庫工具及循環式工具調用。在 54 個答案的測試中,智能體得分由 0.582 升至 0.729,自信但錯誤的回答由 5 次降至 0 次。作者建議每次只改動一項設定並重複評測,以分辨改進與分數波動,亦為每個答案設定輪數、時間和費用上限。
作者以本機 CPU 搭建 RAG 實驗,展示檢索未命中時模型會從不相關上下文拼湊看似合理的答案,並以檢索閾值和拒答提示詞設置兩道防線。實驗使用 bge-small-zh-v1.5 檢索及 Qwen2.5-0.5B-Instruct 本地推理,庫外問題最高相似度為 0.519,設定 0.55 閾值後被攔截;庫內問題得分 0.877,正常作答不受影響。
文章提供排查 Node.js 部署後向量集合「找不到」錯誤的方法,將問題視為集合識別不一致,而非檢索品質問題。做法是以同一純函數解析環境專屬集合名稱,在啟動時確認集合存在,並於檢查失敗時阻止服務就緒及批次匯入。文章亦建議在匯入及搜尋事件記錄相同的集合與 release 資訊,並在發布前核對匯入數量、抽樣讀取及引用資料。
Alejandro Robledo 發佈了 Apify 工具 Substack Scraper - Markdown Posts, Search & Comments,可透過 Substack 公開 JSON API 將文章匯出為供 RAG 使用的 Markdown,無需無頭瀏覽器。
開發者更新日誌追蹤器應以租戶範圍的向量索引檢索產品更新日誌,只在明確需要即時資訊時加入網頁搜尋,並以同一檢索合約區分兩條路徑。查詢須在排序前帶上租戶範圍,網頁結果則標示為即時內容並附上連結及檢索時間。文章亦比較多種向量檢索方案,並建議透過評估集、內容雜湊及可安全重試的索引流程控制品質與成本。
物流報告應按檔案大小選用預簽名 PUT 或預簽名 multipart 上傳,需要表單政策時則採用 POST,並以應用程式記錄管理留存。流程需先驗證客戶並建立包含留存期限及狀態的報告記錄,確認物件有效後才交由 RAG 流程處理;清理工作程序則按規則刪除未完成、遭拒或到期的物件。
文章示範以夜間 Cron 同步已更改的 PDF,先刪除舊向量再寫入替代區塊,並在整批成功後才更新持久化的上次成功時間。若寫入失敗,流程保留原有時間標記,讓下次執行再次處理該文件;穩定來源 ID 則用來關聯同一 PDF 的所有區塊。Go 範例會記錄選取文件數(包括 0),並透過 Infrai 的 discovery endpoint 核對所需向量路徑,但不臆測刪除與 upsert 的請求欄位。
Ocean Coldiron 分享一套在 RAG 系統接觸醫療資料前的評估方法,主張不能以回答流暢作為系統可用的證據。方法包括建立涵蓋應答、拒答及引用要求的版本化問題集,分開評估檢索結果與答案忠實度,並在提示詞、模型等變更後重跑回歸測試。他亦建議記錄檢索內容與工具調用軌跡而不保存敏感資料,並對可能影響現實行動的答案保留人工審核。
旅遊行程規劃器可採用分階段檢索設計,快取正規化檢索輸入及來源文件,而非最終行程,並讓查詢與重排序階段可替換。快取鍵應由標準化查詢、篩選條件、檢索單位版本及新鮮度政策組成,並可按來源 ID 和 collection 版本處理失效。作者把 Infrai 列為需要統一 REST API 及相鄰後端能力時的選項,並指出重視向量專用控制、混合查詢或深度索引調校時,專門服務可能更合適。
五個 Apify Actor 以 7 個烏克蘭語檔案進行測試,只有 ai_admin/document-to-markdown 全部處理正確。它在兩張無表格線的發票掃描件中,均準確還原 30 個儲存格;七個檔案的測試費用為 $0.019,耗時 11 秒。