跳到正文
11月7日週六
  1. Hacker News 熱門(buzzing.cc 中文翻譯)45

    Memorilla:面向大型語言模型(LLM)的潛在語義記憶

    Memorilla 是一套供凍結式 LLM 使用的記憶系統,將整個文件集中的資訊整理成固定數量、依查詢而定的記憶 token。使用 16 個記憶 token 時,它在八項基準測試中的五項勝過 Mem0 和 MemoRAG;在 FactKG 上準確率達 84.33%,高於完整上下文推理的 80.43%,而表示來源文件所需的 token 少 108 倍。

  2. 阿里雲開發者社區 AI38

    AI 智能體項目開發方法與路線

    AI 智能體項目開發涵蓋架構選型、RAG 知識庫與長期記憶、工具及 API 集成,以及人機協作。開發費用由低代碼方案的 0 元–2 萬元,到工業級私有化部署的 50 萬元–200 萬元以上不等,視項目複雜程度和部署方式而定。智能體使用的 Token 往往是普通對話機器人的 3 至 10 倍。

  3. DEV Community49

    保險索償受理檢索架構:延遲預算下的資料新鮮度合約

    這套保險索償受理檢索架構以明確的資料集、受限查詢和可追溯的來源脈絡,在各階段設定延遲上限,並把資料塊的新鮮度視為合約。檢索分為篩選、向量搜尋及重排或人工審核三個階段;若向量搜尋耗盡預算,介面會標示「needs review」。更新或刪除索償紀錄時,須同步更新或刪除向量索引,並量度來源事件至索引操作完成的時間。

  4. AWS Machine Learning Blog53

    Amazon 團隊介紹如何在 Amazon ECS Fargate 上構建無伺服器 MCP 伺服器,連接 AI 智能體與資料湖

    Amazon 團隊在 Amazon ECS Fargate 上構建無伺服器 MCP 伺服器,作為 AI 智能體連接企業資料湖的集中式閘道。新增資料集只需提供描述結構、業務背景及欄位語義的 JSON 元資料檔,索引後即可供已連接的智能體使用,伺服器則在 MCP 層集中執行存取控制。

11月6日週五
  1. DEV Community65

    RecursiveCharacterTextSplitter 如何切分文件及處理區塊重疊

    LangChain 的 RecursiveCharacterTextSplitter 先按分隔符遞進切分文字,再把片段組合成區塊;文章以 SPLIT 和 PACK 拆解這兩個交錯運作的步驟。chunk_overlap 是上限而非固定值,實際重疊取決於完整片段及切塊流程;預設分隔符末尾的空字串可讓超長片段繼續切分。文章亦示範以模型的 tokenizer 計量,並在自己的文件集檢查實際區塊大小與重疊。

  2. DEV Community62

    從 RAG 流程到 RAG 工具:構建智能體銷售知識助理

    Vignesh Athiappan 把 RAG 檢索設為 Agent 可呼叫的工具,構建銷售知識助理,結合文件內容與唯讀 CRM 資料回答問題。檢索工具由應用程式端執行,程式可強制套用分類和文件範圍等限制,Agent 每個問題最多呼叫六次工具。寫入端採用確定性流程,核對抽取內容的來源頁碼與引用,答案完成後亦會移除沒有來源的引用編號。

  3. DEV Community71

    WhatsApp AI 助理即使語氣肯定仍可能答錯:16 案例的答案依據測試

    文章提出一套供 WhatsApp 商業 AI 助理上線前使用的 16 案例答案依據測試,並配套來源清單與簡易檢查程式。案例涵蓋資料缺失或衝突、文件過期、跨語言提問及檢索內容中的惡意指令,並要求記錄答案、來源 ID、文件版本和預期處理方式。作者指出,這是合成測試設計,不代表任何供應商通過測試,也不估算真實準確率或保證安全。

  4. 阿里雲開發者社區 AI36

    支持大模型的智能客服系統推薦,讓對話更自然、回答更精準

    阿里雲瓴羊 Quick Service 結合語義理解、多模型調度、RAG 和 AI Agent,推動智能客服從理解用戶意圖到回答問題及執行任務。其 AI 問答準確率可達93%,支持多輪對話,並可調用後端系統辦理改地址、催發貨和申請退款。系統支持通義千問、百度文心、DeepSeek 等十餘款模型,以及 SaaS、私有化和混合雲部署。

  5. DEV Community54

    如何減少 AI 模型幻覺?從 RAG 檢索到答案驗證

    文章提出以分層控制減少 AI 模型幻覺的方法,涵蓋以 RAG 根據檢索段落作答、改善檢索、限制生成、驗證答案,以及信心不足時拒答或交由人工處理。建議先調整分塊、混合搜尋(BM25 加密集向量)、重排序器和 top-k,再用引用、結構化輸出及來源藴含檢查減少無根據回答,並以 golden dataset 和忠實度、答案相關性及上下文精確率指標持續監測。

  6. DEV Community58

    AI 安全從系統邊界開始:如何為完整 LLM 應用進行威脅建模

    文章主張,LLM 應用的威脅建模應涵蓋整個系統,而非只檢查模型輸出,因為風險亦可能出現在各組件邊界。作者建議梳理資料與控制路徑,將檢索內容視為不可信輸入,並由應用程式及身份權限層獨立驗證操作授權。工具應採用最小權限,配合輸出驗證、敏感資料控制、人工審批及跨組件安全測試。

  7. 阿里雲開發者社區 AI48

    2026年趨勢解讀:企業如何運用智能客服應對大模型技術變革

    大模型與 AI Agent 正推動企業智能客服由回答問題轉向完成任務,評估重點也由問答準確率擴展至任務完成率。阿里雲瓴羊 Quick Service 以模型、平台、應用三層架構及感知、理解、決策、執行四層閉環,支援訂單、物流等系統操作;官方披露其 AI 問答準確率為 93%,可自動處理 80% 以上常見問題。GB/T 47746—2026 要求人機切換時同步資料並保留人工服務通道。

  8. 阿里雲開發者社區 AI41

    語音客服機械人如何做到「像人一樣對話」:延遲、打斷與流程掛載

    語音客服機械人要做到近似真人對話,需以流式方式協同 ASR、LLM 與 TTS,並處理低延遲及用戶打斷。流式處理可把首響時間壓至 800ms 以內;SOP 宜以狀態機落實流程約束,回答前檢索企業知識。上線後可按識別準確率、任務完成率及轉人工率等指標評估,並把通話錄音轉成文本作自動質檢。

  9. 阿里雲開發者社區 AI64

    Agent 評測指標如何選、如何計算?

    本文講解 Agent 評測指標的選擇與計算,將指標分為判定、檢索、相似及行為四類,並説明各自的適用場景與常見誤區。文章指出,類別不平衡時準確率可能掩蓋漏判,應按誤報與漏報的代價選擇精確率、召回率或 F1;RAG 應分開評估檢索與生成,並為所有任務記錄 P95 時延、成本及安全違規數。最後提供拆分任務、配置指標及組成指標卡的方法。

  10. 阿里雲開發者社區 AI35

    阿里雲 2026 雙11:新手首購伺服器五步慳錢攻略及搶購技巧

    阿里雲 2026 雙11新手首購攻略整理五步慳錢方法及搶購技巧,涵蓋輕量應用伺服器、ECS、GPU 雲伺服器及大模型服務平台。輕量應用伺服器秒殺價 38 元/年,ECS 特惠價 99 元/年或 199 元/年;新用戶完成實名認證,可獲超 7000 萬免費 Tokens,有效期 90 天。活動持續至 11 月 30 日。

  11. 新浪科技61

    NVIDIA 詳解 AI 記憶體全棧協同設計:特定 Agent 工作負載每美元吞吐量最高提升30倍,HBM 容量僅增約3%

    NVIDIA 詳解 AI 記憶體全棧協同設計,稱 Vera Rubin NVL72 相較 GB300 NVL72,在特定 Agent 工作負載下每美元吞吐量最高提升30倍。在每位用戶每秒125個Token的服務速度下,單顆 GPU 的 HBM 容量僅增加約3%。其做法包括以 NVFP4 壓縮模型權重和 KV Cache、分層卸載閒置上下文,並把 RAG 向量索引放到 CPU 記憶體及儲存層級。

  12. DEV Community54

    如何為有時間限制的保險理賠受理設計檢索架構

    這篇指南為保險理賠受理設計符合延遲預算的檢索架構,目標是在來電者等待期間提供可用證據,並把整體請求限制在一秒內。建議先用 150 ms 做詞彙檢索及元資料篩選,再用 350 ms 做語義檢索和重排;逾時時返回已有的最佳引用匹配結果,不要阻塞受理流程等待第二次嘗試。詞彙與向量搜尋並行,合併後只對前 20 至 50 個候選項重排,並分開追蹤檢索品質與 p50、p95、p99 延遲。

  13. DEV Community43

    法律 AI:分析合約助理 10 項失誤後的研究生課程心得

    一項研究生課程研究分析了以 LLM 支援商業合約初步審查的助理,整理出 10 種失誤情境,並評估風險及緩解措施。案例涵蓋條款遺漏、模型幻覺、結果不一致、法律知識過時及過度自主;建議採用結構化擷取、強制引文和 Temporal RAG。助理應負責初步篩查,高風險情況須由律師審核及批准。

  14. DEV Community48

    評測集如何塑造新聞監測檢索架構:5 種做法與建置紀錄

    新聞監測服務應以評測集設計分階段檢索架構,明確劃分資料集、限制查詢範圍,並保留可供審核追溯的來源脈絡。建議先建立涵蓋一般查詢、對抗性近似結果及失敗案例的測試集,文中示例包括 200 個一般查詢和 30 個對抗性查詢。評估時分開追蹤召回率、首頁精確率及引文有效性,並比較新舊索引結果,以便審核索引變更和及早發現成本回升。