跳到正文
11月12日週四
  1. 阿里雲開發者社區 AI40

    數據治理與 AI 應用協同:企業數據底座如何支撐智能問數與 Data Agent

    企業 AI 應用由演示走向生產,智能問數、Data Agent 等五類應用需要數據底座持續供應經授權、可解釋、可追溯的數據。這些應用共用穩定連接、統一語義、數據質量與血緣、權限審計等基礎能力。FineDataLink 5.0 以一體化鏈路支援數據集成、治理與運維,但不取代湖倉、模型平台或業務系統。

  2. 阿里雲開發者社區 AI35

    數據倉庫、數據湖、湖倉一體、語義層、Ontology、知識庫與 Data Agent:一次講透

    企業數據架構中的數據倉庫、數據湖、湖倉一體、語義層、Ontology、知識庫及 Data Agent,分屬數據底座、業務理解、企業知識和智能執行四層。數據底座負責數據的儲存與加工,語義層統一業務指標,Ontology 描述業務對象和關係,知識庫保存企業文檔與經驗。Data Agent 調用前述能力,分析和驗證問題,再推進後續任務。

  3. DEV Community65

    AI 客服聊天機械人每段對話的實際成本如何計算

    文章拆解 AI 客服聊天機械人的每段對話成本,指出生成是主要 AI 開支,而 RAG 答案的輸入 token 通常比輸出 token帶來更多成本。典型 RAG 訊息約用 4,500 個輸入 token 和 200 個輸出 token,可按對話輪數及供應商現行每百萬 token 價格估算成本。控制開支的方法包括提示詞快取、減少檢索區塊,以及按工作選用較便宜的模型;評估時亦應計算每宗已解決對話的成本。

  4. DEV Community59

    法律合約工作區搜尋解説:Go 中如何設計受控證據回退

    文章提出法律合約工作區的分階段檢索回退設計,要求每次查詢預先限定文件集合、租戶與存取範圍、結果上限及引文欄位,且回退不得放寬權限或丟失來源資訊。空的合資格結果可進入下一階段,403 則必須停止;所有階段都找不到合資格內容時,應回覆現有合約資料不足以支持答案,而非要求模型補答。文中附有 Go 程式示例,並建議以代表性合約、無權限文件和無支持條款的案例,逐階段檢查召回率、精確率及引文可追溯性。

  5. 新浪科技21

    傲融雲客大模型智能客服加速落地,助企業服務降本增效提質

    傲融雲客的大模型智能客服加速應用於企業服務,透過文字及電話語音渠道承接售前、售中和售後服務,協助企業降低成本、提升效率及服務質素。系統支援企業專有 RAG 知識庫、API 對接及通義千問、DeepSeek、豆包等模型選配。約 80% 的線上諮詢可由大模型獨立接待,系統亦可按需要轉接人工客服。

  6. 阿里雲開發者社區 AI59

    用 Java 接入大模型(十八):把 RAG 接入既有 Java 服務

    這篇 Java RAG 教程説明如何把 RAG 穩定接入既有 Java 服務,並處理快取、增量更新、多租戶隔離、效能和可觀測性。快取鍵須納入租戶或權限維度,權限過濾應放在檢索層,文件更新則須刪除舊區塊;切分策略或 embedding 模型改變時要全量重建。文章亦建議拆分各環節耗時、設定獨立超時與降級,並記錄查詢、命中區塊及降級路徑。

  7. DEV Community57

    Day 19/90:AI 智能體何時應該要求澄清?

    文章提出,若未解決的資訊會實質改變答案或行動,AI 智能體便應先要求澄清。文中整理 CLAM、CAmbigNQ 和 CLAMBER 等研究,指出辨識歧義、生成澄清問題及根據回覆完成任務是不同能力,並建議分別評估追問必要性、問題效用和未釐清前執行的情況。

  8. DEV Community54

    如何在法律合約審查工作區構建租戶隔離的有界檢索管線

    作者提出一套法律合約審查工作區的有界檢索設計,以明確集合、租戶及存取控制中繼資料限制查詢範圍,並保留可追溯的文件來源。實作上,應由可信任的應用程式選定已授權集合,再核對返回文件的租戶、存取權限及來源識別碼;文中亦建議以跨租戶模板和無權存取文件測試拒絕邊界。

  9. DEV Community56

    RAG 搜尋相關 ADR,索引判定決策是否仍有效

    作者展示如何分工 RAG 與索引,由 RAG 搜尋相關 ADR,索引則判定決策是否仍有效,並為被取代的紀錄加上狀態標記。兩筆同題 ADR 的相似度分別為 0.726 和 0.713,差距僅 0.013,分數本身無法顯示哪項決策仍生效。索引每次按固定規則重建 ADR 狀態,標記被取代紀錄及其後續決策;AI 需要現行規則時則可直接查詢索引。

  10. DEV Community52

    多租戶 SaaS 支援中心的檢索架構:可替換的分頁設計

    文章為多租戶 SaaS 支援中心提出分階段檢索架構,以明確集合、有界分頁及可跨供應商保留的來源上下文,讓檢索適配器可以替換。應用程式自有契約保存 tenant_id、collection、cursor 和 as_of,檢索先做詞彙搜尋,再查租戶範圍內的向量集合,並限制最多兩頁;結果保留來源 URL、修訂版本及區塊位置。

  11. 阿里雲開發者社區 AI44

    DeepSeek Harness 10 款插件指南:打造 AI 效率工作台

    DeepSeek Harness 提供 10 款插件,涵蓋跨會話記憶、文件解析、視覺辨識、模型切換、搜尋、費用監控及登入憑證刷新等功能,將聊天工具擴展為可配置的 AI 工作台。文章亦説明插件安裝、部署和模型接入方式,並提醒用戶留意版本要求、插件來源及敏感資料處理。

  12. DEV Community35

    aiFetchly 的本地知識庫如何以私密記憶協助小型團隊處理客戶工作

    aiFetchly 是一款開源、以本地為先的桌面 AI 智能體,透過團隊文件建立本地知識庫,協助小型團隊處理客戶工作。智能體可參考過往電郵、報價及客戶偏好,草擬回覆、查找文件,並由團隊在發送前審核。aiFetchly 提供免費 Community 方案,Go、Plus 和 Pro 分別為每月 $5、$10 和 $30;AI Content Assistant 僅供 Plus 使用。

  13. DEV Community46

    微調與上下文學習有何分別?

    上下文學習在提示詞加入指示和例子,不改動模型權重;微調則透過例子訓練模型並更新參數,令格式、語氣或特定任務的表現更一致。上下文學習方便即時修改,但每次請求都要處理額外提示詞 token,且受上下文窗口限制;微調則需要準備數據、訓練、評估及重新部署。對於經常變動的資訊,檢索較合適,因為更新資訊來源無需重新訓練。

  14. DEV Community56

    私隱導向個人知識管理器的 Python 檢索架構:四階段調校相關性

    文章提出一套面向私隱導向個人知識管理器的 Python 檢索架構,以四階段流程調校相關性並控制索引成本。流程先套用存取規則和 metadata 篩選,再分別進行 BM25 稀疏檢索與 dense 檢索,融合排名後只重排窄候選集。作者建議用固定的私有評測集同步衡量召回率、精確率、延遲和儲存量,並按漏失類型決定調整方向。

  15. DEV Community56

    法律合約審閲的檢索架構:為何兼用索引式與即時檢索

    作者建議法律合約審閲採用混合檢索架構,讓穩定條款走索引式路徑、會變動的資訊走即時路徑,並要求檢索結果保留租戶及存取權限資料和可追溯引文。檢索時應先按呼叫者權限限制候選內容,再統一兩路結果的介面;並以實際合約及已標註問題測試整體答案的召回率、精確率和引文。

  16. AWS Machine Learning Blog57

    AWS 介紹可重用資產如何加快生成式 AI 交付

    AWS 介紹其自 2023 年起發布的 23 個開源生成式 AI 可重用資產,並示範如何選用、評估及部署 Contact Center GenAI Agent。示範流程包括部署兩個 AWS CloudFormation 範本及整合 Amazon Connect,需時不到一小時。Ricoh 案例中,每次部署的工程工時由 80 小時降至不足 5 小時。

  17. DEV Community53

    保險索償受理的檢索架構:以 Node.js 解説刪除語義

    保險索償受理的檢索架構應採用明確集合、受限查詢和可追溯來源,並將刪除視為索引事件,避免已撤回或失效的文件繼續成為回答依據。文章以 Infrai 的 REST API 示範 Node.js 集合探索,並指出來源系統須保留墓碑記錄、按刪除事件更新索引,查詢則應套用司法管轄區、文件狀態及固定 top-k 等限制。

  18. DEV Community23

    教育領域的 AI 防護措施

    教育領域的 AI 防護措施透過技術及政策管控,減少模型幻覺、偏見擴大和未經授權處理資料的風險,同時保障課程配合及學生私隱。巴西 78% 的公立學校系統缺乏正式 AI 使用政策;Granite for Education v4.2 設有 17 項對應 BNCC 課程軸線的預設防護政策。相關措施包括以 RAG 根據核實教材生成答案,並由教師審核開放式作答的評分建議。

11月11日週三
  1. Unite.AI47

    CoreWeave 在 AI 運算叢集內推出託管 PostgreSQL

    CoreWeave 宣佈 CoreWeave Database 正式推出,讓用戶可在 CoreWeave Kubernetes Service(CKS)叢集內,與 AI 訓練及推理工作負載一同使用託管 PostgreSQL。服務支援 pgvector,可在同一資料庫儲存嵌入向量並進行向量搜尋;CoreWeave 負責資料庫維護,用戶則保留對資料、結構描述、查詢及資料庫用戶的控制權。

  2. 第一財經48

    守住數據安全底線,推動人工智能有序發展|法經兵言

    人工智能快速迭代及應用擴大了數據安全治理挑戰,文章主張以全生命週期治理守住安全底線、促進有序發展。風險包括違規爬取、數據泄露、GEO數據投毒,以及AI智能體自主交互引發的非預期數據採集。建議從制度、技術和治理層面完善訓練數據全生命週期管理,明確各方責任並加強協同。

  3. 阿里雲開發者社區 AI40

    SEO 與 GEO 雙生態協同:AI 搜尋重構流量入口的技術演進解析

    AI 搜尋正把用戶資訊入口由關鍵字搜尋轉向直接提問,文章指出 SEO 與 GEO 並非替代關係,而是依靠傳統索引、口碑信源及統一資訊口徑相互協同。文章梳理三代搜尋演進,比較內容中台自建、雙軌並行及整合服務商三條落地路線,並提出分別衡量 SEO、GEO 及雙軌交叉效果的指標體系。

  4. DEV Community45

    詞彙重疊檢查在偵測 RAG 幻覺方面勝過 DeBERTa NLI 模型

    在 RAGTruth 的 900 條測試回應中,詞彙重疊檢查偵測 RAG 幻覺的 AUROC 為 0.778,高於 DeBERTa NLI 模型的 0.716。詞彙檢查在全部 2,700 條測試回應中的 AUROC 為 0.785,而集成檢測器整體表現未勝過單獨使用詞彙檢查。作者建議把廉價檢測器用作分流訊號,而非封鎖答案的門檻。

  5. 阿里雲開發者社區 AI32

    大模型 ITSM:從智能理解到智能體執行

    大模型賦能 ITSM,先以意圖識別、資訊抽取和語義匹配理解自然語言工單,再由智能體按任務規劃步驟並調用工具執行。Function Calling、RAG 及記憶與狀態管理支援自動派單、診斷和處置,亦可在需要時轉交人工。

  6. DEV Community63

    Ember 如何解決 AI 記憶與 RAG 的資料刪除與收據三難題

    Ember 為既有 AI 記憶與 RAG 儲存層提供可驗證刪除機制,處理刪除指定用戶資料時保留其他人的來源收據,以及清除衍生記憶等問題。方案結合加鹽、長度前綴 RFC 6962 Merkle 文件、雙層 AES-256-GCM 加密銷毀及以 HMAC-SHA256 保護的 tombstones,並在探測原始儲存層後,確認沒有殘留才簽發 ErasureCertificate。

  7. DEV Community49

    餐廳菜單語義搜尋:採用分階段檢索與明確刪除語義

    餐廳菜單助理應採用分階段檢索,明確限定查詢範圍與候選數量,並為檢索結果附上可追溯至菜單文件的來源資訊。刪除菜式或更新資料後,須執行刪除並驗證舊文件不再出現;選擇檢索方案前,應以相同測試集衡量召回率與延遲,並可用 Infrai 的 REST 向量 API 作為實驗基準。

  8. DEV Community31

    基準測試在騙你:如何真正評估大語言模型

    文章指出,基準測試未能呈現 AI 系統在實際部署中的表現,評估大語言模型不應只追逐評分。生產環境中的智能體多為用途明確的系統,成效更取決於工具設計、失敗處理和可觀測性。RAG 的檢索結果若在脈絡上失效,問題可能出在分塊或中繼資料,而非嵌入模型。

  9. DEV Community51

    Node.js 招聘候選人搜尋:以三層回退保留重複檔案的來源引用

    文章建議招聘候選人檢索採用三層有界回退,沿途保留租戶及存取權限資料,並為可能重複的候選人檔案附上來源識別碼供招聘人員核查。三層依次為指定集合、另一個已批准集合,以及在產品政策允許時使用網絡來源;各層須保留來源脈絡並設定結果上限與逾時。文中提供 Node.js 腳本查閲 Infrai 公開 discovery 索引及能力合約,並建議用同一組重複檔案測試比較候選方案,不把比較表視為基準測試。

  10. DEV Community46

    房地產樓盤搜尋的引用追蹤:分階段檢索架構

    房地產樓盤搜尋應採用分階段檢索,以明確的集合、有限範圍的查詢及可追溯至確切樓盤 PDF 修訂版本的來源脈絡,確保答案有證據支持。攝取、候選選取和引用呈現應各自分工,並為每項答案主張保留結果 ID、文件修訂版本、區塊 ID 及頁碼或章節位置。PostgreSQL、Elasticsearch、Pinecone、Weaviate 和 Infrai 各有適用情境;單一 API 介面本身不能保證引用可靠。