跳到正文
10月30日週五
  1. 阿里雲開發者社區 AI68

    Hermes 把 Agent 學習寫入文件,以記憶、技能與 Wiki 管理狀態

    Hermes 把 Agent 狀態外置為可讀、可編輯及可版本管理的文件,分別保存記憶、可複用技能與帶證據鏈的領域知識,模型權重不會因此改變。其 llm-wiki 技能以 raw/ 保存只讀原始資料、以 wiki 頁面整理知識,並透過來源標記、矛盾登記及 lint 巡檢維持可追溯性。文章亦指出,自動審查可能保存噪音或產生品質參差的技能,知識庫質素仍取決於規則與定期維護。

  2. 阿里雲開發者社區 AI39

    企業級多模態分析計算引擎怎樣選:阿里雲瑤池 AnalyticDB MySQL 多模態一體化首選方案

    阿里雲瑤池 AnalyticDB MySQL 將多模態素材接入、庫內語義理解及向量、全文和結構化條件融合檢索整合於同一個兼容 MySQL 協議的資料庫。官方公佈的向量檢索數據為:百億向量在 50 毫秒約束下達到 99% 召回率;兩億向量在 1000 QPS 與 1 秒約束下達到 99% 召回率。

  3. DEV Community47

    實體 AI 系統設計:四個美國配送中心的即時數碼孿生與不離開場內的安全視覺分析

    這套實體 AI 參考架構為美國四個配送中心建立即時數碼孿生,將倉庫、勞工、場地、影片及承運商資料整合,同時在各中心處理影片,僅傳送事件和短片。架構以 RF-DETR 偵測、OC-SORT 追蹤,並以 Mistral Large 3 675B 和 Qwen3.8-27B 提供助手功能;不訓練模型,透過記憶改善系統。

  4. DEV Community46

    Kioo:網絡消失,知識依然留存

    Kioo 是一款離線優先的 AI 知識助理,使用 Ollama 在本機以文件內容回答問題,並列出答案所依據的原文段落;沒有網絡連線時仍可運作。預設模型為 qwen2.5:1.5b,支援英文和法文提問,文件不包含答案時會拒答。Kioo 以 MIT 授權開源,作者的測試中,檢索在 10 條可回答問題中找到正確段落,並自行攔截 2 條無法回答問題中的 1 條。

  5. 阿里雲開發者社區 AI61

    AI 知識庫加入大量資料後,為何仍會答錯?

    AI 知識庫即使找到多份相關資料並附上正確引用,仍可能因未分清現行規則、草稿與歷史材料而答錯。文章建議為重要材料標明文件類型及審批狀態、適用範圍、生效或復核日期、版本關係和負責人;若無法確認規則,便應列為待確認,而非形成對外承諾。提示詞要求仍須配合材料檢索、適用範圍標記和抽查;文中的安裝報價是構造例子,未在客戶項目驗證。

  6. DEV Community65

    Google 為 Gemini Notebook 加入數百本免費教材,支援有來源依據的學習指南及測驗

    Google 擴展 Gemini Notebook,讓美國和印度學生免費瀏覽數百本教材,並將選定教材用作生成內容的依據。教材來自 OpenStax、Open Textbook Library 和 S Chand Publishing,生成答案可附文內引用及原文連結,並可製作學習指南、練習測驗和抽認卡。Google 未有在這次更新中宣佈 LMS 整合或企業培訓功能。

  7. DEV Community53

    AI 智能體的問題不在模型,而在數據

    AI 智能體的可靠性不只取決於模型選擇,也取決於檢索品質、數據是否及時更新、工作流狀態管理和執行可觀測性。文章以大型程式碼庫的 RAG、索引更新及多智能體任務重試為例,提出混合檢索、增量索引、明確持久化狀態和執行追蹤等設計方向。

  8. DEV Community40

    金融科技候選人評分中,Token 數量影響 LLM API 成本的 7 種方式

    在金融科技候選人評分服務中,Token 數量直接影響 LLM API 成本,因供應商會按處理的輸入及輸出 token 計費。派送前計算 token、只檢索與評分準則相關的證據,並限制輸出長度,可控制請求用量。系統亦應記錄 token 計算結果、模型選擇、延遲及決策,並讓帳戶預算與推理呼叫處於同一可審核流程。

  9. HuggingFace Daily Papers(社區熱門論文)42

    DeFT-RAG:將多跳問題拆解為可重用答案的自包含子問題

    DeFT-RAG 透過逐步生成自包含子問題、以規則更新和輕量決策模型處理部分工作,以及快取和重用答案,改善多跳問答。在 MuSiQue、2WikiMultiHopQA 和 HotpotQA 上,使用 gpt-4o-mini 和 Qwen3.6 作為基礎模型時,其準確率均勝過 13 個基準方法,輸入 LLM 的 token 數亦少於其他迭代式方法。

  10. DEV Community42

    DharaniAI:為印度旱地農民提供離線氣候韌性及母語語音指引

    DharaniAI 結合 Google Gemma 2、微氣候物理模型及 ICAR/CRIDA 旱地農業知識,為印度旱地小農提供離線氣候韌性指引。系統以 Gemma 2 在本地裝置運行,並可用泰盧固語、印地語、馬拉地語、卡納達語及英語生成語音建議。它亦提供作物用水評估及抗旱應對方案,無需網絡或雲端 API 訂閲。

  11. DEV Community45

    AWS AI Practitioner:為何不應低估這項考試

    作者通過 AWS Certified AI Practitioner 考試,並指出這項 Foundational 級別認證的考試難度不容低估。考試指南中,foundation models 應用佔 28%,生成式 AI 基礎佔 24%;作者建議重點温習 Amazon Bedrock、Amazon SageMaker、提示詞工程、評估指標,以及負責任 AI、安全與治理。

  12. DEV Community61

    透過 7 個小型實作範例學習 LangChain:從聊天模型到 RAG

    Kiran Gunturu 分享包含 7 個獨立 LangChain 腳本的程式碼庫,示範由呼叫聊天模型到以 RAG 檢索 PDF 內容。多數腳本少於 40 行,涵蓋 LCEL、結構化輸出、工具呼叫和 SQL 查詢驗證。RAG 範例先把 PDF 轉成 Markdown,再按標題分段;文章亦説明移轉至 Amazon Bedrock 時,需重新核對嵌入向量維度。

10月29日週四
  1. 阿里雲開發者社區 AI33

    2026年國內 AI 搜尋優化公司如何選?主流流派與選型維度解析

    國內 GEO 服務商尚無權威排名,企業選型應按自身業務需求評估技術能力,而非追逐榜單。評估重點包括多模型監測、意圖理解、信源治理及效果量化。市場服務商大致分為內容代營運、綜合營銷和技術算法驅動三類,GEO 的投入產出比則取決於行業和客單價。

  2. DEV Community55

    AI 基準分數是協商結果,而非測量結果

    Felipe 0liveira 彙整 2026-10-22 至 2026-10-29 的 LLM 評測與可觀測性資訊,指出單一基準分數和 LLM 評審結果都不宜直接視為可靠信號。文中列出的研究發現,部分 RAG 投毒防禦基準的近乎滿分與測試集構造有關,而路由器未能在品質與成本綜合表現上勝過固定使用一個中價位模型。另有研究顯示,細微提示詞改動即可令 LLM 對研究新穎性的判斷翻轉。

  3. DEV Community25

    如何在 Hostinger KVM2 上以 2 個 CPU 核心、無 GPU 執行自託管 LLM,並在 10 秒內回應

    文章分享如何優化本機 RAG 聊天機械人,讓它在 CPU 上進行推理,並兼顧檢索準確度、回應速度和資源使用。做法包括使用 4-bit 量化的 Qwen Instruct 模型、調整文件分塊與相似度門檻,以及把模型 temperature 設在約 0.2。作者亦測試 llama.cpp 和 OpenVINO 設定,並以速率限制、平行推理執行個體及負載平衡管理並行請求。

  4. 阿里雲開發者社區 AI43

    內存數據庫怎麼選?阿里雲瑤池雲數據庫 Tair 作為 AWS ElastiCache 替代方案

    阿里雲瑤池雲數據庫 Tair 主打替代 AWS ElastiCache,以性能、功能和成本梯度作為選型優勢。Tair 內存型性能達開源 Redis 的 3 倍,最高支援 7000 萬 QPS,並將全文搜尋與向量檢索整合於同一實例;按場景選擇實例形態,成本可降低 30%~70%。官方支援以 DTS 從 ElastiCache 和 MemoryDB 遷移,並提供最高 99.99% SLA。

  5. 阿里雲開發者社區 AI49

    OpenSearch LLM 問答現成方案:從配置到功能驗證的完整流程

    阿里雲智能開放搜索 OpenSearch 提供兩種 LLM 問答方案:開箱即用的 LLM 智能問答版,以及可外接模型的向量檢索版。前者整合 RAG 全流程,後者支援自訂檢索與業務邏輯;文章亦説明配置、分層驗證和選型方法。功能驗證建議涵蓋事實一致性、拒答能力及上下文魯棒性,並以 P95 < 2s 作為可用延遲基線。

  6. 阿里雲開發者社區 AI39

    向量資料庫與傳統資料庫:能力邊界、適用場景及選型關鍵條件

    向量資料庫並非傳統資料庫的性能升級,而是面向高維語義相似性檢索的專用基礎設施,兩者適用於不同數據操作需求。阿里雲 Milvus 版以 DiskANN + RaBitQ 優化,在 1 億 768 維數據集上 QPS 提升 20 倍、P99 延遲降至 1/10、內存佔用減少 29%,召回率保持 98%+。文章列出 RAG、多模態檢索等適用場景,並建議從向量化、索引、混合查詢、多模態支持及治理能力選型。

  7. 阿里雲開發者社區 AI36

    大模型如何決定提到你|GEO優化公司必讀的訓練知識、RAG檢索、多源互證與衝突迴避機制拆解

    文章拆解大語言模型如何決定是否提及品牌,涵蓋訓練知識、RAG檢索,以及答案生成中的多源互證與衝突迴避機制。RAG內容須經召回、排序和摘錄,具體可查、結構清晰的資訊較容易被採用。品牌資訊保持一致,並在多個渠道持續發布,有助建立可互相印證的資訊。

  8. 阿里雲開發者社區 AI50

    從底層機制到內容策略:GEO與SEO差異比較、技術選型與落地方法

    文章比較GEO與SEO在運作機制、指標、內容策略、技術要求及見效週期上的差異,並提供按企業、創作者和個人品牌情況分配資源的判斷框架。文中指出,SEO主要爭取搜尋結果排名與點擊,GEO則著重品牌在生成式AI答案中的提及、引用位置和描述準確度;兩者可透過問題導向、事實清晰的內容及站內外資訊佈局協同。文中引述的行業實踐經驗稱,GEO佈局通常在一到三個月開始出現提及變化,三到六個月趨於穩定。

  9. DEV Community62

    用戶 A 的提問會否取回用戶 B 的文件?RAG 租戶隔離檢查清單

    作者整理出一份 RAG 租戶隔離檢查清單,列出如何防止不同租戶的文件經檢索與快取互相洩漏。清單涵蓋從已驗證工作階段套用租戶和權限篩選、缺少租戶資訊時拒絕查詢、按租戶和用戶範圍隔離快取,以及在查詢時重新核對權限。作者另提供包含 39 項檢查、7 個部分、15 個跨租戶測試案例及數據來源清單的完整版本,並説明這是一般指引,並非保證。

  10. DEV Community41

    以證據為先的生成與引用

    以證據為先的生成架構要求每項生成主張都連結不可變的證據物件,並由驗證器檢查引用是否完整、正確。證據物件保存文件 ID、版本、URL、摘錄、檢索時間及信心分數;即時數值則由確定性 API 在附加證據後另行提供,不納入證據。架構亦建議保存包含回應、證據資料及即時值回應的不可變審計記錄,並以回歸測試和定期檢查維護可靠性。

  11. DEV Community58

    如何排查向量搜尋延遲尖峯:先檢查 Top K 和回傳資料量

    排查高負載下的向量搜尋延遲尖峯,應先檢查 Top K 和回傳資料量,不要先歸咎於向量索引。建議分開記錄向量請求與詳情解析耗時、回應大小和命中數,並按 k、是否回傳全文及中繼資料組合進行受控比較。互動搜尋可先回傳 ID 和精簡排名資料,再從內容儲存庫批次取回所需文本;內容新鮮度則應另行追蹤。

  12. DEV Community51

    ASP.NET Core 8 助手如何驗證帶引用的答案

    Martin Pisacreta 為 ASP.NET Core 8 助手設計可檢查的回答流程,先檢索並選取一段來源,再核對生成答案中的來源識別碼。驗證會拒絕空白或超過 16,000 個字符的答案,並要求至少有一個引用,且所有可識別的引用均匹配所選段落;但不逐句判斷內容是否受來源支持。

  13. DEV Community55

    Claude 上下文窗口實戰:快取、分塊與成本

    Darius Tran 比較了向 Claude 提供文件的三種做法:直接放入提示詞、快取和分塊檢索,並按語料條件説明取捨。文章亦提供 token 計數、成本估算及請求記錄建議;Python 程式碼是根據 Anthropic 文件編寫的草稿,並非經測試的程式庫,參數和價格應核對現行文件。

  14. 阿里雲開發者社區 AI24

    AI 英語教培軟件系統的開發

    AI 英語教培軟件系統的開發聚焦低延遲語音即時互動、教學場景 LLM 微調及學生語言能力畫像,涵蓋口語對話、寫作批改、自適應閲讀和數據中台四大模組。技術方案採用流式 ASR-LLM-TTS、RAG 及 WebSocket 或 gRPC,並可接入 Whisper v4、SenseVoice、Llama 或 Qwen;開發難點包括延遲控制、教學準確性及學習留存率。

  15. 阿里雲開發者社區 AI26

    AI 技術在英語培訓行業的落地應用

    AI 正在重塑英語培訓全鏈路,應用涵蓋口語陪練、寫作批改、自適應聽讀、學情診斷、備課及機構營運;教學模式轉向「AI 導師+真人教練」協作。落地仍面對學員持續使用、大模型幻覺及商業化挑戰,機構正以微調、RAG 和學科專家校驗把關教學內容。