跳到正文
10月31日週六
  1. DEV Community31

    OpenDesk AI:以開源 AI 讓機器中的幽靈重現

    OpenDesk AI 是一款開源 AI 助手,可搜尋用戶的文件、以自然語言回答問題,並從個人知識庫擷取相關段落,生成有文件內容根據的答案。計劃採用 Gemma、文件檢索及本機推理;所需內容安裝完成後,設定妥當的版本可離線運作。本機推理有助讓資料留在用戶的電腦上,但仍取決於硬件,且離線使用前須先下載模型。

  2. DEV Community73

    為 Claude Code 加入 RAG:儲存個人判斷,讓 AI 按需取用

    作者在 Claude Code 加入 RAG,令訊息可在回答前觸發本機語義搜尋,並把相關記錄交給 AI。系統以 bge-m3 將記錄轉成嵌入向量,按搜尋結果差距控制注入量,最多五項、2,048 bytes;超過 300 ms 未有結果便不注入。索引和搜尋程序均在 Mac 本機運行,文章提供五步設定流程及可直接交給 Claude Code 的提示詞;作者測得 60 次搜尋的中位數為 69 ms。

  3. DEV Community50

    Marigold Archive 讓用戶離線查問家庭錄音

    Pardeep Gir 建立 Marigold Archive,讓家庭錄音可在本機離線轉錄並接受內容提問。它以 faster-whisper 轉錄,再用 multilingual MiniLM、ChromaDB 和 Gemma(透過 Ollama)檢索及生成答案;每個答案附故事、時間戳和錄音原文引句,找不到相關內容時則返回固定句子。

  4. DEV Community58

    企業如何使用 AI 處理私有業務資料

    企業使用 AI 處理私有業務資料時,可限制模型接收的內容、由應用程式執行敏感計算,並按資料要求選擇模型部署位置。RAG 只會把相關資料傳送給 AI 服務,所選資料仍會由服務處理。即使模型在私有環境運行,組織仍須負責安全、更新、監控及伺服器維護;應用程式亦須按用戶權限限制可檢索的資料。

  5. DEV Community49

    有界臨牀搜尋解析:預約助理的排序訊號

    醫療預約助理應採用分階段檢索,先從指定資料集取回候選項目,再剔除不符合來源要求的項目,最後才對有限範圍內的結果重新排序。每項候選資料都須保留來源網址或穩定文件識別碼,並以可追溯性、資料集有效性、相關性及確定性排序作為排序依據。內容更新和刪除應透過資料集維護處理,不能只靠調低評分。

  6. DEV Community41

    InfoMind AI Enterprise:讓非結構化資訊擁有智能

    InfoMind AI Enterprise 是一個根據文件內容回答問題的檔案庫,每個答案均附有來源段落,證據不足時會拒答。使用 llama3.2:3b 時,一個可回答的問題在 5 次測試中均遭錯誤拒答;改用 llama3.1:8b 後,同一問題 10 次均獲正確回答。系統可在本機離線運行;使用託管示範時,問題相關段落會傳送至 Ollama 伺服器。

  7. DEV Community56

    Naser Sadrmanesh 分享 llm-search-eval、woocommerce-mcp、commerce-agent-skills 和 persian-rag 四款電商 AI 開源工具的開發經驗

    AI 產品工程師兼創辦人 Naser Sadrmanesh 將為客戶反覆重建的工具整理成四個 MIT 授權開源項目。llm-search-eval 以共用標籤池評估搜尋排序;woocommerce-mcp 提供 47 項工具,並要求寫入操作先預覽、再確認;commerce-agent-skills 收錄 29 項電商技能。

  8. DEV Community41

    小型 RAG 微調實驗實際能證明甚麼

    一項小型 RAG 實驗微調了預訓練重排器,確認權重更新及檢查點載入正常,但在合成留出測試中沒有觀察到排序提升。測試只有兩條可回答問題,原始與調整後的重排器 nDCG@5 均為 1.0,配對差異為 0。真實領域評估及人工評分尚未完成,現有結果只支持實驗流程可運作,不能證明微調改善了答案品質。

  9. DEV Community48

    Node.js 如何為 CRM 的 Ask-Your-Docs 語義搜尋選擇 Embeddings API 或 Gateway

    Node.js 的 CRM「Ask-Your-Docs」語義搜尋應按故障影響範圍選擇直接 API 或 Gateway:需要在更換供應商時維持 CRM 動作路徑,可用 Gateway;工作流程狹窄且團隊能自行維護所有 Embeddings adapter,則可直接使用 API。系統應在缺少支持段落或聊天完成失敗時拒絕建立 CRM 動作,並在更換供應商後重新執行評測。

  10. Engadget65

    維基媒體基金會就《紐約時報》對 OpenAI 與 Microsoft 的版權訴訟提交法庭之友意見書

    維基媒體基金會就《紐約時報》對 OpenAI 和 Microsoft 提起的版權訴訟提交法庭之友意見書,主張採取較細緻的合理使用判斷。基金會認為,過度收窄合理使用可能抑制科技創新,一概適用則可能令網絡封閉並削弱知識來源。它主張在特定情況下,將版權內容用於訓練與原始資料有別的大語言模型,或用於 RAG,視為合理使用;但反對 RAG 在未註明來源下重述既有文章。

10月30日週五
  1. DEV Community23

    GhostVault:以 AI 保存個人回憶的靈異數碼檔案庫

    GhostVault 是一項計劃中的 AI 數碼記憶檔案庫,擬以開放權重模型及本機推理保存和搜尋用戶的照片、信件與個人故事。AI 伴侶 The Ghost 會透過 RAG 檢索已儲存的記憶,生成個人化回應與故事,並區分虛構內容和事實回憶。私隱版本會在本機儲存照片及相關資料,用戶可自行管理內容。

  2. DEV Community48

    Marigold /router:為不願遺忘的回憶打造私人追思祭壇

    Marigold /router 是一個離線優先的口述歷史工作室與虛擬追思空間,用來保存家庭回憶、照片、食譜和語音備忘錄,不會把親人塑造成聊天機械人。資料儲存在瀏覽器本機,無須帳戶、資料庫或雲端服務;完整 AI 功能使用 Ollama 和 Gemma 4 e4b,Faster-Whisper 則可選擇用於本機語音轉錄。追思指南只根據檔案內容回答,缺少資料時會拒絕猜測。

  3. DEV Community45

    The Last Remembering:以離線 AI 保存家庭故事與真實回憶

    The Last Remembering 是一款以開放權重 AI 建構的開源離線工具,讓家庭保存口述歷史、食譜和回憶,避免雲端依賴及冒充逝者。系統在本機以 Whisper 轉錄錄音,並用 Google Gemma 提取有逐字引句佐證的事實;用戶須審核後才可儲存。資料可匯出為 .ofrenda 檔案,並透過 SQLite 保存在本機。

  4. 阿里雲開發者社區 AI56

    DeepSeek Harness 10 款插件配置教學與個人 AI 工作台搭建指南

    作者逐一實測 DeepSeek Harness 的 10 款熱門插件,涵蓋插件市場、圖片 OCR、本地檔案引用、搜尋、長期記憶、費用監控及介面與桌面工具。文章建議不要一次安裝全部插件,而是先裝 dshmarket 和 modlens,再按偏好選擇 dsh-web-all 或 dsh-better-sidebar,最後按使用場景補充其他工具。

  5. 阿里雲開發者社區 AI55

    AI 閘道與大語言模型 API 聚合平台並用時,路由和重試應由哪一層負責?

    文章建議企業同時使用雲端 AI 閘道與第三方大語言模型 API 聚合平台時,按「單一策略所有者」原則分配路由、重試等決策,避免兩層重複處理。雲內閘道宜負責用戶及租戶身份、業務路由、預算與審計;聚合平台提供模型及數據工具資源,並回傳實際執行資訊。文章亦列出模型卡與供應卡、端到端重試預算、會話黏性及可觀測性驗收方案。

  6. TNW63

    維基媒體基金會請求法院分開裁定 AI 訓練與聊天機械人複製內容是否屬合理使用

    維基媒體基金會在涉及 OpenAI 的版權訴訟中,請求法院準許提交法庭之友意見書,主張分開判斷 AI 訓練與聊天機械人複製網站內容是否屬合理使用。意見書認為,通用模型訓練很可能屬合理使用,但 RAG 聊天機械人為回答用戶問題而複製網站內容則很可能不屬合理使用;使用 RAG 的公司應遵守出版商的授權條款。法官尚未裁定是否接納意見書或相關合理使用問題。

  7. 阿里雲開發者社區 AI36

    電商與金融行業客服機械人採購指南:如何按場景選型?

    電商與金融採購客服機械人的核心考量不同:電商重視峯值承載與任務閉環,金融則重視數據邊界、權限控制和審計追溯。阿里雲瓴羊 Quick Service 支援萬級並發,P99 響應時間可控制在 1.5 秒內,並提供私有化部署、RBAC 權限控制及日誌審計。平台的 AI 問答準確率可達 93%,採購時應按場景需求透過 POC 驗證。

  8. DoNews46

    航天軟件擬投資10.49億元建設航天工業軟件項目

    航天軟件擬投資約10.49億元,建設面向航天產品全生命週期的PLM+CAX高端工業軟件項目,計劃自主開發PLM、CAD、CAE、CAM、MOM、MRO六款產品,議案尚需股東會審議。北京神舟航天軟件技術股份有限公司一項基於檢索增強生成與智能體的機械工藝設計方法專利於10月27日公開,目前處於審中狀態。該方法可生成工藝設計文件,並輔助編制及自動化合規審查。

  9. EleutherAI:Blog64

    EleutherAI 研究顯示預訓練數據過濾可降低開放權重模型的 WMDP-Bio 表現

    EleutherAI 的 Deep Ignorance 研究發現,預訓練數據過濾可令 6.9B 模型在 WMDP-Bio 接近隨機水平,同時大致保留無關知識基準的表現。過濾模型即使以 300M tokens 專家標註的生物風險論文微調,WMDP 表現仍低於未過濾基線。但在提供論文摘要作上下文的開卷測試中,過濾模型表現接近基線,顯示數據過濾不能阻止模型利用上下文中的相關資訊。

  10. 阿里雲開發者社區 AI49

    GEO 優化:從 RAG 檢索鏈路到五類可信訊號,拆解語義塊召回、SEO 差異與獲 AI 採信的工程實踐

    GEO 是透過整理真實、可核驗的資訊,讓 AI 更容易檢索、讀懂並判斷可信的工程實踐。文章拆解 RAG 的檢索、切片與生成流程,並歸納來源、結構、事實密度、時效性和多源一致性五項可信訊號。相較 SEO 著重網頁排名,GEO 著重語義塊的召回率與被採信機率。

  11. DEV Community37

    WikEM、iatroX:誰在維護醫療資訊的可靠性?非牟利維基與英國臨牀 AI 背後的問題

    WikEM 與英國臨牀 AI 助手 iatroX 展現兩種醫療知識工具模式,核心問題是誰核實內容,以及指引更新後答案多久能跟進。WikEM 網站列有 71,428 個頁面、涵蓋 15 種語言;iatroX 稱其臨牀指引會在發布後 24 至 48 小時內同步。文章以 Tabibu 為例,指出答案應引用可追溯來源,並在無法查證時明確説明。

  12. DEV Community28

    RepoGhost AI:以開源 AI 重現被遺忘的程式碼脈絡

    RepoGhost AI 是一個程式碼庫調查平台,結合 Git 智能、程式碼分析、語意搜尋及開源 AI,協助開發者找回專案中的程式碼與歷史脈絡。平台計劃使用 Gemma、Ollama 和 RAG,透過本機推理回答程式碼庫相關問題;最終模型整合及推理結果會按實際完成情況記錄。

  13. HuggingFace Daily Papers(社區熱門論文)44

    Glance:生成器就是自己的重排序器

    Glance 將生成與重排序整合至同一個 9B backbone,透過共享預填上下文及輕量適配器和 pointer head 為候選段落評分。經 39 分鐘 MS MARCO 微調後,Glance 在 SciFact 和 NFCorpus 的 nDCG@10 分別為 0.741 和 0.345,高於 bge-reranker-v2-m3 的 0.721 和 0.326。

  14. DEV Community61

    如何用 Apify AI Web Search Scraper 為 LLM 加入即時網頁搜尋

    文章示範如何用 Apify 的 AI Web Search Scraper,一次完成 DuckDuckGo 搜尋、擷取頁面並清理成 Markdown,毋須搜尋 API key。文中提供 Python 範例,以每頁字數上限控制提示詞內容,並按搜尋排名編號來源,方便加入引用;亦可透過 Apify MCP server 接入 MCP 客戶端,讓助理自行搜尋和讀取網頁。

  15. DEV Community40

    為何向量資料庫難以勝任 AI 智能體記憶

    向量資料庫不適合作為 AI 智能體的持久記憶,因為語義相似度無法判斷事實是否仍有效,也難以掌握狀態變化與事件先後。多輪智能體基準研究顯示,少於 2% 的記憶框架能處理動態遺忘或狀態修剪。搜尋適合檢索靜態資料,記憶則需要追蹤現況、變更時間及導致決策的過往事件。

  16. The Elec45

    Kakao 開源兩款針對韓語搜尋優化的 AI 嵌入模型

    Kakao 開源兩款針對韓語搜尋優化的嵌入模型,分別為 3B 參數的 Kanana-2-3b-embedding 和 1.3B 參數的 Kanana-2-1.3b-embedding。內部評測顯示,兩款模型的韓語搜尋表現優於參數規模相近的全球開源模型,英語表現相若,記憶體用量和推理速度則提升數十倍或以上。模型採用 Kanana Open License,按授權條款可作商業用途。

  17. DEV Community60

    使用 Ragas 評估 RAG:實作指南

    Muhammad Saud 撰寫 Ragas 0.4.3 實作指南,説明如何以四項指標評估 RAG 流程,分別檢查生成器和檢索器。Faithfulness 與 answer relevancy 用於診斷生成器,context precision 與 context recall 用於診斷檢索器;後兩者需要參考答案。