跳到正文
目前篩選:論文
10月27日週二
  1. HuggingFace Daily Papers(社區熱門論文)63

    《Follow the Gradient》提出以梯度追溯訓練資料中的安全性退化

    論文提出 SimpleLoRIF,以梯度對齊找出會削弱大語言模型安全性的微調指令資料,並據此建立移除梯度最貼近不安全回應的 20% 樣本的 SafeTulu。在 Qwen、Llama 和 Olmo 上以 SafeTulu 訓練,GCG 攻擊成功率最多下降 22%,同時大致保留甚至提升模型能力。

  2. HuggingFace Daily Papers(社區熱門論文)36

    PREEN:利用智能手機編輯器預設進行基於範例的色彩風格遷移

    PREEN 將色彩風格遷移轉化為對確定性圖像編輯器 29 個參數的回歸,根據內容圖像和風格參考預測可解讀、可供編輯器使用的預設。在 PST50 基準測試中,PREEN 在像素及感知保真度指標上領先基線,並能以低於一秒的裝置端延遲生成預設。模型還提供單一推理時強度調節旋鈕,可在一次前向傳播中呈現由預設到鮮明的連續效果,毋須重新訓練。

  3. HuggingFace Daily Papers(社區熱門論文)42

    Muon 令首個混合專家層更難平衡

    使用 Muon 訓練混合專家(MoE)語言模型會加劇首個 MoE 層的路由失衡,其他層受影響較小。在活躍參數為 55M 和 108M 的模型中,首層偏置跨度在每個隨機種子下均上升,平均約增至兩倍;從路由器輸入中減去批次平均值可消除過載,而降低較小模型的 Muon 學習率亦能消除大部分增幅。此規模下,將路由器改用 AdamW 會令負載變化更大,結果較支持讓路由器繼續使用 Muon。

  4. HuggingFace Daily Papers(社區熱門論文)42

    Multi-Agent Relay Thinking:MACR 如何以信心引導多智能體接力推理

    MACR 提出以信心引導觸發和競標機制動態轉移推理任務的多智能體接力框架,讓後續智能體承接並完善推理過程。在四個基準測試中,MACR 的準確度勝過最強單模型策略,在 MathVista 和 MMStar 分別提升 3.3% 和 3.9%;在 HallusionBench 和 MMStar 上,token 開銷比多智能體策略少 6.0 倍。

  5. DEV Community52

    智能體循環中的上下文修正為何不持久?Self-Direction 如何把錯誤轉成長期修正

    普林斯頓大學與 Meta FAIR 團隊提出 Self-Direction,將智能體執行錯誤轉化為低秩 adapter 更新,讓修正可在後續工作階段按需使用。在 GAIA、Claw-Eval 和 Terminal-Bench 2.1 上,任務完成率較標準上下文反思基線高 8.9 至 17.0 個百分點。這個方法僅更新約 0.02% 的參數,並凍結基礎模型權重。

  6. Anthropic:Research(發表成果 · 網頁)65

    AI 智能體如何影響專家的判斷

    Anthropic 研究人員讓 50 名專業分析師使用 Claude Code 進行統計分析,發現分析師在四項分析選擇中有 86% 跟隨智能體的偏好。在 38 個分析師先表達偏好的案例中,智能體偏好相反時,分析師有 60% 改變選擇;偏好一致時則為 6%。研究刻意強化智能體的立場;作者指出,若專家未察覺而依從智能體,其偏好可能影響研究或政策判斷。

10月26日週一
  1. DEV Community52

    Dify RAG 流水線基準測試:負載下的 Token 消耗、快取命中率與檢索延遲

    JJ657 對 Dify RAG 流水線進行負載基準測試,發現重排提示詞可令每次查詢成本較無快取基線下降 51%。測試中快取命中率由 25.7% 升至 74.3%;30 個以上並發用戶時,Postgres 向量搜尋成為瓶頸。將 pgvector IVFFlat 的 lists 調至 500 並加入 pgbouncer 後,40 個並發用戶的 p95 延遲由 5.3s 降至 2.1s。

  2. 英國 AI Security Institute:Blog61

    英國 AI Security Institute 評估開放權重生物模型的預訓練數據過濾效果

    英國 AI Security Institute 團隊以 ESM-2 蛋白質語言模型評估預訓練數據過濾,發現此方法可選擇性抑制病毒蛋白質相關能力,同時大致保留非病毒蛋白質能力。但以被排除的病毒數據微調可完全恢復該能力,即使最大、參數量為 3B 的模型,所需 H100 計算成本亦約 $80;相關數據通常公開可得,因此單靠過濾不足以構成穩健防護。

  3. Unite.AI54

    AI 生成文本為何比想像中更難理解

    一項研究發現,前沿及近前沿模型,以及部分開放權重模型,較常使用可能增加閲讀負擔的語言結構。研究比較 14 個模型在聊天、編碼及作文中的文本,發現罕見詞組、名詞作動詞及以無生命事物作主語等結構在部分模型中較常出現。另一項以 GRPO 微調 Qwen2.5-1.5B-Instruct 的實驗顯示,較高的長度懲罰會增加模型選擇較短句式的傾向,並延伸至部分訓練時未見的句式。

  4. DEV Community46

    MCP 工具描述洩漏:描述正規化基準測試

    ToolSieve 基準測試顯示,將 MCP 工具描述正規化為固定 schema,可把 top-1 洩漏率由 13.8% 降至 7.8%。測試涵蓋 1,312 條公共伺服器工具描述,以 Swallow-8B-AWQ agent 和規則評分,沒有使用 LLM judge。正規化仍有犧牲工具使用指引的代價,沒有方案能在不作取捨下消除中毒。

  5. Cohere 產品與研究博客29

    AI 能理解文化嗎?

    Cohere Labs 的開放科學項目透過多語言文化謎語,測試 AI 模型的語言流暢度、邏輯推理及文化知識。項目吸引來自 50 多個國家的 100 多名參與者,結果顯示模型可能答得頭頭是道,卻缺乏特定文化和語言知識,甚至出現模型幻覺。

  6. FireRedTeam:原創語音與多模態項目46

    GlyphAnchor 以位置錨定字形先驗提升圖像生成與編輯的文字呈現

    GlyphAnchor 透過將輕量字形圖塊錨定至目標位置,提升文字生成與圖像編輯中的文字呈現,並推出涵蓋兩類任務的 InfoTextBench。測試顯示,加入 GlyphAnchor 後,FireRed-Image-Edit-1.1、Qwen-Image-Edit-2511 和 Z-Image 在多項文字準確度及視覺品質指標上均有提升。其程式碼及 InfoTextBench 尚待發布。

  7. 新浪科技52

    DSReg 讓 JEPA 世界模型的各維度對應真實潛在變數

    研究者提出 DSReg,可將預訓練 LeJEPA 表徵的各維度對應至真實世界潛在變數,過程不需解碼器、重建誤差或標籤。在 Structural Diversity 假設下,理論結果顯示它可恢復所有潛在變數,最多隻差排列次序和正負號。在六項下游任務中,DSReg 均優於 LeJEPA,同時保持原有預測效能。

  8. Rest of World51

    使用非英語時,AI 模型的使用成本可能更高

    一項新研究發現,部分語言使用 AI 模型所需的 token 遠多於其他語言,可能推高使用成本,研究稱這種差異為隱性的 tokenizer tax。在網絡最常用的 20 種語言中,token 用量最高者所需 token 是最低者的 1.5 至 5 倍;擴大至 200 種語言後,一款 AI 模型的 token 成本差距增加 17 倍。

  9. The HKU Lead 港大新聞 · AI 研究及應用46

    港大商學院發佈生成式 AI 影片生成能力報告

    港大商學院人工智能評估實驗室發佈 AI 影片生成模型評測報告,評估超過十款模型的影片生成能力,以及識別和防範錯誤資訊等高風險內容的能力。Seedance 2.0 Pro 生成表現總排名第一,並在六個評估維度均居首;Hailuo-2.3 安全與責任評分最高,但生成能力總排名第九。

  10. Hacker News 熱門(buzzing.cc 中文翻譯)36

    不需要注意力:以 Grassmann 流構建序列模型

    研究提出一種以 Grassmann 流為基礎、無需注意力的序列模型架構,透過 Grassmann 流形上的低秩子空間傳遞資訊。在 Wikitext-2 上,參數量為 13 至 18 million 的純 Grassmann 模型,驗證困惑度與參數量相近的 Transformer 相差約 10% 至 15%。

  11. 阿里雲開發者社區 AI32

    2026年AI滲透測試平台產業發展與技術架構研究報告

    報告指出,AI 滲透測試平台已由單一 Agent 工具探索,轉向多 Agent 協同的平台化落地。多引擎交叉驗證、持續測試、開放生態接入及數據合規管控,已成為新一代平台的核心能力指標。報告亦分析微步在線 RedAgents,並提出平台架構、應用場景及企業選型評估框架。

  12. DoNews41

    研究人員提出 MMGR 基準,評估多模態模型的推理能力

    MMGR 是一項用於評估影片、圖像和語言系統生成式推理能力的基準,涵蓋抽象推理、具身導航和物理常識三大領域的 10 項任務。研究發現,模型的視覺質素與推理正確率之間存在明顯差距:影片模型在物理常識任務上表現最佳,但在符號任務及跨視角具身導航中能力較弱、穩定性較差。

  13. 新浪科技53

    中國信科等單位創下3.2Pb/s單纖雙向光傳輸容量世界紀錄

    中國信科集團等單位完成3.2Pb/s多芯光纖即時雙向傳輸試驗,創下單纖雙向即時光傳輸容量世界紀錄。試驗使用10.3公里、24芯多芯光纖,結合S+C+L三波段復用與空分復用,總容量較傳統C+L波段商用單芯G.652光纖約100Tb/s的上限提升32倍。這項成果超越同一團隊今年3月創下的2.5Pb/s紀錄;按規劃,傳輸速率有望於今年年底達到10Pb/s。

  14. 新浪科技52

    Q Labs 提出 Dust,探索不用反向傳播預訓練 Transformer

    Q Labs 提出 Dust,透過在 Transformer 線性層輸出按 token 加入隨機噪聲,估算更新方向並訓練模型。論文報告指,擴大虛擬種羣後,Dust 在部分設定下的效果超過反向傳播;最大實驗規模為 243M 參數、20M token。SOTAAZ Lab 的第三方復現基本重現論文設定,但指出反向傳播使用更合適的優化器或在同一數據上多訓練幾輪後明顯領先,計算成本亦低於 Dust。