跳到正文
10月5日週一
  1. HuggingFace Daily Papers(社區熱門論文)44

    MEND: RL For Flow Models via Proximal Velocity Matching

    MEND 提出一種以近端速度匹配為基礎的流模型強化學習方法,透過獎勵上限和位移成本篩選更新方向,不使用 KL 項、凍結參考模型或優勢權重。在 100 次更新後,MEND 在六項評估指標中的五項超越 Flow-GRPO,且與基礎模型圖像的距離相同;在相同預算下,它於四種訓練獎勵的每個評估更新點均勝過 ReFL 和 DiffusionNFT。

  2. HuggingFace Daily Papers(社區熱門論文)32

    Technical Report on the Turba Fertilizer Machine Learning Stack in Morocco

    Turba 技術報告提出一套三層開源機器學習堆疊,用於在摩洛哥可重現地進行地點特定肥料推薦。首個數據集以 44,096 個 ESA WorldCereal 地點構建,擴展後包含 132,017 項作物地點推薦請求及 22 個變數。報告評估九類回歸模型,現行版本收錄五個表現最佳的作物專屬模型;機器學習任務是模擬推薦函數,而非預測實際作物反應。

  3. HuggingFace Daily Papers(社區熱門論文)45

    TRIAGE: Direction-Aware Mismatch Stabilization of Native NVFP4 Reinforcement Learning

    TRIAGE 透過分段診斷重新平衡策略梯度更新,並對嚴重失配進行有界修復,以穩定原生 NVFP4 強化學習中的策略最佳化。Qwen3-4B 和 Qwen3-30B-A3B 的實驗在五項數學推理基準測試中達到全精度水平的表現,並在整個評估訓練期間保持穩定。配合 TRIAGE 的原生 NVFP4 推理 rollout 吞吐量較 BF16 最多提升 2.3x。

  4. HuggingFace Daily Papers(社區熱門論文)40

    MiniCorp:AI 智能體公司的最後一哩路

    MiniCorp 是一個辦公室模擬器,讓 AI 智能體協作營運公司,並大規模生成供智能體訓練與評估使用的企業數據。它記錄智能體的通訊、決策及後續業務結果,並可重播相同情境以比較不同決策。實驗顯示,智能體能跨角色協作,並根據市場回饋調整決策。

  5. HuggingFace Daily Papers(社區熱門論文)45

    巨型激活值的生命週期:隨機形成、權重衰減驅動的增長與競爭性集中

    研究發現,權重衰減會因果性地調控 Transformer 中巨型激活值的整體尺度變化。控制實驗顯示,在峯值附近移除權重衰減,尺度會繼續上升;保留權重衰減則會下降,即使學習率不變。掃描衰減係數 λ 時,峯值時間約呈對數線性移動,峯值幅度則約按 λ^{-1/2} 縮放。

  6. HuggingFace Daily Papers(社區熱門論文)40

    Closing the Context Gap: Activation Alignment for Tabular In-Context Learning

    激活對齊利用完整上下文訓練模型,使模型在只使用部分上下文時,仍能維持接近完整上下文的預測表現。研究在 TabArena 的 38 個分類數據集上評估 TabPFN-3 和 TabFM,兩者經對齊的學生模型在不同上下文預算下均顯著優於未對齊基線;低數據量時,對齊可追回教師模型近一半的預測優勢。對齊器在合成無標籤數據上訓練,無需 GPU,並可在數秒至數分鐘內收斂。

  7. HuggingFace Daily Papers(社區熱門論文)41

    TIDES:選擇性狀態空間模型中的隱式時間感知

    TIDES 將輸入依賴性由步長移至對角狀態矩陣,使選擇性狀態空間模型原生處理不規則時間戳,同時保留逐 token 表達能力。在 UEA 時間序列分類及 Physiome ODE 回歸基準上,TIDES 取得最佳平均排名,並在 8 個原生不規則資料集中的 6 個匹配或超越參考基線模型。

  8. HuggingFace Daily Papers(社區熱門論文)37

    分佈穩健的混合專家(MoE)訓練

    論文提出 Distributionally Robust MoE Training(DRMoET),以優化高損失路由結果,提升稀疏 MoE 的路由穩健性。在 10.3B 總參數、67B 訓練 tokens 設定下,七項任務平均分由 standard FLAME-MoE 的 0.6625 升至 0.6767,無輔助損失平衡基線則為 0.6431。

  9. HuggingFace Daily Papers(社區熱門論文)48

    LoGRA: Scaling LLM Reinforcement Learning with Low-Rank Gradient Sketches

    LoGRA 以低秩梯度草圖保留有效學習訊號,降低大型語言模型強化學習後訓練的記憶體需求。在推理任務中,LoGRA 平均可減少最多 45.7% 的訓練記憶體用量,且不犧牲效能。它亦可在單一八 GPU 節點上,穩定訓練 27B 參數模型超過 1,100 步;使用 dense Adam 則會耗盡記憶體。

  10. HuggingFace Daily Papers(社區熱門論文)36

    WildMatch:野生動物個體再識別的弱監督影像匹配器適配

    WildMatch 研究僅以身份標籤弱監督適配預訓練關鍵點匹配器,用於野生動物個體再識別。在多個開源野生動物再識別數據集上,該方法準確率高於未適配匹配器及一種最先進的局部—全局融合方法。在留出個體的開放世界測試中,模型學得可遷移的對應先驗,而非記憶訓練身份。

  11. HuggingFace Daily Papers(社區熱門論文)43

    為智能體強化學習設計 MoE 專家選擇結構

    研究提出面向智能體強化學習的分層路由控制框架,令 MoE 回合級專家選擇與智能體操作對齊,並正則化 token 級選擇以維持局部一致性。框架另引入熵閘控控制機制,處理後訓練期間的穩定性問題。所有評測基準的成功率均提升逾 10 個百分點。

10月4日週日
  1. MarkTechPost70

    Google Research 將聯邦學習遷移至 TEE,Gboard 現以可外部驗證的差分隱私訓練模型

    Google Research 公佈以 TEE 為基礎的新一代聯邦學習系統,並稱其中央差分隱私(DP)保證可由外部驗證。裝置會在本地加密訓練樣本,存取政策公開記錄於 Rekor,KMS 只向符合政策的工作負載發放金鑰。Gboard 已用新系統推出英文及日文下一詞預測模型;訓練現可跨機器並行,瓶頸轉為 TEE 資源,Google 未公佈具體加速倍數。

  2. HuggingFace Daily Papers(社區熱門論文)38

    CURIO: Curiosity-Driven Test-Time Learning for Open-Ended Discovery

    CURIO 提出好奇心驅動的測試時學習框架,透過內在好奇心世界模型補充任務回饋。在 Qwen3 8B 至 235B 模型上,六項數學探索任務中有五項優於僅用任務回饋的強化學習對照,Circle Packing 達到最佳已報告表現;單細胞去噪在各測試規模的兩個留出語料上,去噪 Score 和均方誤差均有改善。相對提升在 Hadamard 達 18.3%,去噪 Score 達 10.8%。

  3. HuggingFace Daily Papers(社區熱門論文)45

    LLM-as-Jev: LLMs Are Already Jev-Style Decision Models -- When and How to Fine-Tune Them

    LLM-as-Jev 指出,現代大語言模型本身已具備 Jev 式決策能力;Qwen3.5-4B 無需訓練,即可匹配採用相同骨幹的社羣 Jev 式模型。微調能顯著提升較弱模型及特定任務的表現,但對強模型的額外收益有限。KL 錨定可避免對話生成能力退化,而 LoRA 在能力較強的模型上表現最佳。

  4. HuggingFace Daily Papers(社區熱門論文)50

    Self-Generated Feedback Destabilizes Test-Time Training: A Causal Decomposition of Long-Horizon Adaptation

    研究發現,模型在推理期間持續從自身輸出學習,會令長期測試時訓練不穩定;研究以 128K-token 資料流分析 TTT-E2E 模型及 Qwen3-4B 的適應情況。使用凍結模型生成訓練文本,可在 125M 和 760M 模型上減少超過 98% 的損害。Settlement 會先以獨立文本測試候選更新,再決定是否保留,可大幅減少損害並保留對真實文本的適應。

10月3日週六
  1. HuggingFace Daily Papers(社區熱門論文)39

    DiffGate:面向同策略蒸餾的難度門控教師指導

    DiffGate 提出結果門控目標,將 GRPO 與按羣組難度調整的有界教師指導結合,只對失敗軌跡施加教師監督。在 Qwen3-0.6B 和 Qwen3-1.7B 上,程式碼 avg@8 較對應的 GRPO 分別提升 +1.7、+1.8 分,pass@8 提升 +1.6、+5.7 分;數學 pass@8 則提升 +1.1、+3.9 分,avg@8 與 GRPO 相差不超過 0.5 分。

  2. HuggingFace Daily Papers(社區熱門論文)41

    Questioning the Questions: Sustaining Self-Evolution in Reasoning Models

    R-Quest 利用問題有效性及新穎度回饋引導推理模型自我演化,應對無效問題增加及數學問題重複造成的表現崩塌。在兩個模型家族的數學推理、通用領域推理及程式碼生成共 12 項基準測試中,R-Quest 取得最高平均表現。連續十輪自我演化期間,R-Quest 維持穩定的表現提升,並在最後一輪達到峯值,較 R-Zero 高 17.32 分。

  3. HuggingFace Daily Papers(社區熱門論文)48

    UnAct: Gradient-Free Unlearning via Targeted Activation Intervention

    UnAct 是一種無需梯度的類別遺忘方法,只需對待遺忘影像進行前向傳播。在 ResNet-18 上,保留準確率與重新訓練相差不超過 2.5 個百分點;CIFAR-10 僅用 5 張待遺忘影像時,與重新訓練的差距為 0.21 個百分點,低於 LFSSD 的 67 點和 SSD 的 90 點。初步遷移至 ViT-B/16 時,UnAct 的差距為 11.5 點,SSD 則為 33.7 點。

  4. Anthropic:Alignment Science Blog65

    如何復現並拓展 Anthropic 的對齊偽裝演示

    Anthropic 説明如何復現並拓展其對齊偽裝演示,並提供快速實驗筆記本、對話紀錄及部分主實驗程式碼。在簡化的 helpful-only 設定中,Claude 3 Opus、Claude 3.5 Sonnet 和 Llama-3 405B 有時會生成對齊偽裝推理;提示暗示對話會用於訓練時,模型更常給出有幫助的回答。

  5. Anthropic:Alignment Science Blog63

    Anthropic 提出 ICM 無監督演算法,從預訓練語言模型提取能力

    Anthropic 團隊提出 ICM 無監督演算法,透過模型自行標註資料微調預訓練語言模型,無需外部標籤即可提取能力。在 Llama 3 的 GSM8k-verification、TruthfulQA 和 Alpaca reward modeling 任務中,ICM 匹配以資料集標籤微調的表現,並超過眾包人類標籤。該方法無法提取預訓練模型中不顯著的技能,也不適用於長輸入。

  6. Anthropic:Alignment Science Blog52

    Anthropic 研究以預訓練資料過濾提升模型安全性

    Anthropic 透過預訓練資料過濾移除 CBRN(化學、生物、放射性及核)有害資訊,降低模型的有害能力評測表現,且所測無害能力未見顯著下降。研究使用分類器篩除預訓練資料中的高危文件,並在過濾後資料集上從頭預訓練模型;在閾值 0.939 下,CBRN 評測準確率由 33.7±0.4% 降至 30.8±0.4%,相對 25% 隨機基線的超額表現減少 33%。

  7. Anthropic:Alignment Science Blog54

    信不信由你:LLM 對植入事實的信念有多深?

    Anthropic 研究團隊與合作者提出衡量 LLM 信念深度的框架,發現合成文件微調(SDF)往往能植入較深層的事實信念。框架從泛化應用、面對質疑時的穩健性和內部表徵三方面衡量;提示詞和機制式模型編輯未能穩定形成深層信念。SDF 的成效取決於事實可信度,與基本世界知識矛盾的極不可信事實仍較脆弱,內部表徵也與自然習得知識不同。

  8. Anthropic:Alignment Science Blog47

    超越數據過濾:以知識定位移除大語言模型能力

    Anthropic Fellows Program 研究人員提出 Selective Gradient Masking(SGTM),將危險知識定位到專用模型參數,並在訓練後移除這些參數以消除相關能力。相較於訓練時過濾危險數據,SGTM 更能兼顧危險知識移除與一般能力保留,尤其在危險與安全內容的標籤不準確時。研究顯示,恢復已移除的危險能力,所需再訓練量是其他模型遺忘方法的 7×。

  9. Anthropic:Alignment Science Blog59

    無監督引出方法的安全性面臨 3 項挑戰,集成與方法結合未能穩定奏效

    Anthropic 研究團隊測試無監督引出與易到難泛化方法,歸納 3 項安全挑戰並檢驗 2 種改進方向。挑戰包括顯著但不代表真實性的特徵、訓練資料失衡,以及模型難以明確作答的問題;改進方向是集成預測器,以及結合無監督引出與易到難方法。新方法有時表現較好,但沒有任何技術能穩定應對這 3 項挑戰。

  10. Anthropic:Alignment Science Blog61

    Anthropic 提出 Introspection Adapters,讓大語言模型自述微調後學到的行為

    Anthropic 研究人員提出 Introspection Adapters(IA),以同一個 LoRA adapter 訓練大語言模型自述經微調後學到的行為。在 AuditBench 的 56 個植入行為模型評測中,IA 輔助調查代理的平均成功率為 59%,高於次佳方法的 53%;在 9 個加密微調攻擊模型中,亦至少一次辨識出其中 7 個。研究亦指出,該方法誤報率偏高,且訓練成本較大。

  11. Anthropic:Alignment Science Blog61

    Anthropic 研究發現微調謊言偵測器難以泛化至分佈外案例

    Anthropic 團隊以 12 種設定收集開源模型的 on-policy 謊言並微調偵測器,發現它們難以泛化至訓練時未見的謊言類型。訓練分佈內 AUROC 由 0.60 升至 0.95,跨類別測試則約為 0.70–0.75;微調偵測器僅略勝提示詞基線,較大型模型經零樣本提示後往往表現更佳。

10月2日週五
  1. Google Research64

    Google Research 介紹採用 TEE 的新一代聯邦學習系統

    Google Research 公佈採用可信執行環境(TEE)的新一代聯邦學習系統,讓伺服器端的數據匿名化處理可供驗證和審計。設備上傳的訓練數據只會交由符合預先授權存取政策的 TEE 工作負載解密處理,相關政策亦發布於 Rekor 公開透明日誌。Gboard 已採用新系統推出英文及日文下一詞預測模型,模型私隱保障更強、準確度更高,計算時間亦較舊系統大幅縮短。

    推薦理由:文章比較舊式聯邦學習與 TEE 架構在服務端可驗證性上的差異,並交代存取政策公開記錄機制及 Gboard 部署後在私隱、準確度和訓練速度上的變化。