跳到正文
目前篩選:論文
11月15日週日
  1. Hacker News 熱門(buzzing.cc 中文翻譯)67

    以 Lean 形式化美國税法,檢出 138 項文本錯誤並提出三項税務新發現

    研究團隊以 Lean 形式化美國《國內税收法典》,檢查條文交叉引用並建立 2025 年聯邦個人所得税模型,以搜尋文本錯誤和税務漏洞。交叉引用檢查列出 257 項結果,其中 138 項為實際文本錯誤;2025 年模型亦以 IRS 公佈數據及三款報税工具比對,測試 5,000 個家庭。

  2. HuggingFace Daily Papers(社區熱門論文)46

    多分支 Transformer

    Multi-Branch Transformer(MBT)透過並行分支處理 Transformer 區塊,並結合共享 KV cache,提升語言模型品質及推理效率。實驗顯示,標準 Transformer 需要多用最多 1.26x 訓練計算量,才能達到最終模型的驗證損失;模型最多減少 34% KV cache 儲存,並在單張 H200 GPU 上提升最多 51.4% 解碼吞吐量。

  3. HuggingFace Daily Papers(社區熱門論文)40

    模擬器失配帶來的不合理信心:SPEED+ 模擬到真實基準上的方向性穩健性

    研究以在合成航天器影像上訓練的單目姿態估算器檢驗 SPEED+ 模擬到真實的遷移,發現模型在真實影像上的姿態誤差伴隨過度自信,且適應效果因光照域而異。合成資料上按 90% 校準的區域,在 sunlamp 僅涵蓋 9-15% 的旋轉誤差,在 lightbox 則涵蓋 21-38%;調整骨幹網絡最後階段,可將 63-83% 的額外合成增益帶到兩個真實域。

  4. HuggingFace Daily Papers(社區熱門論文)44

    PanDWM:全景 4D 駕駛世界模型

    PanDWM將六個攝影機視角拼接成360°全景帶,並以蒸餾因果學生模型和前饋式3D Gaussian解碼器生成一致的4D駕駛場景。於nuScenes的單一拼接視角評測中,其FID和FVD均低於多攝影機基線,速度為基線的8-46倍。相比50步教師模型,PanDWM維持FID,並將FVD降低22-25%。

  5. HuggingFace Daily Papers(社區熱門論文)40

    RAPO:長鏈多模態推理中的傳播感知視覺保留反思錨點

    RAPO 透過識別高熵推理位置作為稀疏反思錨點,並以 chain-masked KL 目標訓練策略在後續推理中保留視覺影響。在 Qwen3-VL-2B-Instruct 上,RAPO 將六項基準的平均 mean@8 accuracy 從 GRPO 的 40.79 提升至 43.01。標準推理時無須額外重新注入視覺資訊或選擇錨點。

  6. HuggingFace Daily Papers(社區熱門論文)41

    SALA:語義對齊的潛在動作如何實現具身基礎模型雙軸擴展

    SALA 利用人類與機械人影片的語言語義相似度對齊潛在動作,建立共享潛在動作空間,無需配對數據即可為具身基礎模型訓練提供監督。增加通用人類影片的預訓練數據,可持續降低下游任務的機械人動作預測誤差;增加特定任務的人類影片進行後訓練,則可大幅提升真實機械人任務成功率。

  7. HuggingFace Daily Papers(社區熱門論文)45

    開放權重大語言模型技術報告的新穎性檢視:消融研究、可重現性與透明度

    研究檢視 40 份開放權重大語言模型技術報告,評估其新穎性主張是否有消融研究支持,以及報告的可重現性與透明度。73 項架構或訓練新穎性主張中,19 項有受控對照;40 份報告中,4 份披露多於一次訓練,只有 1 份同時披露數據混合、token 數量及計算資源。研究提出 7 項技術報告撰寫規則,並指出不評判模型質素,未經測試的主張仍可能成立。

  8. HuggingFace Daily Papers(社區熱門論文)57

    SWE-CoWork:以組織情境基準評測編碼智能體

    SWE-CoWork 基準在模擬軟件組織中評測編碼智能體,涵蓋 101 項任務、101 個真實程式碼庫、11 種語言和 12 個應用領域。評測 11 個模型時,兩個領先模型雖通過約 63% 的失敗轉通過(F2P)測試,完整完成的任務卻少於 8%。向 Seed Evolving 和 GPT-6 Astra 預先提供完整需求,令 F2P 通過率提高約 16 個百分點,但完整任務成功率沒有改變。

  9. HuggingFace Daily Papers(社區熱門論文)45

    GlyphAtlas:分離筆畫細節與版面配置的場景文字合成方法

    GlyphAtlas 是一個建基於 FLUX.1-Fill-dev 的場景文字合成模型,透過分離文字版面配置與筆畫繪製,改善小字、密集多行文字及複雜文字系統的合成效果。模型以中文和英文訓練,並可零樣本泛化至日文、韓文和阿拉伯文。團隊開源程式碼、權重及包含 1.5M 張場景文字圖片的 GlyphAtlas-Data-1.5M。

  10. HuggingFace Daily Papers(社區熱門論文)47

    居中消融:為何末層方向消融效果不足或導致崩潰,以及一種封閉形式的修正方法

    研究提出 Centered Ablation(CA),以封閉形式從消融方向中投影去除共同模式,解釋並修正標準末層方向消融效果不足或令文本崩潰的問題。在 8 個模型上,CA 在標準方法效果不足時將攻擊成功率提高 29 和 46 個百分點,並將 Gemma-2-9B 的崩潰率由 50% 降至 1%。研究亦指出,兩種標準安全評審對崩潰文本的評分方向相反,可能造成 46 個百分點的效果差異。

  11. HuggingFace Daily Papers(社區熱門論文)58

    JEPA4R:具身 JEPA 世界模型以 4D 點雲進行規劃

    論文提出 JEPA4R,一種以單部深度相機取得的點雲為觀測、在潛在空間預測及規劃,並透過凍結潛在表示上的策略頭執行動作的 JEPA 世界模型。解碼器生成的 4D 點雲在 200 步內平均點誤差維持在 1.1 cm 以內;在 MetaWorld 和 Adroit Relocate 分別取得 98.4% 和 88.0%,高於排名第二的 R3M 的 96.0% 和 65.3%。

11月14日週六
  1. MarkTechPost53

    Stanford 研究人員開源 Memorilla 記憶系統,凍結 LLM 僅需 16 個記憶 token

    Stanford 研究人員開源 Memorilla,這個記憶系統把整個文件集轉為 16 個記憶 token,供凍結的 LLM 使用。在 FactKG 上,凍結的 Qwen3-8B 配合 Memorilla 得分為 84.33%,高於完整上下文的 80.43%,文件 token 用量少 108 倍。程式碼、訓練配方及模型檢查點以 Apache 2.0 公開;可訓練的記憶模組有 194M 參數。

  2. 新浪科技41

    北大、微信安全團隊以《Pandora's Toolbox》梳理通用智能體全生命週期安全

    北京大學知識計算實驗室(KCL)與騰訊微信安全技術團隊聯合發佈綜述論文,提出從來源、編排、執行及持久反饋分析通用智能體安全的框架。論文梳理技能、用戶、記憶與環境四類攻擊面,並歸納安全評測和防禦方法。摘要指出,執行結果可能污染長期記憶、技能或項目工件,使風險跨會話延續。

  3. Baseten Base Labs:模型研究39

    梯度對齊獎勵:能否令監督轉為 on-policy?

    Baseten Base Labs 探討梯度對齊獎勵能否以學生模型生成的樣本計算梯度,同時以專家示範提供學習訊號。研究指出,利用張量運算可用兩次標準反向傳播,高效計算完整對齊獎勵,實際開銷不大。實驗以 Qwen3-8B 和 Opus 5.5 生成的示範測試四數 Countdown,考察模型能否擬合及會否過度貼近示範原句。

  4. 新浪科技57

    香港科技大學如何為 AI 搜尋結果中的圖片編號,讓智能體跨工具調用

    香港科技大學 MMSense Lab 提出視覺原生智能體框架,為圖像分配編號並存入同一圖像庫,讓不同工具在解題流程中接續調用同一張圖。團隊另提出 ODE,按模型 rollout 的解題紀錄修訂出題規則;在八項評測中,8B 模型平均準確率由 24.9% 升至 39.0%,30B 模型由 30.6% 升至 41.5%。

  5. 新浪科技50

    鋰電池由「鋰—氧配位」轉向「鋰—氟配位」

    南開大學與上海空間電源研究所等單位的科研團隊,以氟代烴溶劑開發新型電解液,將鋰電池的離子配位方式由「鋰—氧配位」轉為「鋰—氟配位」。實驗顯示,新體系的電池在同等體積和重量下,能量密度有望比目前頂級傳統鋰電池提升一倍以上,並改善低温性能。技術仍需解決溶劑低成本合成與純化、電極材料匹配及製造工藝等問題,工程化攻關可能需要1—2年甚至更長時間。

  6. Google Research85

    Google Research 公佈 Antigravity /teamwork 在數學、科學與工程領域的成果

    Google Research 公佈 Antigravity 的 /teamwork 結合 Gemini 4 models 在數學、科學及工程任務上的多項成果,並向外部研究人員和開發者開放相關工具。

    推薦理由:文章以數學、化學與系統工程案例,呈現 /teamwork 如何透過並行探索、獨立驗證和任務分工支援長程研究工作。

  7. Hacker News 熱門(buzzing.cc 中文翻譯)50

    模型在權重空間中傳播病毒?受控探測揭示權重編輯風險

    受控探測顯示,編輯器模型可直接修改目標模型的權重,令其產生錯誤資訊、拒絕正當請求或遺漏指定資訊,但結果未證明病毒已在模型間傳播。測試以 Qwen2.5-1.5B-Instruct 為目標模型、ChatGPT 6.1-Sol 為編輯器,三項探測均出現不同程度的附帶影響。作者建議透過驗收、記錄和恢復機制管控編輯及部署。

  8. DEV Community81

    作者重現權重檢查,五款中國開放權重模型呈現 Blackwell-class GPU 指紋

    DEV Community 作者 frank chu 重現 Will DePue 的權重指紋檢查,五款中國開放權重模型的初始權重特徵指向 Blackwell-class GPU。

    推薦理由:文章拆解如何從未訓練 embedding 權重比對隨機種子與 SM 佈局,並界定指紋所能支持的硬件推論及其不能回答的地點與合規問題。

  9. HuggingFace Daily Papers(社區熱門論文)43

    LogT:透過圖像進行邏輯推理以支援視覺搜尋

    LogT 提出全自動 SFT 數據引擎,透過邏輯鏈引導推理,生成具挑戰性的視覺問題及結構化工具使用軌跡。以 Qwen2.5-VL-7B 為基礎的 LogT-SFT 使用的數據少 3.1 倍、GPU 時數少逾 120 倍,表現仍超越結合 SFT 和 RL 訓練的 SOTA 方法。只採用簡單 RL 配方且不作工具專用設計,模型表現亦較先前複雜 RL 設定高 9.59 分。

  10. HuggingFace Daily Papers(社區熱門論文)44

    S1CogBench:System One 決策模型在認知實驗中能做甚麼、不能做甚麼

    S1CogBench 評估 System One 決策模型在 24 項認知任務上的表現,揭示其能力與限制。評測涵蓋 27 種評估模式、七個開源模型及 API 模型 Jev。結果顯示,模型在部分學習任務表現良好,但可能未能蒐集資訊或因應回饋調整;快速決策亦未必有充分證據支持。

  11. HuggingFace Daily Papers(社區熱門論文)47

    語言模型中的探測與引導,是否偏好相同方向?

    研究發現,在三個不同系列的指令微調語言模型中,最適合探測概念的隱藏狀態方向,並非最適合引導模型朝該概念改變的方向。這種差異在 60 組「層級—模型—概念」組閤中有 59 組成立,引導則一貫偏向較接近平均差異的方向。轉移至其他模型的探測方向可保留目標模型高於隨機水平探測表現的 81-91%;在 PopQA 引導模型回答「unknown」,可令不確定錯誤的棄答增加 18-44 個百分點。

  12. HuggingFace Daily Papers(社區熱門論文)47

    ResWAM:世界動作模型學習變化,而非保持不變的內容

    ResWAM以凍結的DINOv3特徵進行視覺殘差學習,並以0.5B雙分支DiT提升視覺語言動作策略成功率,同時降低訓練與推理計算量。模型總參數量為2.3B,在LIBERO-Plus、RoboTwin 2.0及RoboDojo分別取得81.1%、93.8%及9.40%的成功率,訓練計算量為2.7-4.0 TFLOPs,推理計算量為1.0-1.4 TFLOPs。

  13. HuggingFace Daily Papers(社區熱門論文)44

    LoopFill:面向 Looped Transformers 的流水線式多 token 推測解碼

    LoopFill 是一種免訓練的推測解碼演算法,將多 token 後綴草稿與淺層循環預測合併至同一草稿樹,並透過完整深度驗證保留自回歸輸出分佈。七項基準測試中,LoopFill 在 Ouro-2.6B 和 Huginn-3.5B 上較貪婪自回歸解碼分別加速 5.85 倍和 5.13 倍,較最強基線 LoopAhead 分別快 40% 和 25%。