DecisionRank:面向決策模型重排器的 on-policy 蒸餾
DecisionRank 以 item-space on-policy 蒸餾,把生成式教師模型的排序知識轉移至決策模型,在檢索基準上達到最先進表現,推理速度亦顯著提升。1.7B 參數的 DecisionRank 在 TREC DL19–23 超越 27B 生成式教師模型;8B 版本在 TREC DL 上快 24.5 倍,在 BRIGHT 上快 16.7 倍。
DecisionRank 以 item-space on-policy 蒸餾,把生成式教師模型的排序知識轉移至決策模型,在檢索基準上達到最先進表現,推理速度亦顯著提升。1.7B 參數的 DecisionRank 在 TREC DL19–23 超越 27B 生成式教師模型;8B 版本在 TREC DL 上快 24.5 倍,在 BRIGHT 上快 16.7 倍。
EvoTeam 提出以協作為核心的演化框架,根據執行經驗同步調整多智能體團隊組織、互動規則及個別智能體技能。框架維護可重用的團隊庫,選擇或建立團隊,並以團隊專屬互動規則引導協作;四項基準測試顯示其有效性,程式碼已提供。
研究比較無需訓練的 MoE 專家剪枝替換算子,發現閘門縮放及校準資料域會顯著影響效能,且沒有單一算子在所有設定中佔優。剪枝率為 50% 時,tilted novice 增加 1.2-1.8% 參數量,在 OLMoE 和 Moonlight 分別較常數替換提升 3.45 及 1.37 分。
LARC 為統一多模態模型引入連續空間潛在推理,改善圖像生成質素,並支援測試時擴展,避免離散 token 瓶頸。其訓練分兩階段:課程式監督微調,以及資訊增益強化學習;後者無需真值監督。LARC 在 GenEval 上取得最先進表現,較 BAGEL 提升 7%p,並在平行及循序測試時擴展策略下,展現優於基於 token 生成的表現。
Muon-RT 重用教師與學生的位移,免除隱藏權重矩陣的獨立動量緩衝區。在 Qwen2.5-7B-Instruct 的 SDFT 中,其平均準確率較 AdamW 高 2.6 點、持久記憶體用量少 42%;較 momentum Muon 高 5.4 點、記憶體用量少 27%。在 Olmo-3-7B-Instruct 的 SDPO 中,平均準確率較 AdamW 高 2.0 點。
研究比較信心指標 SC 與結合全局熵變化和局部平滑度的 UID-Conj.,評估輔助軌跡偏好對小型語言模型自我改進及遷移的作用。Qwen3-1.7B 在 30 道 AIME 題目上的在線實驗中,UID-Conj. 較未修改的 TTRL 在適應基準及三個遷移基準的宏平均高 2.08 個百分點;離線加權 SFT 中則較均勻加權高 1.93 個百分點。
WeFair 以示範、偏好和驗證三階段的人類回饋,改善微信短影片搜尋的個人化查詢改寫,減少意圖偏移。離線實驗中,WeFair-2B 的整體準確度和意圖保留表現優於強基線;線上 A/B 測試中,有效影片觀看率相對提高 2.593%,查詢改寫率相對降低 2.350%。WeFair-2B 已部署於微信短影片搜尋系統,每日服務超過 100 million 次查詢。
MoLRSI 是一個用於分子發現的 AI 智能體,結合工作流程及模型架構的系統性優化與持續跨任務記憶,遞迴改進搜尋策略。抗生素發現實驗中,其篩選命中率為 15.9%,高於使用相同訓練數據和篩選庫的先前專家工作流程(8.7%)。
BYOD研究展示將 Gemma 2 9B、Llama 3.1 8B、Qwen2.5 7B 和 Ministral 8B 轉為雙向遮罩擴散語言模型的方法。
DeFT-RAG 透過逐步生成自包含子問題、以規則更新和輕量決策模型處理部分工作,以及快取和重用答案,改善多跳問答。在 MuSiQue、2WikiMultiHopQA 和 HotpotQA 上,使用 gpt-4o-mini 和 Qwen3.6 作為基礎模型時,其準確率均勝過 13 個基準方法,輸入 LLM 的 token 數亦少於其他迭代式方法。
研究測試固定模型權重下,隱藏狀態重用能否把實體替換回答的變化跨英文事實問題轉移。以其他關係的問題作來源時,0.5-1B Qwen 和 Llama 分別消除 45% 和 49% 的答案不變誤差;恢復預設 BOS token 後,流程在三個 cohort 均通過比較,成效為 58-68%。效果亦受格式和 cohort 影響。
TurnTurk-GPT 是以 GPT-2 微調而成的土耳其語文本發言輪替預測器,在錄音分離及説話者分離評估中均勝過多語言偵測器。移除輪次末詞語的後綴,平均精確率(AP)最多下降 44%;移除句內詞語則下降 2%,顯示輪替線索與動詞句末形態有關。模型及評估流程已公開發布。
CogBattery 以 13 種認知範式的文字改編測試 54 個開放權重語言模型,並與各範式原研究的人類數據比較。模型在 n-back 誘餌上的反應方向與人類相同,但對一般非目標項目出現更多誤報;多數模型的信心區分正確與錯誤答案的能力不及人類,且多數模型總是選擇同一賭注,包括分類準確的模型。模型規模與人類相似度並不一致,預設認知分組的預測表現也未可靠勝過同規模的隨機分組。
WMIP 是一套以程式計算答案、用於測試大語言模型累積狀態追蹤能力的探針,涵蓋 3 至 100 次更新及不同查詢和輸出協議。18 個模型在單步算術的準確率為 84.9%,但在需處理三至七次更新的核心項目上只有 31.7%;更新達 50 次後,沒有模型的準確率超過 10%。加入書寫步驟並要求答案置於末行後,核心準確率升至 88.0%,研究亦公開生成器、測試項目、評分程式碼及模型回應。
RoboArchitect 透過觀察機械人執行結果並反覆修改控制程式碼,自動設計凍結策略周邊的智能體控制框架,無須更新模型權重。多個基準測試中,未見場景的平均成功率由 9.7% 升至 43.3%,未見任務則由 12.7% 升至 40.2%。框架亦會累積持久記憶,將已學到的經驗帶入後續決策。
Trakkr Research 追查五款 AI 助手引用的 1,285 項統計數字,只有 40% 可追溯至內容一致的研究。這些數字來自五款助手對 200 個需要數字回答的問題;另有 8% 找到研究但數字或背景已改變,40% 無法核實,11% 的引用鏈未找到研究,1% 的頁面無法載入。只有 21% 的首個引用頁面是原始研究,54% 是公司網誌;ChatGPT 的數據來源核實率最高,為 57%。
Figma 以監督式微調和強化學習訓練專用設計編輯模型,讓模型能理解 Figma 原生檔案格式並修改畫布上的設計。早期 Llama 3.3 70B 模型使用逾 250,000 個訓練例子;最新編輯模型則以 Qwen 3.8 27B 為基礎進行後訓練。Figma agent 的典型任務速度提升約 20%,在與專家設計師的對比測試中,勝過或追平上一代正式版 agent 的比例為 62%。
這項 FeedType 數據集研究檢查六款大語言模型在學生作文回饋中的引文,三項事前預測均獲支持。在 27,462 條引文中,1.18% 改動學生原文;4–6 詞短引文改動率為 2.29%,11+ 詞長引文為 0.68%。小模型組改動率為 3.85%,四款較大型模型組為 0.81%,但 LearnLM 的大量且幾乎都忠實的引文拉低後者平均值;Mistral-24B 的改動率最高,為 13.2%。
Anthropic以50名因果推論專家進行實驗,發現他們常採納AI智能體經擲硬幣隨機指定的分析偏好,並多數認為最終建議出自自己。在四項分析決策中,參與者有86%採納智能體偏好。智能體對最終政策建議的直接影響未達統計顯著,但52%受試者認為建議較像自己作出,另有35%認為大部分或完全出自自己;研究建議智能體先詢問專家立場,或同時為正反兩方提出論據。
Microsoft Research Focus 第 97 期分享 Microsoft 研究社羣的最新成果,涵蓋智能體、工作中的 AI 使用方式及延伸時段天氣預測。ForkPilot 在六項基準測試中表現媲美最佳現有方法,並最多減少 59% AI 處理需求。CABRA 顯示,理解陌生程式碼庫仍是編碼智能體面對的主要障礙之一。
Eclypsium 示範,遭入侵的運算基建可在推理期間改變 AI 模型行為,同時令原始模型檔案保持完整。研究人員在 NVIDIA Grace Hopper 環境中,利用遭入侵的 DPU 和寬鬆記憶體隔離設定修改執行時權重,改變模型回答,而儲存的模型及推理服務未被修改。
Cartesia 研究團隊分享改良版 H-Nets 的規模測試,結果顯示模型可在模型內動態分塊,並在語言建模中提升計算效率。受控的單階段 H-Net 比較中,BPE Transformer 需 1.28× 計算量才能達到相同驗證損失;在 Paloma 和 OLMES 評測中,所需計算量分別是 H-Net 的 1.83× 和 2.06×。
Meta 已將 Catching JiTTests 部署至生產環境,以 LLM 生成可執行測試,在程式碼變更上線前識別錯誤。系統結合意圖感知與 dodgy diff 兩種測試生成流程,再以 LLM-as-Judge、規則評估及工程師按整體結果介入,篩選候選問題。
研究團隊與 Booking.com 結合知識蒸餾(KD)和 Medusa,優化旅遊服務使用的語言模型,以改善推理速度和成本效益。以 TinyLlama(1.1 billion parameters)作為學生模型、Llama-3.1(70 billion parameters)作為教師模型,最終模型達到教師模型的品質,速度提升 10 至 20 倍,成本低於三分之一。
AI Intent Fidelity Theory(AIFT)提出一套框架,把提示詞視為可供 AI 系統執行及評估的結構化規格,以更明確地表達語義、情境、限制、優先次序、關係和驗證要求。框架提出以實驗比較結構化提示詞與一般提示詞的任務完成表現;其效果、可靠性和限制仍須經實證確認。
耶路撒冷希伯來大學及合作機構開發 BBERT,能識別短至 100 個鹼基的細菌 DNA 片段。基準測試中,BBERT 分辨細菌與非細菌 DNA 的準確率約為 90%,識別蛋白質編碼片段及其讀取框的準確率分別約為 88% 和 96%。團隊將工具應用於 1,969 個土壤 DNA 數據集;模擬混合樣本中,平均組裝時間由約 66 小時降至 25 小時。
Piq Energy 的《Unlocking Flexibility Without Curtailment》報告指出,協調家用電池可紓緩大型用電戶接入受限電網時的輸電限制,並以 Burleson Switch 擬議的 100 MW 負載進行分析。
Dream 研究人員披露,攻擊者利用 PHP2Shell 與 Fragnesia 漏洞鏈取得 25 台伺服器的 root 權限,其中涉及美國政府關聯環境。攻擊者從約 19,000 台對外開放的防火牆篩選出 240 個目標,透過持久化反向 SSH 通道進入內網,入侵內部管理伺服器,並解密 LDAP 服務帳戶密碼、列舉 Active Directory 用戶和羣組。
研究發現,REPA 等擴散 Transformer 加速方法會重組 AdaLN-Zero 殘差閘 α,而較廣泛的閘參與度與較佳生成品質相關。研究提出無需教師模型的徑向目標,透過特徵範數正則化促進廣泛參與;在 ImageNet 256times256 的 SiT-B/2 實驗中,該方法的 FID 優於 dispersive loss。
研究以 10 種表徵檢視視覺基礎模型的空間能力,發現可讀取場景不代表能持續追蹤物件、預測空間更新或可靠地支援目標導向行動。物件持續性和可行動性建基於相機位姿讀取,特徵預測則建基於可見場景讀取。各項能力亦隨任務、網絡層及觀察前綴長度而異。
一項由美國主導的新研究指出,500 Wh/kg 是太陽能飛行器在大氣條件適宜的區域連續飛行數周至數月的關鍵電池能量密度門檻。這約為商用電動汽車電池(約 250 Wh/kg)的兩倍,現有實驗型特種電池約達 400 Wh/kg,但成本仍是阻礙。研究提出的是研發指標,並非已造出新型電池;持續飛行亦取決於當地大氣條件。
一項由美國主導的新研究指出,長航時太陽能飛行器的電池能量密度需達 500 Wh/kg,才有望在大氣條件適宜的區域持續飛行數周甚至數月。這個目標約為商用電動車電池能量密度的兩倍,目前實驗型特種電池約達 400 Wh/kg,但成本仍是阻礙。研究提出的是研發指標,並非已造出符合目標的電池或完成數月飛行。
rTaste以7篇近期NLP論文測試六個前沿模型的研究智能體,評估它們提出和排序新實驗、設定門檻及預測結果的能力。415項實驗中,194項被評為可靠、有價值且具新意,當中只有73項同時超越種子論文且並非顯而易見。智能體首選比隨機選擇更常符合評審最看重的實驗,但預測表現未能證明優於只閲讀論文和實驗計劃的同模型實例。
Pluto Security 發佈 Load/Mine 報告,披露透過 Hugging Face 惡意模型倉庫散播的加密貨幣挖礦及後門活動。報告統計 7 個 Hugging Face 帳戶涉及 31 個惡意倉庫,另有 ModelScope 鏡像;記錄下載量為 29,818 次,計入 13 個關聯倉庫後為 32,376 次,這些數字並非已確認感染或獨立受害者數。
研究者在 SmolLM-135M 上基準測試 WS-NSC,發現它能將遺忘控制在接近零,但要付出明顯的下游可塑性代價。當 ρ=0.90,遺忘率為 -0.390%,下游任務只保留醒置階段所獲增益的 37.7%。當 ρ=0.95,保留的增益進一步降至 24.4%。
Prinevo Memory 在 LoCoMo 和 LongMemEval 上分別取得 83.89% 和 82.60% 的評分。系統以結構化記憶、實體解析、時間感知更新及按問題類型選擇的檢索策略構建上下文圖譜。兩項評測均使用 Claude Haiku 4.5 擷取和回答,並由 Claude Sonnet 5 評分;結果不代表與其他記憶系統的直接比較。
這份研究探討影片生成與 Agent harness 的交會,分析智能體如何藉由規劃、工具使用和回饋,製作連貫且可控的多鏡頭影片。研究聚焦智能體影片生成、智能體世界建模,以及影片模型開發中的遞歸式自我改進。研究亦分析視聽感知、長期規劃、記憶和多智能體協作等能力,以及自主影片製作和成效評估方面的挑戰。
天津大學與合肥工業大學團隊提出 FAME 多錨點探索方法,研究獲 NeurIPS 2026 接收並入選 Spotlight。FAME 利用 Conditional Flow Matching 生成多個探索目標,再透過路徑規劃、探索模式聚類及分層選擇,為機械人挑選探索路線。
AI 滲透測試平台正由單工具探索邁向多 Agent 協同的平台化發展,多引擎交叉驗證、持續測試及開放生態成為核心方向。報告指出,傳統人工滲透測試每年 2–4 次,難以跟上以周為單位的攻防迭代;多 Agent 平台可將高危漏洞平均暴露窗口期由 45 天縮短至 7 天內。報告亦提出企業選型評估體系,並提醒須留意授權合規及測試數據安全。
IDC 報告顯示,2026上半年中國 MaaS 市場規模達106.3億元,同比增長889.4%,火山引擎以45.1%的份額領先。上半年全市場 Token 消耗量達2857.9萬億,同比增長約432.5%;影片生成模型調用所產生的收入佔32.7%。火山引擎的整體份額高於阿里雲的25.2%,但在大語言模型市場,阿里巴巴以46.6%居首。