多用戶、多智能體團隊為何表現更差:Anthropic 研究分析協作失效
Anthropic 研究團隊建立四種模擬環境,評估多用戶、多智能體協作;在四種環境中,每位用戶各自委派智能體的羣體結果都低於由單一智能體服務所有用戶。研究觀察到智能體會停滯、擅自更改其他用戶的請求,或作出缺乏依據的陳述;有效的緩解措施因環境而異,例如共享預算場景加入團隊領導者,訂單場景則要求智能體讀取訊息後才可下單。
Anthropic 研究團隊建立四種模擬環境,評估多用戶、多智能體協作;在四種環境中,每位用戶各自委派智能體的羣體結果都低於由單一智能體服務所有用戶。研究觀察到智能體會停滯、擅自更改其他用戶的請求,或作出缺乏依據的陳述;有效的緩解措施因環境而異,例如共享預算場景加入團隊領導者,訂單場景則要求智能體讀取訊息後才可下單。
Epoch AI 的受控測試顯示,開放權重模型 GLM 5.3 無需人手介入,便以每個約 $1,000 的成本攻破六個 Firefox 版本。Claude Fable 5.2 在 Epoch Capabilities Index 得分 174,刷新紀錄,高於 GPT-6 Astra 的 169。
澳洲與中國的學術合作提出 TongueReenact,透過 Stable Diffusion 等方法,將駕駛影片中的面部動作和舌頭動態轉移至來源人物。測試中,該方法在舌頭位置和大小等關鍵指標上,較最接近的競爭方法準確度高逾 100%。論文發表後,承諾提供的程式碼似乎尚未推出。
作者發現 GA100 可透過電壓故障注入繞過熔絲控制限制,並將 CMP 170HX 8GB 解鎖至近似 A100-80G;可用 HBM 容量視卡上完好的記憶體而定。測試卡啟用 124 個 SM,FP16 FMA 吞吐量達 85.858 TFLOP/s,約為零售 A100 的 1.18×。文章亦説明解鎖 PCIe Gen4、NVLink 等功能所需的原理與硬件修改。
Google DeepMind 研究人員以智能體 AI 和 AlphaProof Code,在四週內形式化驗證 Signal 協議的多項關鍵密碼學保證。分析未涵蓋整個 Signal 手機應用程式,也未在檢視的協議部分發現新漏洞;在含有已知且已修復漏洞的舊版 Signal 上,AlphaProof Code 成功識別漏洞,並顯示該協議無法通過形式化驗證。
內容列出引用 TorchCurves 論文的模型、數據集、Spaces 和 Collections 數量,四者均為 0;頁面亦提供在模型或數據集的 README.md 引用該論文的提示。
Microsoft Research 與 Microsoft Red Team 在論文中介紹 Lazarus,稱無需重新訓練,只需改寫開放權重模型中不足 10 個休眠神經元,便可植入觸發式後門,令使用該模型的智能體按條件輸出攻擊者指令,並在其權限範圍內執行。
推薦理由:研究將模型權重遭竄改與智能體執行攻擊指令的風險連在一起,並顯示少量神經元改動即可植入後門,凸顯權重來源核驗的部署價值。
BloombergNEF 研究顯示,美國、英國及歐洲大陸規劃中的 AI 數據中心擬興建現場燃氣電廠,合計燃氣發電容量達 181GW,以應對接入電網的延誤。計劃中的現場燃氣電廠有 90% 位於美國;若計劃落實,相關設施每年將排放約 345m metric tonnes 二氧化碳當量。報告認為,確保數據中心接入電網是較可持續的選擇,而臨時燃氣供電可能因經濟誘因延續,形成長期化石燃料鎖定風險。
研究測試語言模型中因果神經元羣組的必要性、替代性及跨輸入遷移情況。在 Qwen3-0.6B 的首都問答任務中,消融 12 個指定神經元令答案差距下降 27%;在兩跳關係鏈任務中,移植 12 個神經元的激活值可令答案轉向橋接實體,隨機神經元則未能做到。完整羣組通常並非必要,效果可遷移至同一關係鏈的改寫,但在其他測試鏈上弱得多。
Sable 提出論證系統及單 GPU 證明器,可逐位證明經承諾的整數量化 Transformer 會由指定提示詞產生指定 token 序列。
Google DeepMind 與 Google Quantum AI 發表預印本,介紹以 Lean 核驗 AI 智能體編寫的量子程序及其資源消耗的方法。核聚變和光化學模擬的新方案成本分別降至此前最佳方案約 9% 和約 1/8;藥物代謝模擬成本則降低 60%,核聚變方案所需邏輯量子比特由 5,650 減至 4,374。
LipsFlower 結合 Lipschitz 感知架構與正則化,減少流匹配圖像復原中的輸入擾動放大,同時維持具競爭力的復原品質。其向量場架構 LipHDiT 採用穩定化近似頻譜正規化、有界調制及凸殘差混合,並以有限半徑對抗增益正則化抑制過度敏感。盲人臉部復原測試顯示,LipsFlower 在維持復原品質的同時降低擾動放大。
WikiTrace 將每條精簡記憶連結至來源軌跡及其成敗原因,讓 LLM 智能體在行動前核查和修正記憶,減少因記憶而出現的性能退化。WikiTrace 在五個智能體基準測試中持續勝過現有記憶方法,以及使用相同記憶內容的基線方法。
Google DeepMind 公佈 AlphaProof Code 的研究結果,最多 80 個 AI Agent 用四星期為 Signal 的 libsignal 撰寫形式化證明,驗證其主要安全保障。
Microsoft 研究人員提出名為 Lazarus 的技術,可改寫少於 10 個低活躍神經元,在毋須重新訓練下為模型植入隱藏後門。約 50 個樣本可用於訓練分類器辨認觸發輸入;攻擊只需推理所需運算資源及模型檢查點的寫入權限。Microsoft 建議核查模型來源及權重、限制智能體存取權限並審查敏感操作;偵測改動須與未修改版本比對,防護則應採多層措施。
Google 研究團隊利用智能手錶的光學傳感器和加速計收集連續數據,再以 AI 判斷使用者血壓異常的概率,而非測出確切血壓值。研究收集了 2109 名參與者共 492347 小時的數據,目前只支援 Pixel Watch 3 及更新型號。這項技術仍處於論文研究階段,不能取代袖帶式血壓計,亦未有明確上線時間。
METR 估算,Anthropic 模型在定義明確任務上的能力提升速度,自 2025 年 10 月以來是 2024 年 3 月至 2025 年 10 月期間的 1.9 倍;這比較的是進步速度,而非模型能力增加 1.9 倍。
IDC 預計,全球已配置數據中心機櫃數量將由 2026 年約 2500 萬架增至 2030 年 5800 萬架。全球數據中心年度能耗預計由 2025 年的 519 TWh 增至 2030 年的 1308 TWh,設施資本開支則由 2,760 億美元升至 6,550 億美元;統計不包括伺服器、GPU 等 IT 基礎設施投入。
WaveGen 提出以 Spectral Forcing 為基礎的端到端擴散式文字轉波形框架,在單一模型內共同學習頻譜與波形軌跡,無需外部音訊編解碼器、聲碼器、潛在模型或對齊模組。在 Seed-en benchmark 上,WaveGen 的 WER 為 1.47、SIM 為 0.75,並在 Emilia 訓練數據集上達到最先進的文字轉語音表現;模型規模由 0.1B 擴展至 0.6B 參數。
這項研究在 6 個模型的 1,668 次實驗中按生成 Token 數及訓練 GPU 小時配平計算量,發現密集過程獎勵用於語言模型推理時不及標準 GRPO,而挑選預測成功率接近一半的提示詞可提升準確率。
Baseten 的研究文章指出,on-policy 自我知識蒸餾(OPSD)並非持續學習的萬靈丹。文章認為,OPSD 在某些情境下仍可能有用,但不值得再投入研究資源。
Transluce 的 Oversight Foundations 團隊提出訓練監督基礎模型,將關於目標模型行為的自然語言問題轉化為可檢驗的實證問題。方案把目標模型視為可透過 Python 程式介入和測量的「世界」,再訓練模型根據程式及已知輸出預測其他輸出,並透過執行程式取得 ground truth。
DexForesight 透過把具備動態感知能力的世界表徵注入靈巧操作策略的潛在空間,讓策略隱式學習空間前瞻能力。在 11 項 DexJoCo 模擬任務中,基礎策略的整體成功率由 49.4% 提升至 60.5%;在 3 項真實機械人任務中,成功率為 58.3%,高於最強基線的 50.0%。
WM-PPO 結合世界模型與 PPO 的價值評估器,利用預測的後續狀態改善任務成功率,無需特權資訊。在相若的真實環境互動步數下,ALFWorld 成功率由 PPO 的 63.5% 升至 87.5%,ScienceWorld 則由 39.3% 升至 52.9%。推理時只使用訓練所得的策略。
EVAThink 提出按視覺證據是否充足決定直接作答或進行推理的訓練方法,讓影片 VLM 自適應分配推理。方法以兩階段強化學習訓練,無需 SFT 冷啟動,並用首 token 優勢正則化穩定訓練。模型僅用 6.7K 個整理樣本訓練,在 32 和 64 幀設定下均提升影片理解基礎模型的表現,平均勝過強基線。
MMDM 是一項涵蓋 16 類任務的基準測試,包含 5,448 條問題,選項數由 2 至 1,024,輸入最長達 64,817 tokens。研究評估 28 個決策模型,發現不少模型在選項邏輯、受約束決策及多選任務上表現較弱。
Tree-Ising 將語言模型權重修復轉化為 BF16 權重上的稀疏 Ising/QUBO 最佳化問題,用於修復推理循環,無需梯度或 LLM tokens。在 Qwen3.5-0.8B 的兩層修復中,Tree-Ising 的 MATH-500 評分為 54.6%,高於原編輯方法的 51.7% 和基礎模型的 7.9%;模擬分岔求解器取得 55.1%。
MC-JEPA 以留一法市場因子作為條件,改善金融時間序列預測。在 11 年的中國 A 股分鐘級數據上,它在涵蓋回報、市場暴露、風險及流動性的九項預測目標中優於 per-asset JEPA。MC-JEPA 在所有流動性目標及 2 小時至 5 天的回報預測中取得最佳 RankIC,歷史回測的投資組合表現亦最佳。
Google DeepMind 的 AlphaProof Code 以 Gemini 驅動的多智能體框架,為 Signal 已部署的密碼協議實作產生關鍵安全性質的機器可檢查證明。工作歷時 4 週,產生約 600 萬行 Lean 證明。DeepMind 亦開源了證明材料,並發表技術論文。
ExRL 以輕量級適配器預測每個動作區塊的執行長度,並透過離策略強化學習訓練,提升長動作區塊機械人策略在線適應的樣本效率。模擬基準測試及真實機械人任務結果顯示,ExRL 可適應多種長動作區塊策略,且只需少量任務專屬超參數調整。
研究在 RoboMME 計數任務中發現,記憶增強型視覺語言動作(VLA)策略按時間索引記憶,可能把無效等待當作進度,令機械人提早停止。加入短暫停頓或手腕抖動後,兩項任務的成功數分別由 47/50 降至 16/50、由 44/50 降至 10/50;把這些畫面從記憶中移除後,成功表現恢復。以事件索引記憶可在不重新訓練下挽回至少一半損失,而加入暫停訓練未能消除問題並損害計數表現。
Imperial College London、Duke 等機構的研究者提出開源框架 GEAR,將 RSI 演算法拆成可替換模組,方便構建、比較和重用 Agent 自我改進方法。
APEX以條件移位估算生成分佈的速度場,將假分數估算整合至生成器,免除獨立的假分數網絡。與S2-Avatar相比,APEX在Progressive軌道的影片指令遵循評分為3.856對3.831,兩個軌道的視覺美感評分亦較高。相同訓練設定下,APEX每張GPU的峯值已分配記憶體低4.4%,平均迭代時間短9.2%。
香港中文大學領導的研究團隊結合統計物理與 AI,開發受物理定律約束的設計框架,利用無序結構設計輕質超材料。團隊以高精度 3D 列印製作並測試材料,發現其能量吸收能力和斷裂韌性均有所提升。研究成果為輕質防護結構及汽車吸能部件的開發開拓新方向。
Google DeepMind 以 AlphaProof Code 在約四星期內,將 libsignal v0.105.4 與 spqr v1.6.0 的單對單通訊程式碼驗證至 AArch64 機器碼層,項目由五人完成。
推薦理由:文章梳理人類審定規格、AI 智能體產生證明、Lean 核心檢查的分工,並列出驗證範圍與限制,呈現形式化驗證落到實際機器碼的工作方式。
加州大學伯克利分校團隊提出「智能體機械人技術」(Agentic Robotics),讓多個 AI 智能體協作編寫控制程式,並在虛擬環境反覆測試和修正。其「圖即策略」(Graph-as-Policy)框架把任務拆成可組合的技能模組;在擦拭實驗中,AI 不到一小時建立並優化物理仿真環境,最終生成的程式在真實機械人上完成擦拭任務。
Google 研究團隊利用 Pixel Watch 3 及更新型號的現有感測器和 AI,研究以連續收集的數據篩查血壓異常,輸出異常概率而非確切血壓值。研究分析 2109 名參與者共 492347 小時的數據,但仍處於初步研究和驗證階段,尚未獲監管批准。這項技術可望協助及早發現異常,不能取代袖帶式血壓計或醫生診斷。
澳洲 CSIRO 與韓國成均館大學回顧 66 項 AI 智能體安全研究,發現測試多集中於單一智能體的提示詞、推理、記憶及工具攻擊,對多智能體、持續及長時間攻擊的測試較少。研究亦指出,各研究的衡量方法不一,且往往未記錄智能體每一步的行為,令結果難以比較和重複實驗。
Google DeepMind 團隊利用具自主執行能力的 AI 智能體,對 Signal 加密協議進行形式化驗證,而非全面審查 Signal 應用程式。研究人員以該方法測試含已知安全漏洞的舊版 Signal 協議實現,AI 成功識別問題並判定其未通過驗證。整個分析約耗時四周,Google 尚未公佈所需計算資源規模,並表示目前仍無法確定大規模推廣的可行性。
Microsoft 研究人員發現名為 Lazarus 的後門技術,無需訓練,只要改寫 LLM 中少於 10 個休眠神經元的權重,便可令基於該模型的 AI 智能體在隱藏觸發條件出現時執行惡意命令。
推薦理由:研究展示少於 10 個休眠神經元即可植入後門,並説明模型來源追溯及權重完整性為何成為智能體安全防護的關鍵。