眼不見,仍在心中:ReMo 為 Omni-LLMs 壓縮視覺 token
ReMo 是一種免訓練方法,透過跨模態對齊和精簡文字描述壓縮視覺 token,降低 Omni-LLMs 推理時的輸入 token 成本。在兩種規模的 Qwen2.5-Omni 上,它減少 54% 輸入 token,準確度仍與完整 token 模型相若,在五項音訊視覺基準的平均準確度分別達其 101.2% 和 101.4%。
ReMo 是一種免訓練方法,透過跨模態對齊和精簡文字描述壓縮視覺 token,降低 Omni-LLMs 推理時的輸入 token 成本。在兩種規模的 Qwen2.5-Omni 上,它減少 54% 輸入 token,準確度仍與完整 token 模型相若,在五項音訊視覺基準的平均準確度分別達其 101.2% 和 101.4%。
Decoding Without a Decoder(DWD)在微調後的 diffusion transformer 加入最終步預測頭,讓模型直接輸出像素,移除潛在擴散模型的解碼器,降低推理成本並維持或提升像素品質。在 Wan 影片生成中,DWD 將扭曲誤差降低 23%;在 ImageNet 上,FID 由 1.55 降至 1.43,成為像素 flow 模型中的新 SOTA。
FVScore 採用規格驅動的神經符號方法進行影片評估。
Chorus 透過一次查詢並精煉 token 與 N-gram 嵌入向量,再將表示分享至輸入層和中間層,並由各層按需要適配。實驗顯示,使用 1.2 billion 個表格參數的 Chorus,表現優於使用 9.6 billion 個參數的 Engram 和 FactorEngram,表格規模約小 87%。
Code World Model 2.0 提出 Invoker-Render,結合雙向創作模型與因果四步串流模型,支援可控影片生成。模型以約 200 小時的多粒度資料訓練,並透過 Progressive Forcing(ProForcing)訓練及蒸餾串流渲染器。實驗顯示,它可穩定生成 30 分鐘賽車影片,並保留場景及主體外觀。
論文探討透過跨視角共識緩解虛假相關性;頁面只列出論文標題及引用、連結資訊,未提供方法細節或實驗結果。
VSpark透過改良推測解碼,加速自回歸視覺語言動作模型,在多項機械人操作任務中達到 1.28x–2.10x 無損加速。方法包括校準動作噪聲 rollout、隱藏特徵對齊,以及重用被拒草稿的後續預測。測試涵蓋四個採用不同動作 tokenizer 的 VLA,以及四項操作基準。
研究指出,智能體演化的瓶頸往往不是提出更好的候選內容,而是評估難以可靠識別真正的改進。研究涵蓋七種演化方法、六個模型及超過 10M 次 LLM calls;候選內容的篩選表現不優於隨機,而常見的數個百分點方法差距,小於同一方法兩次獨立運行的差異。作者因此主張,開發自我改進智能體應轉向提升改進的可識別性與累積性,而非只設計更多候選改進機制。
論文提出一種高階注意力層,為每對項目以第三項作為見證,並在零温度下選取最高分見證及計算並列數量,只傳遞比較這些數量的位元。最大值檢索測試中,模型在規模為訓練集 1,000 倍的集合上,十個種子均達至少 99.95% 正確率;改用軟計數的同一網絡在 4,096 個項目時正確率降至 42%。
在三個購物基準測試中,提高 LLM 購物智能體的思考力度,未能在統計上改善產品選擇質素,卻顯著提高其自我報告的信心。大多數模型在不同思考力度下校準不佳,而且常在相同任務中出錯,甚至選中同一件錯誤產品。
Anthropic 的 Claude 解決了理論物理學中兩個關於黑洞與量子引力的未解問題。在 N=4 super Yang-Mills 理論中,它算出弱耦合下的相變仍是突變;在模組 bootstrap 中,它推導出 Λ 的精確公式(約為 9.1266),並證明該版本方法無法再降低黑洞質量上限。兩項結果都不直接描述我們的宇宙,也沒有實際應用,但有助於理解量子力學與廣義相對論如何統一。
文章聚焦咖啡館與科學的興起。
一項分析 2,000 篇論文的新研究發現,AI 評審把更多批評指向附錄,與人類評審的關注分佈明顯不同。AI 模型將 62% 的已識別弱點歸於附錄材料,人類評審則為 8.4%;較新模型約有 50–70% 的批評來自附錄,GPT-5 則不足 30%。研究指出,偏重附錄可能令評審過度關注次要細節而忽略論文主要發現;這種偏差在不同模型存取方式下仍然存在。
Airbnb 研究人員推出 CASTLE,利用去識別化的預訂紀錄及大型語言模型生成合成搜尋查詢和相關性標籤,讓自然語言搜尋模型在真實搜尋流量不足時也能訓練。CASTLE 與最佳基線 Promptagator 的 KL 散度分別為 1.01 和 9.33,散度降低 9.2 倍;三名專家對其相關性判定的認同度介乎 91% 至 93%。
在 SaaS 用量計費任務的隔離 VM 基準測試中,折疊式單一循環搭配漸進式技能披露,比按角色拆分子智能體快 2.66 倍。兩種方案最終都通過 20 個隱藏測試案例;折疊方案用 2 次模型調用、13.68 秒完成,按角色拆分方案則用 5 次調用、36.36 秒,前者輸入 token 減少 67.0%、API 成本減少 54.9%。
作者測試 32,485 筆 A 股交易的 8 種止蝕區間,發現 5%止蝕/10%止賺組合的止賺命中率只有 23.8%,低於 33.3% 的損益平衡要求;平均回報持平,靠的是未觸及任何界線的交易。止蝕未明顯改善平均回報,但可限制尾部跌幅;同為 ±5% 區間,收市價高於 MA20 的交易平均回報為 +0.03%,低於 MA20 則為 -0.17%。
cloro 的公開基準測試比較六款網頁搜尋 API,Exa 以每次搜尋中位數 0.74 秒成為最快者。兩款 Google SERP API 每次約需 8 秒,但在 824 道多跳問題中,單次搜尋答對率分別為 80.2% 和 77.4%,高於 Exa 的 64.0% 及 Tavily 的 48.4%。
Moth 宣佈,Tessa 在 IBM 的 Phoenix Nighthawk r2 處理器全部 120 個量子位元上編碼並恢復 1,568 個實數值。Tessa 按晶片的物理連接排列資料與地址量子位元,毋須 SWAP 閘、路由或輔助量子位元;論文稱這是按其定義規模最大的同類實驗。Moth 表示,Tessa 可在 Atlas 平台用於影像處理實驗。
Sakana AI 公開日本金融領域的日文基準 JFinBench,並以日本 6 項金融資格考試的 2026 年試題評測 12 個 LLM。無工具設定下,Kimi K3.1 Pro 得分 83.4,較 GPT-6 Astra 的 93.6 低約 10 分,主要失分原因是日本製度知識不足。基準以編碼智能體轉換考題、由人手逐題核驗的流程建構,並公開數據集、程式碼及排行榜,支援配合新試題更新。
國家超級計算深圳中心的靈晟以 2.198EFlops 的 Linpack 雙精度實測性能,排名《2026中國高性能計算機性能TOP100排行榜》第一,約為 2025 年榜首系統 487.94PFlops 的 4.5 倍。靈晟今年6月已登頂全球超算TOP500,此次是在國內榜單排名第一,並非再次破紀錄。榜單中另有一台搭載沐曦加速卡的整機排名第10,沐曦亦首次出現在這份榜單上。
Google 的地理空間推理智能體 GRA 以 Gemini 驅動;一項論文研究建立 GeoExpertQueries 和 GeoKTools 兩個基準,評估開放式分析的合理性與工具編排能力。
這期 AI/ML 研究摘要整理了生成式與具身 AI、MoE 簡化、LLM 智能體可靠性及跨模態 3D 建模的研究結果。LO-World 的 IoU 提升 10.9 %、Chamfer 誤差降低 30.1 %,運行速度超過 25 FPS;SimpleHC 則在維持標準 MoE 基準準確度下縮短訓練時間。
EDGAR 和 SphereFlow 以具幾何感知能力的 flow matching,取代繁重的迭代式重建流程。EDGAR 只需一次 diffusion step 即可修復 Gaussian avatar,平均額外耗時由小型的 5.04 分鐘至大型的 16.60 分鐘不等。SphereFlow 用於缺失模態補全後的腦腫瘤分割,縮小了與完整模態 oracle 約八成的效能差距。
GEM 以熵正則化的反向 KL 散度最小化,改善 LLM 監督微調中的過擬合與輸出多樣性。在 Llama-3-8B 的實驗中,GEM 在通用指令微調及數學推理、程式碼生成任務上均優於交叉熵;配合多數投票或 Best-Of-$N$ 時,表現最高提升 10 個點。
清華大學李勇教授團隊提出 SkillMaster,讓同一個 Agent 在強化學習中共同學習任務執行,以及技能的建立、更新和保留。基於 Qwen2.5-7B-Instruct 的實驗中,SkillMaster 在 ALFWorld 和 WebShop 的成功率分別為 98.7% 和 82.0%,較 SkillRL 高 8.8 和 9.3 個百分點。
NovaSilicon 自研的 Novara 和 Nova-SI 在模擬版圖與數字芯片 floorplan 兩項實測中均取得最高平均分,分別為 0.8154 和 57.97,後者約為 GPT-6 Astra 的 1.9 倍。NovaSilicon 首提 CDK(電路設計套件),並以 Designless 描述把芯片設計實現環節交由 CDK 和工程師處理的分工模式。
作者對 Agent Games Gatekeeper 電路進行 12 組 Groth16 證明測試,所有結果均符合預期。電路會檢查 VK 是否匹配、門檻、收件人、金額上限及到期時間;錯誤決策無法建立 witness,正確決策則產生可驗證證明。作者未能提交競技場項目,帳戶目前為 0 分,亦未獲排名。
ONAA 測試 AI 智能體在 14,991 間商店購物,49% 可無人協助到達準備付款,但沒有商店讓智能體首次自行完成付款。其中 3,513 間商店列為買家一次批准 Shop Pay 後,智能體可自行付款;報告沒有觀察實際付款步驟。樣本只涵蓋已宣傳支援智能體購物的商店,數據截至 2026 年 11 月 15 日,且尚未獲任何商店核實。
Bijay Bastola 等人的系統性回顧與統合分析納入 8 項研究,估算 74 名未受正式超聲心動圖培訓或認證的操作人員,在即時 AI 引導下取得符合診斷品質門檻影像的比例為 96.3%。
一項涵蓋 1222 名參與者的研究發現,參與者使用 AI 解題後一旦撤去工具,答題準確率與堅持度都會下降。研究包括三組隨機對照試驗,涵蓋分數運算及類似美國 SAT 的閲讀理解題;文章指出,研究結果不代表短時間使用一次 AI 會造成永久認知損傷。
北卡羅來納州立大學研究團隊研發雷達腕帶,讓用戶可在前臂上以手指操作手錶,將前臂用作觸控板。系統校準需時3分54秒,手勢識別正確率為92.8%;測試共涉及20人,按壓力度辨識率為90.2%,測距精度為10.2毫米。團隊估算元件成本不到10美元;目前仍是原型,腕帶電路板外露。
GPT-6 Astra 協助物理學家 Nathaniel Craig 將一項格點研究策略發展為標準模型的候選非微擾定義、具體構造及詳細證明。相關工作包括一篇由 Astra 協助準備的 2026 年 10 月 arXiv 預印本。這仍是初步成果,尚待確立有限格點間距下的反射正性,並建立與連續相互作用理論的關聯。
卡內基梅隆大學的 OATs 以 E Ink 螢幕和 Google Gemini,將日常物件變成會表達情緒的 AI 小寵物。主模組成本約 20 美元,目前仍是研究原型。12 人試用研究中,部分參與者為令角色開心而多做運動、照顧植物或整理雪櫃。
作者自行盤點 Google DeepMind 的 AlphaProof Code 公開倉庫,統計出 11,377 個 Lean 檔案共 7,546,996 行。
南洋理工大學 S-Lab、商湯研究院與 Ropedia 研究團隊發布 NEO‑VLA,一款不設獨立視覺編碼器、將像素直接輸入視覺—語言主幹的機械人策略模型。模型主幹為 2B 參數,在 LIBERO 完整微調後平均成功率為 95.3%;LIBERO-Plus 分佈偏移測試加權總分為 89.7%,RoboTwin 2.0 隨機場景成功率為 69.4%。
丹麥奧爾堡大學團隊研究擴散語言模型的記憶與訓練資料提取,發現採樣步數會影響原文被精確恢復的機率;在同規模電郵補全比較中,擴散模型的提取水平低於自回歸模型。1.1B 參數模型中,達到 50% 提取機率門檻的電郵樣本數分別為 16 個和 213 個;LLaDA-8B 從一步恢復改為逐詞恢復後,達到該門檻的樣本數由 9 個增至 179 個。
SpecGuard 是一款免費、在瀏覽器運行的基準工具,用來測試 AI 編碼智能體能否按需求撰寫驗證測試,而非照抄現有程式行為。SpecGuardBench 的 291 個 Python 任務中,表現最佳的智能體驗證框架忠實度為 62.9%;參考程式有錯時,忠實度下降 19 至 31 個百分點。
Claude Sonnet 5.5 比較網頁搜尋與單次 API 呼叫查核 25 間公司,首輪網頁搜尋有 23 間完全答對,API 有 17 間。修正 API 的四個錯誤後,第二輪 API 答對 20 間,網頁搜尋答對 19 間;這是針對同一批公司調整後的測試,尚未以新公司驗證。第二輪 API 在 12 間較難查核的公司中答對 11 間,網頁搜尋則答對 6 間。
物理學家 Nathaniel Craig 與 GPT‑6 Astra 協作提出標準模型的候選晶格定義,嘗試為該理論建立非微擾描述。方法把同一組力場逐步映射到更細網格,以比較費米子態並累積相位修正;在網格尺度場強受限下,可為有限晶格間距提供測度。文章指出,方案仍需專家確認反射正定性,並進一步發展至實際晶格模擬;連續時空中的相互作用理論定義亦未解決。
推薦理由:文章拆解標準模型晶格定義中的手徵粒子與相位難題,並交代 GPT‑6 Astra 如何協助把細化網格策略發展成候選構造。
中國科學技術大學趙剛課題組利用 AI,從7.5萬餘種化合物中篩選出10餘個候選分子,並完成冰晶、細胞及組織層面的實驗驗證。加入候選分子的低甘油配方令紅細胞凍融回收率超過91%;常規慢速冷凍體系的回收率由約95%升至97%以上,而人臍帶來源間充質幹細胞的復温存活率達93.6%。