Youtu-Parsing-Omni 論文提出以單一編碼器解析多種模態
研究提出 Youtu-Parsing-Omni,以共享權重的單一編碼器解析文件、圖像、音訊及影片,並以統一結構輸出結果。單一 5B 參數 checkpoint 在 OmniDocBench v1.6 得分 96.96 Overall,並在 OmniParsingBench 得分 75.08 Avg.,領先所有開放權重模型。
研究提出 Youtu-Parsing-Omni,以共享權重的單一編碼器解析文件、圖像、音訊及影片,並以統一結構輸出結果。單一 5B 參數 checkpoint 在 OmniDocBench v1.6 得分 96.96 Overall,並在 OmniParsingBench 得分 75.08 Avg.,領先所有開放權重模型。
一項涵蓋全球204個國家和地區的研究發現,過去三十多年人們雖然活得更久,不健康地生活的時間也有所增加。1990至2023年,全球人均預期壽命由64.6歲升至73.8歲,健康預期壽命由55.9歲升至63.1歲,兩者差距由8.8年擴大至10.7年。女性的壽命與健康壽命差距更大,2023年為12.1年,男性則為9.3年。
機制異常檢測研究發現,現有方法在 Llama 3.1 8B 的非算術異常資料集上表現欠佳,但模型仍呈現怪異行為。正規化流和稀疏自編碼器方法的表現接近原始激活值的 Mahalanobis 距離,其中正規化流的表現高度吻合。算術資料集上的檢測表現則與 Mistral 7B v0.1 相若。
EleutherAI 與 OpenMined 以 PySyft 示範,第三方可在不直接接觸模型或敏感數據的情況下,評估非公開 LLM 訓練數據中的風險。評估者以 TF-IDF 搜尋三種生物因子相關資料,在逾 200,000 份文件中標記約 60 份;EleutherAI 審查後,只向評估者提供結果摘要。
EleutherAI 的研究發現,現有方法未能在不大幅降低效能的情況下,以自然語言重寫 LLM 的整個層。現有 SAE 潛在特徵解釋在任意情境下只能識別不足 50% 的活躍特徵;雖能識別 90% 的非活躍特徵,但若要模型標記所有可能的特徵,生成連貫文字所需的準確率接近 99.9%。
兩個使用相同數據和批次次序、但以不同隨機初始化訓練的 TopK 稀疏自編碼器(SAE),只有約 53% 的特徵共享。研究亦發現,SAE 越窄,跨隨機種子的特徵重疊越高;隨着 SAE 規模增加,重疊則會下降。
針對 SmolLM 2 135M 的實驗顯示,Product Key Memory(PKM)跳接轉碼器在部分規模下可與 TopK 轉碼器競爭,訓練速度更快。擴展因子達 x512 時,PKM 訓練較慢,基準模型的 FVU 表現更好。PKM 的可解釋性略高,亦能自然地將潛在特徵分組。
EleutherAI 與合作機構發佈 8 TB Common Pile v0.1 語料集,並同步推出以其訓練的 Comma v0.1-1T 和 Comma v0.1-2T 模型。兩款 Comma 模型均有 7B 參數,分別以 1T 和 2T tokens 訓練。EleutherAI 表示,Comma 的表現可與訓練規模相近、使用未授權數據訓練的模型相比。
文章以星形域體積估算研究隨機神經網絡參數—函數映射的歸納偏置,並嘗試複現及擴展 Neural Redshift 的結果。研究以參數空間中不同區域的體積比例,估計收斂至相應解的可能性。局部體積估算透過在初始化位置抽取隨機單位方向,計算成本函數低於指定閾值時的半徑。
研究團隊將 tyche 局部體積測量用於模型錯位偵測及機制異常數據點偵測,兩項任務的表現均不及其他策略。在機制異常偵測中,meta local volume 的平均 AUROC 為 0.380,meta local volume mahalanobis 為 0.572。團隊目前不打算繼續這方向的研究。
EleutherAI 提出 Attention Probes,以注意力層彙集語言模型的隱藏狀態,避免使用平均池化或只取最後一個 token。實驗顯示,其表現大致與平均探針或最後一個 token 探針相若,哪種方法較佳視乎數據集;增加註意力頭數通常有助表現,但亦會提高注意力權重熵。
EleutherAI 的 Deep Ignorance 研究發現,預訓練數據過濾可令 6.9B 模型在 WMDP-Bio 接近隨機水平,同時大致保留無關知識基準的表現。過濾模型即使以 300M tokens 專家標註的生物風險論文微調,WMDP 表現仍低於未過濾基線。但在提供論文摘要作上下文的開卷測試中,過濾模型表現接近基線,顯示數據過濾不能阻止模型利用上下文中的相關資訊。
EleutherAI 更新獎勵作弊研究進展,介紹以約 750 道編碼題和 26 種 exploit 建立的 djinn 測試環境。以 13 種 exploit 微調後,Qwen 3 32B 和 GPT-OSS 20B 在明確提示下都能找到約 35% 的未見 exploit;沒有明確提示時,GPT-OSS 20B 的比例約為 25%,Qwen 3 32B 則低於 5%。
EleutherAI 研究以 reasoning interpolation 配合重要性抽樣,監測模型訓練期間獎勵破解的早期訊號。在其實驗設定中,重要性抽樣早期將破解機率低估 2–5 個數量級,但估算趨勢對預測最終會出現哪些破解類型達到 perfect AUC。研究使用 SFT 而非實際 RL 訓練,且預測設定較容易,作者指出仍需在實際 RL 訓練中驗證。
EleutherAI 建立 AI 可治理性的量化動態模型,追蹤合作與不合作的 AI 開發勞動、監測和修正能力如何共同影響控制風險。中央參數設定下,不合作行為長期約佔 AI 勞動的 25%,高於文中設定的 10% 高風險線;模型估算,監測投入增至約 3 倍或修正率提高約 6 倍,可把比例維持在 10% 以下。
比較 7 種加密貨幣模型後,Huber 的樣本外 Spearman IC 最高(+0.055),但選中交易扣除模擬成本後平均為 −7.74 bps。XGBoost 的交易結果最接近零,平均為 −1.73 bps,但不確定區間跨越零;LightGBM 為 −1.93 bps。研究修正回測中的邊界洩漏及價格歷史缺口處理問題後重跑比較,但結果不代表可盈利策略,也不是實盤交易結果。
HiRes 以區塊級寬維度 PostNorm 殘差連接,將殘差寬度與每層計算寬度解耦,提升 Transformer 訓練效率及下游準確度。擬合的 scaling laws 顯示,HiRes 的 FLOPs 效率提升 1.30 倍。以 OLMoE-1B-7B 預訓練 500B tokens 時,訓練 loss 低 0.0208,下游準確度高 1.14 點。
論文提出免訓練方法 AB-Attention,以高稀疏度近似影片擴散 Transformer 的密集註意力,降低注意力計算量。在 Wan2.1 和 HunyuanVideo 上,它跳過 89–92% 的注意力,較最強基線提升 PSNR 至多 4.4 dB,端到端加速最高達 2.23 倍。
PhysInsert 是一個參考式物件插入框架,透過共同調整物件及周邊場景,提升插入結果的物理合理性。研究團隊建立 Insert World 數據集,並以幾何引導適配及 2D 物件-場景空間監督,處理物件位置、光照、透視及姿態。實驗顯示,PhysInsert 在 PhysInsert-Bench 和 DreamBooth 上提升圖像保真度,用戶研究亦顯示其物件放置及光照整合更準確。
OpenFlyV2 是統一的機載視覺語言行動模型,可在資源受限的硬件上進行即時空中導航與推理。研究團隊建構的模擬數據集包含約 70,000 條導航軌跡及 60,000 組視覺語言指令與回應。模型以 NVIDIA Jetson Orin NX 機載生成動作,每組包含 12 個航點,運行頻率為 10 Hz;從模擬零樣本遷移至實體四軸飛行器後,在四個真實環境的導航成功率為 48%。
Anthropic 一項研究發現,50 位因果推斷專家在四項分析決策中採納 AI 偏好的比例達 86%,高於隨機選擇的 50%。即使 AI 意見與參與者原有判斷相反,參與者改變立場的可能性仍高出 53 個百分點;只有 15% 明確提及 AI。
Neuralink 公佈 VOICE 語音恢復項目的早期可行性研究,報告一名 ALS 參與者使用首週達每分鐘 75 詞輸出,並將大腦訊號轉為文字和語音。在 12.5 萬詞詞庫下,詞錯誤率(WER)為 5.8%。研究計劃招募約 6 名因 ALS、脊髓損傷或中風失去溝通能力的參與者;目前數據來自單一參與者,尚未有經同行評審的完整論文。
Google Research提出 Sleep Framework,讓大語言模型透過清醒與睡眠階段持續學習新資訊,並整合記憶以避免遺忘舊知識。實驗中,模型可處理最長約 1000 萬 token 的上下文,並在未見語言的多階段持續學習中保持接近零的性能下降。框架在 AIME 24/25 等數學基準上取得更高準確率。
L3G-World 交替運用記憶更新器與影片擴散 Transformer,自回歸生成空間一致的互動世界,並以精簡的潛在 3D Gaussian 記憶體表示場景。相較於各項指標中效率最高的既有 3D 記憶基線,其 3D 基元最多減少 38.6 倍、記憶更新快 3.2 倍、記憶渲染快 359 倍,生成速度達 9 FPS。
SpecSlot 提出像素空間生成式 Transformer,透過局部頻譜槽位和受限全域注意力,在不增加計算成本下提升圖像細節。ImageNet-256 上,其最終 FID 與 FLOPs 相若的 JiT 對照模型相若,收斂速度則更快;ImageNet-512 上,FID 改善 2.84,FLOPs 減少 3.9%。
一項 MMLU-Pro 審計發現,單靠選擇最長選項,在 STEM 網站來源的生物及心理學題目中分別得分 66.7% 和 67.0%。這類題目佔 MMLU-Pro 約三分之一,卻佔最長選項捷徑超出猜測基準部分的 85.8%。
Anthropic 研究發現,50 位因果推斷專家在政策評估的四項分析決策中,有 86% 採納 AI 智能體偏好,遠高於隨機選擇的 50%。事後有 52% 認為最終建議更像自己的觀點,只有 15% 明確提到 AI;另一方面,使用 AI 後嚴重方法或編碼缺陷由 55% 降至 6%,分析時間中位數由 90 分鐘縮至 65 分鐘。研究團隊建議 AI 智能體同時呈現正反兩方最強論證,或先詢問用戶立場。
Glance 將生成與重排序整合至同一個 9B backbone,透過共享預填上下文及輕量適配器和 pointer head 為候選段落評分。經 39 分鐘 MS MARCO 微調後,Glance 在 SciFact 和 NFCorpus 的 nDCG@10 分別為 0.741 和 0.345,高於 bge-reranker-v2-m3 的 0.721 和 0.326。
這篇論文提出在線強化學習框架,直接在實際運行中的 iOS 應用程式訓練 UI 導航智能體。框架把智能體拆分為規劃智能體與 UI 定位模型,以逐步及任務完成獎勵配合 PPO 訓練,並提出 GiGPPO,利用並行軌跡中視覺相似狀態的獎勵穩定價值估算器。
Anthropic 研究發現,50 位因果推斷專家在四項分析決策中採納 AI 偏好的比例達 86%,高於隨機選擇的 50%。AI 提出相反意見時,參與者改變原有立場的可能性高出 53 個百分點,而多數人未察覺自己受影響。
Google研究團隊公佈「睡眠框架」(Sleep Framework),讓大語言模型透過清醒階段接收資訊、睡眠階段整合記憶並自我改進。框架以記憶鞏固和合成訓練樣本練習,將新資訊納入長期參數,同時避免覆蓋舊知識。實驗中,模型可處理最長約 1000 萬 token 的上下文,並在未見語言的多階段持續學習中保持接近零的性能下降,在 AIME 24/25 上取得更高準確率。
OmniDR-Bench 多模態基準測試顯示,智能體即使答題準確,仍有 37% 的視聽證據推理差距。18 組智能體配置中,最佳證據評分僅為 63.3/100;簡報呈現平均 81.8 分,內容及引用質素則分別只有 45.4 分和 47.8 分。
10月27日,谷歌研究團隊提出持續學習新方法「睡眠框架」,旨在解決大語言模型部署後知識難以更新及容易出現災難性遺忘的問題。框架模擬睡眠中的記憶鞏固機制,在「清醒」階段處理輸入並暫存短期記憶,在「睡眠」階段整合資訊、擴展參數、蒸餾知識,並以生成式「做夢」強化推理能力。實驗顯示,模型在1000萬token長上下文及多階段持續學習中保持性能穩定,數學推理等任務的準確率有所提升。
Replit 發佈《Agent Habitat Architecture》白皮書,提出面向 AI 智能體的安全參考架構及成熟度評估體系。架構以權限只能收縮、憑證不向智能體公開、網絡存取須經策略校驗及高危操作須經人工審批為核心原則,並設有 11 個評估維度及 0–3 級成熟度。白皮書聚焦智能體運行期安全,供企業評估及部署智能體平台時參考。
Google 研究團隊提出持續學習研究「睡眠框架」(Sleep Framework),讓大語言模型吸收新資訊時保留舊知識。框架把模型運作分為清醒和睡眠階段,透過記憶整合及合成訓練樣本提升自我改進能力。實驗中,模型可處理最長約 1000 萬 token 的上下文,並在未見語言的多階段持續學習中保持接近零的表現下降;在 AIME 24/25 數學基準上的準確率亦高於多種基線方法。
IDM(Intrinsic Distribution Matching)在 internal DMD 基礎上加入生成器 EMA 特徵的矩約束,無需外部特徵編碼器。
HairDeck 以擴散 Transformer 從單張圖片生成風格化髮片及彈簧骨骼動畫,並將髮型表示為無序 token 集合。於 CHARM 自有測試集上,HairDeck 的 Chamfer 距離降低 44%、髮片方向誤差減少逾半,速度快 33 倍;生成的資產可供動畫製作,並可匯出至下游格式使用。
研究指出,權重正規化訓練的收益主要由有效學習率(ELR)軌跡驅動,並提出 AIR 排程。在 128 B-token Mixture-of-Experts 預訓練實驗中,AIR 的終端訓練損失較 cosine 排程低約 0.01,且超參數穩健性更佳。
分析 F-Droid 索引中 2,392 款含翻譯的 Android 應用後發現,使用 Weblate 的程式庫每百萬翻譯單位多出 17 個 U+200B,非 Weblate 程式庫則有 70 個,前者約為四分之一。至於 Weblate 未移除的其他不可見控制字元,兩組分別有 531 個和 303 個;這項觀察性分析顯示差異,未能證明成因。
研究團隊提出 Value as Memory(VaM),將價值模型的近期預測作為任務進度記憶輸入動作策略,並以離線至在線的強化學習持續更新策略與價值模型。紙盒裝配中,VaM 連續自主運行 4 小時,成功率超過 95%;相較移除價值快取的版本,最終任務成功率提升 29.4%。