小米發布並開源 0.8B 文件理解模型 Xiaomi-OCR-0
小米技術發布並開源 0.8B 參數的文件理解模型 Xiaomi-OCR-0,整合文件解析、關鍵資訊抽取及 OCR 視覺問答。
小米技術發布並開源 0.8B 參數的文件理解模型 Xiaomi-OCR-0,整合文件解析、關鍵資訊抽取及 OCR 視覺問答。
研究提出以單一基於似然的演算法統一基礎模型各訓練階段,將訓練流程轉化為選擇數據、比例與時機的問題。研究團隊建立混合靜態數據與強化學習生成內容的統一訓練系統。實驗顯示,這種方法改善準確度與計算量的取捨及任務覆蓋範圍,同時保留較廣泛的能力,並為持續學習提供更強的起點。
這項研究提出 Platonic Representation Theorem,指出若正樣本視圖是同一場景的兩個觀測,且其他情況的錯位有界,不同模態分別訓練的 JEPA 會學到只差一個旋轉的相同表徵。
Wikimedia Foundation 就《紐約時報》控告 OpenAI 及 Microsoft 的版權案向法庭提交意見,主張 AI 訓練與複述原文應分開判斷。它認為,預訓練若產出有別於原文的新內容可屬合理使用;若向用戶提供原文複本並取代其接觸原作,則應取得授權。Wikimedia 並非訴訟一方,亦沒有支持任何一方。
中汽創智智能數據驅動平台業務總經理拱印生表示,未來智駕水平將靠數據評價,而非企業自行表述。中汽創智在年會發布星辰數據聯盟 2.0與車路雲星全域智能技術架構。拱印生認為,數據共建共享有助中小企業降低成本,數據流通與交易亦將逐步推動。
小米開源 0.8B 文件理解模型 Xiaomi-OCR-0,並在 Hugging Face 和 GitHub 同步公開模型權重與推理程式碼。模型以 Qwen3.5-0.8B-Base 為基座,涵蓋文件解析、關鍵資訊抽取及 OCR 視覺問答,支援 Markdown、LaTeX 和 JSON 輸出。
歐盟委員會公佈的交易資料顯示,Apple 今年早些時候與 Ascend.io 運營方 Ascension Labs 達成協議,取得 Ascend.io 知識產權的非獨佔許可、受讓部分專利的權利,以及聘用部分員工的權利。這並非收購整家公司,相關技術在許可範圍內仍可能供其他企業使用。Ascend.io 官網已發布逐步結束業務運營的通知,但未説明原因,也未提及 Apple 或這宗交易。
Netflix以Kubernetes建構GPU可靠性平台,結合分層健康檢查、自動修復和容錯訓練;Netflix報告GPU節點可用率超過99.95%,工作成功率由約98%升至超過99.5%。平台監測GPU、網絡與節點狀態,按故障情況逐步阻止新工作、排空或重啟機器,並以檢查點和彈性工作者恢復長時間訓練;亦會識別拖慢同步作業的單一慢速 rank。
希格生科在獲蓋倫獎提名一年後,推進與晶泰科技合作研發的兩條管線進入臨牀階段。SIGX1094臨牀一期基本結束,與信達生物合作治療NSCLC的Ⅱ/Ⅲ期臨牀試驗IND已獲NMPA批准;SIGX2649已獲中美IND批准,預計11月啟動臨牀試驗。希格與晶泰以「類器官+AI」平台迭代藥物研發,希格已完成心臟、腎、肝、腸及腫瘤五個模型的方法學驗證。
Intel 因記憶體成本上升、PC 市場疲弱及 AI 熱潮相關供應短缺而股價大跌,正文稱其盤前一度下跌 25%。第三季收入為 $16.5 billion,按年升 20%;公司預測第四季收入為 $15 billion 至 $16 billion,每股盈利 $0.25,低於第三季的 $0.52。
FDSML提出以生成參數提供關係監督的度量學習方法,結合 FineFractalDB 和 PA-Triplet Loss,利用迭代函數系統參數空間中的距離設定正、負樣本,訓練影像嵌入向量。
人工智能的核心轉變,是由編寫明確規則,轉為讓演算法從數據中提取模式。傳統程式由開發者設定規則並輸出答案;機器學習則以數據和正確答案為輸入,學出規則,即模型權重。若邏輯能以靜態、確定的規則清楚描述,就不應使用 AI;高維、嘈雜或非結構化模式則適合用 AI 處理。
Quantooo Lab 以兩項隨機對照檢查股票排序模型是否勝過機遇,以及訓練流程有否資料洩漏。一項是隨機挑選股票或打亂日期區塊,另一項則以隨機打亂的標籤訓練完整模型;LightGBM 的打亂標籤版本得分約為零。作者的模型結果及測試的十二個模型系列,均未能明確勝過隨機對照。
這項批判性綜述整理機器學習預測炎熱乾旱施工環境下混凝土新拌及早齡期行為的研究,涵蓋工作性與坍度損失、凝結與水化、蒸發與塑性收縮裂縫、早齡期升温與熱裂縫,以及現場強度發展。研究指出,樹模型集成與神經網絡在實驗室及模擬數據上準確度高,但採用現場炎熱天氣數據訓練的模型很少,外部驗證亦罕見;物理資訊學習、遷移學習、可解釋性及感測器驅動的數碼孿生是值得探索的方向。
2026工業數據要素大會聚焦數據要素制度建設、數據資源開發利用及數據賦能人工智能,探討釋放工業數據價值的新路徑。會上發布面向東盟的工業數據要素合作倡議宣言及《工業互聯網數據要素登記要求》國家標準,並啟動「智造」工業人工智能服務平台建設。
Reddit 行政總裁 Steve Huffman 表示,平台將於未來數月在美國以外的部分市場試行要求用戶登入後才能瀏覽。登出用戶仍可從搜尋或其他來源查看分享貼文,首頁亦可登出瀏覽;匿名模式則仍可用於私下搜尋及只讀瀏覽。Huffman 將改動與 AI 聊天機械人擷取 Reddit 資料的情況相連,並表示公司會繼續有意授權資料,商業協議設有使用限制。
哥倫比亞大學李昀燭團隊在 IROS 2026 介紹開源柔性壓阻式觸覺感測器平台 FlexiTac,分享降低製作門檻及擴展觸覺數據採集的實踐。團隊公開完整物料清單、組裝説明及讀取軟件,組裝只需 3 分鐘,並將技術棧整合至 LeRobot。演講亦展示把觸覺感測器接入 UMI,以同步採集視覺與觸覺數據,以及透過彈簧阻尼系統進行仿真校準的做法。
文章探討如何提升寵物面部識別在複雜光照和多變姿態下的魯棒性,並兼顧邊緣部署。策略包括數據增強、光照歸一化、姿態校正、注意力機制、多任務學習及模型輕量化。部署方案涵蓋知識蒸餾、INT8 量化與剪枝,並提出以增量學習和在線微調適應寵物外觀變化。
Wikimedia Foundation 在涉及 The New York Times、OpenAI 和 Microsoft 的一系列 AI 版權訴訟中提交法庭之友意見書,主張保障以受版權保護作品訓練的 LLM,但不應容許聊天機械人向用戶重現作品。基金會認為,未經授權使用作品預訓練 LLM,並產生有別於原作的新內容,可構成合理使用;若 AI 輸出取代原作並減少讀者接觸原文,則應取得授權。
文章梳理中國 8 家 AI 公司的 11 位數據與評測核心負責人,指出數據正由業務流量副產品轉為影響模型能力的核心基礎設施。文中比較字節、騰訊、阿里等公司的部門調整與分工,並聚焦外部採購、合成數據、專家知識及評測體系。
EleutherAI 與 Cerebras 合作分享 μP 實踐指南,説明如何在 Transformer 語言模型中實作、驗證及使用最大更新參數化。指南提供移植至 nanoGPT 的參考實作 https://github.com/EleutherAI/nanoGPT-mup,並介紹 coordinate check 和 μTransfer test。
EleutherAI 與 SynthLabs 宣佈在 GPT-NeoX 實作大規模偏好學習與後訓練功能,涵蓋 SFT、DPO、KTO、獎勵模型訓練及改良的監督式微調。團隊表示,GPT-NeoX 在 7B 和 13B 參數規模的後訓練中較 TRL 快 30-40%。相關偏好學習功能將納入即將推出的 GPT-NeoX 3.0。
EleutherAI 與 OpenMined 以 PySyft 示範,第三方可在不直接接觸模型或敏感數據的情況下,評估非公開 LLM 訓練數據中的風險。評估者以 TF-IDF 搜尋三種生物因子相關資料,在逾 200,000 份文件中標記約 60 份;EleutherAI 審查後,只向評估者提供結果摘要。
兩個使用相同數據和批次次序、但以不同隨機初始化訓練的 TopK 稀疏自編碼器(SAE),只有約 53% 的特徵共享。研究亦發現,SAE 越窄,跨隨機種子的特徵重疊越高;隨着 SAE 規模增加,重疊則會下降。
針對 SmolLM 2 135M 的實驗顯示,Product Key Memory(PKM)跳接轉碼器在部分規模下可與 TopK 轉碼器競爭,訓練速度更快。擴展因子達 x512 時,PKM 訓練較慢,基準模型的 FVU 表現更好。PKM 的可解釋性略高,亦能自然地將潛在特徵分組。
EleutherAI 與合作機構發佈 8 TB Common Pile v0.1 語料集,並同步推出以其訓練的 Comma v0.1-1T 和 Comma v0.1-2T 模型。兩款 Comma 模型均有 7B 參數,分別以 1T 和 2T tokens 訓練。EleutherAI 表示,Comma 的表現可與訓練規模相近、使用未授權數據訓練的模型相比。
研究團隊將 tyche 局部體積測量用於模型錯位偵測及機制異常數據點偵測,兩項任務的表現均不及其他策略。在機制異常偵測中,meta local volume 的平均 AUROC 為 0.380,meta local volume mahalanobis 為 0.572。團隊目前不打算繼續這方向的研究。
EleutherAI 提出 Attention Probes,以注意力層彙集語言模型的隱藏狀態,避免使用平均池化或只取最後一個 token。實驗顯示,其表現大致與平均探針或最後一個 token 探針相若,哪種方法較佳視乎數據集;增加註意力頭數通常有助表現,但亦會提高注意力權重熵。
EleutherAI 的 Deep Ignorance 研究發現,預訓練數據過濾可令 6.9B 模型在 WMDP-Bio 接近隨機水平,同時大致保留無關知識基準的表現。過濾模型即使以 300M tokens 專家標註的生物風險論文微調,WMDP 表現仍低於未過濾基線。但在提供論文摘要作上下文的開卷測試中,過濾模型表現接近基線,顯示數據過濾不能阻止模型利用上下文中的相關資訊。
EleutherAI 更新獎勵作弊研究進展,介紹以約 750 道編碼題和 26 種 exploit 建立的 djinn 測試環境。以 13 種 exploit 微調後,Qwen 3 32B 和 GPT-OSS 20B 在明確提示下都能找到約 35% 的未見 exploit;沒有明確提示時,GPT-OSS 20B 的比例約為 25%,Qwen 3 32B 則低於 5%。
EleutherAI 研究以 reasoning interpolation 配合重要性抽樣,監測模型訓練期間獎勵破解的早期訊號。在其實驗設定中,重要性抽樣早期將破解機率低估 2–5 個數量級,但估算趨勢對預測最終會出現哪些破解類型達到 perfect AUC。研究使用 SFT 而非實際 RL 訓練,且預測設定較容易,作者指出仍需在實際 RL 訓練中驗證。
HiRes 以區塊級寬維度 PostNorm 殘差連接,將殘差寬度與每層計算寬度解耦,提升 Transformer 訓練效率及下游準確度。擬合的 scaling laws 顯示,HiRes 的 FLOPs 效率提升 1.30 倍。以 OLMoE-1B-7B 預訓練 500B tokens 時,訓練 loss 低 0.0208,下游準確度高 1.14 點。
Cadence 於 2026 年 10 月 26 日宣佈 Maestro,這是一套可由客戶以自有設計與工作流程進行後訓練的晶片及系統設計 AI 模型組合。首批模型預計於 2026 年第四季提供部分早期存取客戶,整套環境可運行於 Cadence 雲端、公有雲或客戶自主管理的本地環境。
Dream 於週四正式公開並獲 $17M 種子融資,開始聚焦建築、工程及施工行業。其所稱的 built world models 以超過 100 million square feet 的美國實際獲批建築資料訓練,Dream 稱模型可產出承包商足以據以施工的圖紙。Dream 已在加州及德州的10個項目擔任法定設計責任方,並表示已支援總值 $20m 的房地產開發。
醫療 AI 應把臨牀人員的人工覆寫視為調查訊號,而非自動視為正確標籤,以識別模型、介面或工作流程的限制。分析時應記錄適當背景、按失效原因分類並檢視不同臨牀場景的模式,同時遵守私隱及治理要求。覆寫數據用於重新訓練前須經驗證、治理及評估;智能體系統亦應讓獲授權用戶中止行動、重新導向工作流程及撤銷權限。
Google Research提出 Sleep Framework,讓大語言模型透過清醒與睡眠階段持續學習新資訊,並整合記憶以避免遺忘舊知識。實驗中,模型可處理最長約 1000 萬 token 的上下文,並在未見語言的多階段持續學習中保持接近零的性能下降。框架在 AIME 24/25 等數學基準上取得更高準確率。
ML Experiment Cockpit 是一款免費、採用 Apache-2.0 授權的 JetBrains 插件,可在 PyCharm、IntelliJ IDEA、WebStorm、GoLand 和 CLion 內查看 MLflow、Optuna 及 W&B 的實驗資料。
Google研究團隊公佈「睡眠框架」(Sleep Framework),讓大語言模型透過清醒階段接收資訊、睡眠階段整合記憶並自我改進。框架以記憶鞏固和合成訓練樣本練習,將新資訊納入長期參數,同時避免覆蓋舊知識。實驗中,模型可處理最長約 1000 萬 token 的上下文,並在未見語言的多階段持續學習中保持接近零的性能下降,在 AIME 24/25 上取得更高準確率。
10月27日,谷歌研究團隊提出持續學習新方法「睡眠框架」,旨在解決大語言模型部署後知識難以更新及容易出現災難性遺忘的問題。框架模擬睡眠中的記憶鞏固機制,在「清醒」階段處理輸入並暫存短期記憶,在「睡眠」階段整合資訊、擴展參數、蒸餾知識,並以生成式「做夢」強化推理能力。實驗顯示,模型在1000萬token長上下文及多階段持續學習中保持性能穩定,數學推理等任務的準確率有所提升。
Google 研究團隊提出持續學習研究「睡眠框架」(Sleep Framework),讓大語言模型吸收新資訊時保留舊知識。框架把模型運作分為清醒和睡眠階段,透過記憶整合及合成訓練樣本提升自我改進能力。實驗中,模型可處理最長約 1000 萬 token 的上下文,並在未見語言的多階段持續學習中保持接近零的表現下降;在 AIME 24/25 數學基準上的準確率亦高於多種基線方法。