Hedra 推出 Model Factory,提升實體 AI 模型訓練產能
Hedra 推出 Model Factory,這項提供服務的後訓練與推理平台,透過自主訓練流程,協助機械人及其他實體系統的 AI 模型持續改進。平台可將 MiniMax 的 H3 影片模型在 Physics-IQ benchmark 的評分由 30.3 提升至 34.9;亦將 Krea 3 2K 的取樣步數由 30 降至 14,延遲由 22 秒降至 3.6 秒。
Hedra 推出 Model Factory,這項提供服務的後訓練與推理平台,透過自主訓練流程,協助機械人及其他實體系統的 AI 模型持續改進。平台可將 MiniMax 的 H3 影片模型在 Physics-IQ benchmark 的評分由 30.3 提升至 34.9;亦將 Krea 3 2K 的取樣步數由 30 降至 14,延遲由 22 秒降至 3.6 秒。
Hedra 推出 Model Factory,為機械人、製造、生物及國防團隊提供模型首次訓練後的客製化服務。服務包括租用算力、以客戶數據微調及運行模型,並由 Hedra 研究人員與可自主進行實驗的 AI 智能體協作。Model Factory 現已可在 Hedra 網站使用;Hedra 稱曾在不到一週內,使用相同的 AMD 晶片將 Krea 3 加速約六倍。
SWAM 研究如何在動作學習中維持語言與影片的對齊,並擴展世界動作模型。研究整理約 47,000 小時影片及示範數據;模型在 Easy 和 Hard 條件下的成功率分別為 88.10% 和 61.56%,三項真實世界任務的成功率為 40.00%,高於最強基線的 23.33%。團隊公開整理後的數據、訓練程式碼及模型權重。
Apache Sourcelume 新增 TrainingProvenanceRecord,讓模型生產者以機器可讀記錄列明訓練資料,並引用資料集記錄及標示 token 數和佔比。
DeepSeek 以較低訓練成本和 MoE 架構,展示大模型如何以較少算力取得高效能。DeepSeek-V3 訓練成本為557.6萬美元,總參數6710億,每次回答只激活370億個參數;DeepSeek-R1 則透過強化學習學會逐步解題。文章亦指出,降低算力需求有助推動大模型普及。
禾賽科技發布《空間智能白皮書》,闡述空間智能的技術演進、產業趨勢與應用機遇,並介紹三維世界數據引擎 Kosmo 的進展。Kosmo 包括 Kosmo One 空間相機及 Kosmo World 雲平台,提供 Sim-ready 和 Production-ready 兩類應用。白皮書指出,高質量、多模態三維空間數據的規模化供應,是推動物理 AI 發展的關鍵基礎設施。
Google DeepMind 開放 SatWeave 和 PARDIG 的即時資料及歷史檔案,供研究人員和開發者用於天氣、水文及氣候應用。SatWeave 每小時更新,涵蓋 17 個可見光、水汽及紅外線通道;PARDIG 提供時間解析度為 15 分鐘、約 10 公里解析度的全球降水圖,平均延遲約 5 小時。
推薦理由:兩套數據集分別提供全球衞星影像拼接與降水估算,並開放即時資料和歷史檔案,呈現它們支援天氣、水文及氣候應用的資料基礎。
InfraRSI 是一套智能體工作流程,將開放式指令轉化為經驗證的 LLM 訓練優化,並透過跨硬件經驗與線上更新模型先驗,協調設定和程式碼修改。在四種單節點及多節點的 dense 和 MoE LLM 工作負載中,InfraRSI 最多提升速度 2.75 倍,並將平均 MFU 從 17.4% 提高至 30.0%。
數據科學問答涵蓋數據預處理、模型評估、特徵工程及常見機器學習方法,説明各方法的原理、適用情況與限制。內容包括交叉驗證、L1 和 L2 正則化、K-Means、Random Forest、梯度下降及 SVM,並解釋類別不平衡時準確率可能造成誤導。
美團在 LongCat-2.5 技術博客中稱,訓練、Prefill 和 Decode 可獨立選擇並行配置,同時保持逐 token logprob bitwise 一致。
微軟公開一項專利申請,描述將遊戲電腦等邊緣設備的閒置顯卡算力分配給 AI 模型訓練任務。系統會按設備性能和空閒情況分配任務,並在高負載或達到温度限制時降低或暫停計算;用戶可按貢獻獲得積分。微軟尚未宣佈推出相應 Windows 功能,也未要求用戶參與。
作者在 RX 6600(8 GB)上訓練出一個 36M 參數的超網絡,根據提示詞生成各層權重,並以 Qwen2.5-0.5B 的第 6 層作為基礎層。模型使用 11,264 個詞彙、8 層生成深度及 Wiki 資訊,訓練約 8 小時、處理約 60M tokens。示範中,模型能自行決定何時呼叫工具,並根據檢索到的資料綜合回答。
作者以六個問題拆解大模型預訓練全流程,涵蓋階段安排、學習率、數千卡並行、低精度訓練、梯度裁剪、損失尖峯處理及 MFU 評估。文中列出 405B 模型訓練狀態約 6.48 TB,並引用 PaLM 540B 的 MFU 46.2%及 Llama 3 405B 的約 38%~43%。
作者以 53 篇自家文章訓練三個小型 decoder-only Transformer,實測預訓練損失曲線,並解析 Scaling Laws、學習率與重複訓練資料的影響。
微軟一項新專利提出把大型 AI 訓練任務拆成微型任務,分配給閒置的邊緣設備 GPU 執行,並讓用戶獲得報酬。用戶須主動授權,完成任務可獲積分,兑換免費軟件、模型存取權限或現金。專利公開不代表技術一定落地,實際應用及報酬仍未確定。
作者以本機實驗展示,標籤與圖像順序錯位會令模型學習錯誤答案:錯位 10% 時準確率由 0.962 降至 0.893,全部錯位時為 0.098。即使錯位 10%,訓練 loss 仍降至 0.022,因此單看 loss 曲線難以發現問題。文中建議訓練前抽樣可視化,並以相同索引同步打亂及用哈希校驗 X/y 順序。
小佩 PETKIT 發佈 PETKIT TRACE,整合餵食器、飲水機和貓砂盆記錄的數據,建立可回溯的寵物健康檔案,並由 AI 分析寵物狀態。Moonback 也計劃擴展穿戴設備、睡眠窩墊和 AI 攝像頭,從多個維度採集數據。寵物科技企業正探索以持續數據分析和訂閲服務,突破硬件同質化;但要把數據轉化為可靠洞察和可執行建議,仍有距離。
UK Biobank 的蛋白質數據在 VR 分子實驗室中呈現出平面螢幕上難以辨識的結構關係與模式。文章以 Quest 3 和 Nanome 示範查看胰島素結構,並指出 2D 圖表中不明顯的三個離羣殘基在 VR 中清晰可見。該流程以 WebXR 和 Unity URP 渲染,支援最多 10 萬個原子並維持 90 FPS。
四維圖新 CEO 程鵬表示,公司願擔任可信中間層,搭建數據合規基礎設施,協助車企理解法規、匹配技術路線並推進項目落地。公司推出“數據本地化、模型全球化”和“合規數據出入境”兩套數據閉環合規方案,以適配不同車企的海外銷量規模。四維圖新海外業務今年實現盈利,服務覆蓋160多個國家。
Nous Research 於 2026 年 11 月 6 日發佈 Arete 27B;在其 803 條提示詞評測中,宣傳式回答比例由 22% 降至 0.9%,事實平均分由 2.32 升至 2.98(滿分 5 分)。
作者分析 EGAT 直流充電網絡 212 個站點的資料,發現約四成所謂充電器故障源於通訊問題,而非硬件損壞。在 45 個模型未見站點的 8,820 次會話留出測試中,Traditional AI 得分最高(69.6),Agentic AI 召回率最高(85.1%)。
北京星空院宣佈,「辰光一號」技術試驗衞星搭載的北京太空數據中心關鍵技術,在軌測試結果通過第三方專業機構評測。衞星採用270V母線電壓,搭載經抗輻照加固的國產商用伺服器,總算力為25P(INT4),並成功驗證多個大模型訓練及推理任務。其散熱方案採用空間全液冷商用伺服器及大面積石墨烯柔性輻射器,可承載6000W峯值熱耗,三項核心技術均通過在軌驗證。
無涯智遠由北京大學助理教授張牧涵創辦,正探索即時 RSI,讓模型在發布後把新經驗寫入參數,持續學習,而非只靠上下文或外部記憶。團隊以超網絡生成參數更新,旨在降低頻繁更新成本並減少災難性遺忘;內部測試顯示,連續數百 K 次寫入後,通用能力幾乎沒有下降。
Microsoft 專利申請提出把大型訓練工作拆成微型任務,交由有閒置運算能力的手機、筆記簿型電腦和遊戲 PC 執行,並以積分、免費軟件、模型存取權或現金作為回報。用戶須明確選擇參與,系統會監察硬件負載,並可在超出限制時暫停任務。目前 Microsoft 尚未宣佈推出 Windows 或 Xbox 服務,專利申請亦未列明報酬率或支援硬件。
文章指出,追蹤、評測及調查所得的數字只反映特定抽樣方式下的樣本,不能直接代表整個目標羣體。head-based sampling 在請求開始時抽樣,可能漏掉之後變慢的請求;tail-based sampling 則在完整 trace 後決定保留內容,可保留錯誤及超過 2 秒的請求。作者建議在指標旁列明分母、抽樣方法、未涵蓋羣體及樣本量,評測亦應交代測試集內容、更新時間和與實際流量的相似程度。
研究將差分私隱演算法 Private Evolution(PE)重新表述為生成模型增強的 Wasserstein 學習,並提出具幾何感知能力的新版本。理論分析顯示,若生成器能在與目標分佈相同的低維空間生成樣本,樣本複雜度便取決於內在維度,而非環境維度;標準 PE 變體則可能無法在簡單的良好聚類案例中收斂。實驗顯示,新算法可與標準基線競爭,並提升召回率。
研究指出,依賴標準雜訊聚合原語的私隱選擇算法需要 Ω(d/ϵ) 個樣本,這是聚合模型本身的限制。研究提出實作稀疏向量技術(SVT)版本的新原語,並設計 ε-差分私隱選擇算法,達到 O(log(dn)ε) 的加法誤差,預期 SVT 查詢數為 O(dlog∗d)。結果顯示,SVT 模型與 shuffle 或聚合模型之間存在指數級差距。
SST-2 測試顯示,LoRA 適配器在噪聲達 3.47× RMS 時到達半增益點。基礎模型準確率為 60.8%,乾淨適配器為 94.5%;高噪聲下準確率跌至約 50%,低於基礎模型。測試涵蓋一個適配器、一項任務及 400 筆資料;8-bit 和 4-bit 適配器在此任務上的結果則完全一致。
睡眠穿戴裝置被指在未取得明確同意下,使用用戶腦電波資料訓練 AI。頁面未交代涉及的裝置、公司或訓練細節。
在多種數據集及規模上,e-means 用 1.2 至 3 個 epoch,便達到低於 Lloyd 執行 25 個 epoch 時的測試損失。端到端速度方面,GPU 較 Flash-KMeans 快 10–45 倍,CPU 較 Faiss 快 8–15 倍。e-means 以小批次指數移動平均更新聚類中心,並用尺度律自動設定批次大小和步長,另改良初始化及死簇復活策略。
Google 宣佈開源 JAX 訓練框架 MaxText 加入 Cloud TPU 長上下文訓練支援,提供四種 context parallelism 策略。策略包括 All-gather、A2A(DeepSpeed Ulysses)、P2P(Ring Attention)及 A2A + P2P(USP)。
作者為多語言持份者參與的傳承語言復興計劃,探索兼顧私隱的主動學習系統。架構結合聯邦學習、差分私隱、安全聚合及知情同意數據治理,讓原始數據留在社羣端。40 個用戶端的模擬中,序列標註任務以 ε ≈ 8、δ = 1e-5 作為可行的運作設定。
在 4-bit Qwen3B 上,AG News LoRA adapter 在評分測試中令 SST-2 準確率降至 0.0%,而 0.5/0.5 合併兩個 adapter 後,SST-2 準確率回升至 98.5%。
Mobile AI Factory 是一套智能體系統,會按指定任務和手機自動構建經微調及量化的小語言模型。研究在 10 項任務和 4 款 Android 手機上評估,模型在未見測試集的 5 項任務中勝過兩個採用 five-shot 設定的前沿模型,最高差距為 0.34,另有 3 項表現相當。
Bonbon 是一個僅以序列預訓練的生物學基礎模型,規模由 42M 擴至 1.6B 參數後呈現多項分子相互作用能力,並獲 NeurIPS 2026 主會議 Oral 接收,屬投稿前 0.4%。
推薦理由:Bonbon 在外部盲測中,跨 9 個疾病靶點達 61.5% 命中率,呈現序列模型如何連接分子作用判讀與候選分子篩選。
PolyRoute 提出一套類型決策路由基準測試,涵蓋 12 種語言、9 種文字系統及混合語言訊息,並提供 13 個系統的排行榜。多語言檢查點得分為 77.3%,最佳微調模型為 96.6%,TF-IDF 搭配邏輯迴歸則達 91.9%。所有文本和標籤均由 LLM 生成。
《Mixed Signals》研究權重空間編程在 EEG、ECG 模型上的應用,指出前沿模型可排查事先植入但未告知的故障,亦能僅憑架構、任務及少量訓練受試者從頭寫出網絡權重。
Latent Space 與 Handshake AI 團隊製作深度訪談,現場展示金融、生物科學及安全領域的智能體訓練與評測環境。Handshake 的 AI 訓練業務在約一年內由推出發展至 $1 billion 的年化總收入。演示涵蓋 VIALS 腦組織影像判讀、模擬銀行金融任務,以及檢視智能體檔案存取和工具操作的安全評測。
micro1 創辦人兼行政總裁 Ali Ansari 在專訪中談及如何把人類專業知識轉化為訓練數據和評估,協助提升 AI 模型能力。micro1 透過專家提供的任務、判斷和審核,以及真實工作環境,訓練前沿模型並評估 AI 智能體。其 Company Data Partnerships 計劃向企業購買營運數據,具價值的企業數據集收購金額超過 $2 million。
Latent Space 邀請 Handshake AI 的 Garrett Lord 等團隊,透過現場演示解析前沿實驗室採購的專家數據,以及相關評測環境如何設計。Handshake 的 AI 訓練業務約一年內由推出發展至年化總收入 $1 billion。演示涵蓋銀行金融任務、VIALS 科學影像基準,以及模擬檔案操作和安全情境,呈現評測對模型判斷與操作過程的檢查方式。