自建 Databricks 替代方案:家用實驗室數據湖倉與 AI/ML 數據工廠
作者在三台迷你電腦及既有 RKE2 叢集上搭建開源數據湖倉與 MLOps 平台,以 Trino、Apache Iceberg、Project Nessie、dbt 和 MLflow 等元件串起數據處理、版本管理及模型訓練部署。平台以 Nessie 管理數據版本,dbt 在分支完成測試後才合併;足球預測模型每日重新訓練及測試,通過檢查後由 KServe 提供服務。
作者在三台迷你電腦及既有 RKE2 叢集上搭建開源數據湖倉與 MLOps 平台,以 Trino、Apache Iceberg、Project Nessie、dbt 和 MLflow 等元件串起數據處理、版本管理及模型訓練部署。平台以 Nessie 管理數據版本,dbt 在分支完成測試後才合併;足球預測模型每日重新訓練及測試,通過檢查後由 KServe 提供服務。
Reflection AI 已在 Hugging Face 開放其首個大語言模型 Beam 的權重,並發布供開發者自訂模型的技術資源。配套包括標準版及多個量化版本、微調配方、評估定製對模型能力及安全護欄影響的工具、drafter model、多種 serving engine 的即用配置,以及 fused kernels。
JonathanSolvesProblems 建立加拿大法語翻譯工具 Sans calque,使用約 $1.35 微調的 Qwen3.5-4B,並列呈現微調版與原始模型的譯文及需覆核的縮寫、術語。
ECHO 將多視野預測整合至骨幹模型的自遞歸機制,並以動態深度取樣提升預訓練效率及推理草擬能力,毋須輔助模組。預訓練在推理與程式碼任務上提升下游準確度,開銷僅為訓練所有深度的 MTP 一半。推理時,模型可生成超出訓練深度的草稿,並在開放式高熵生成中維持草稿與目標模型的對齊。
HybridResearcher 是一款以合成跨來源軌跡和強化學習訓練的 4B 智能體,能跨結構化與非結構化數據推理。在 HybridDeepResearch 基準上,其 pass@8 比基礎模型 Qwen3.5-4B 高 30.0 分,並超越規模大得多的 Qwen3.5-397B-A17B 8.3 分;在 BrowseComp 和 BrowseComp-Plus 上亦優於基礎模型。
Mike Kim 開發 Doorman,讓 Shopify app 或商店的聯絡表單優先顯示顧客訊息,並把推銷訊息折疊收起。工具在瀏覽器內以 EmbeddingGemma 300M 向量和邏輯回歸分類,訊息不會離開用戶裝置;按討論串切分的五折交叉驗證中,0.8 門檻折疊 102/130 條推銷訊息,並誤藏 2/115 條顧客訊息。
Vinci4D以預訓練物理模型為半導體設計提供傳統模擬方法以外的方案,加快模擬並同步分析多種物理現象。模型以物理方程式而非客戶數據訓練,減少訓練時暴露專有設計資料的需要。Vinci4D完成2.5億美元B輪融資,估值達15億美元,並計劃拓展至汽車及航空航天等硬件行業。
中國商務部及科技部提出修訂出口管制清單的草案,涵蓋大型模型、智能體、算力集羣及數據處理等 23 項 AI 技術。大型模型若以中國「重要數據」訓練並據此提供服務,或出口其核心技術且模型訓練算力達 10^26 FLOPs、參數量至少 2 trillion parameters 或全球排名前 10,便會受管制。
推薦理由:草案按所用資料、模型規模及部署方式區分管制範圍,並為開源發布設自動許可安排,呈現出口限制與支持本土開源並行的政策設計。
Zephon 整合至 TorchTitan,令訓練在不同 GPU 數量間恢復時仍可重現相同的全局批次;數據處理在訓練工作中即時進行,毋須預先製作處理後的語料副本。
Meta 的新商業條款將於 10 月 30 日生效,要求商業帳戶允許其爬取關聯網站內容,並可用於訓練、開發及改進 Meta 產品。條款未明言 AI,亦不提供退出選項;Meta 稱內容持有人仍可透過 robots.txt 管理內容存取,並否認爬蟲使用方式有變。法律專家質疑條款能否獲法院執行,出版商則擔心 Meta 可能據此使用新聞內容訓練 AI,避付授權費。
研究提出以稀疏 MoE 大語言模型進行個人化,並識別承載不同個人化特徵的專家。模型表現可媲美 dense LLM,只啟用部分參數,且在活躍參數相近時多義性較低。因果乾預顯示,個人化潛在表徵足以重現模型行為;提高相關專家的啟用程度,可令非個人化模型趨近個人化模型。
CERN 與 Mistral 於 10 月 15 日簽署意向聲明,計劃開發名為「Large Physics Model」的粒子物理基礎模型;CERN 稱其為首個對撞機物理基礎模型。模型將以大型強子對撞機中數十億次模擬質子碰撞訓練,協助重建碰撞、識別粒子、標示異常訊號及測試新探測器設計。雙方未公佈預算或時間表。
Meta 新條款似乎允許其抓取與商業帳戶相關網站的內容,並用於開發、改進、研究及訓練 AI 產品。條款將於 10 月 30 日生效,適用於在 Facebook、Instagram、WhatsApp 和 Messenger 推廣內容的商業帳戶;條款稱,不接受新政策的企業可能須停止以商業用途存取或使用 Meta 產品。
反覆以早期模型生成的合成數據微調企業模型,會使模型逐步失去罕見案例知識,最終出現模型崩潰。五個遞歸週期的測試中,Gen 3 領域精確率由人類基準的 94.6% 降至 68.1%,長尾召回率由 88.2% 跌至 29.3%。防範措施包括追蹤數據來源及保留人類真實資料,每批訓練數據至少包含 25% 經認證的人類基準資料。
作者為沿海氣候韌性規劃構建元優化持續適應系統,將倫理可審計性納入架構,以應對氣候資料分佈變化、災難性遺忘及決策不透明。模型在以 2015–2020 年資料建立的留出測試集上準確率達 94%,但在 2023 年風暴潮資料上嚴重失準。`meta_alpha` 和 `meta_lambda` 經多種模擬沿海情境訓練,讓模型學習調整更新幅度及保留內容。
兆豐股份與樂聚機器人合作,15台樂聚夸父人形機械人在汽車零部件工廠上料,作業成功率達98%。機械人可抓取內徑80到120毫米的零件,適配15個工位、覆蓋10餘種零件,累計運行約1000小時並參與生產超6萬件零部件。兆豐股份近日向開放原子開源基金會OpenLET社區捐贈上料真機作業迴流數據集,報道指出真實場景數據是提升具身模型作業能力的重要基礎。
AI 對數據的需求有望為華爾街曾經熱捧的另類數據市場帶來新機會。AI 公司需要 Slack 私訊、內部備忘錄、交易紀錄及合約等工作資料,並可受惠於比對沖基金所需更廣、更深入的數據目錄。不過,另類數據供應商過去曾難以在擴大服務規模時維持數據質素,相關商機未有保證。
ReplyDesk 以微調的 Qwen3.5-4B 為小商戶撰寫 Google 評論回覆,但在盲測中只獲評審 5.0% 的首選。評測涵蓋 300 條未參與訓練的評論,並比較四種回覆;微調模型每條回覆成本為 $0.00010。
Mistral AI 與 CERN 於 2026 年 10 月 15 日簽署意向聲明,計劃打造以數十億次 LHC 模擬碰撞訓練的粒子物理模型 Flare。模型預計用於從探測器訊號重建碰撞、識別粒子、尋找意外訊號,以及協助評估未來探測器。雙方未公佈預算或時間表。
Data World 是一個多智能體引擎,從明確機制合成數據環境、任務及評分規準,用於訓練模型發掘分析洞見,毋須軌跡蒸餾。DataWorld-Bench 涵蓋 50 個未參與訓練的世界及 16 個領域;以合成任務進行 RL-zero 訓練後,DataWorld-35B-A3B 在四項基準的分數均高於 Qwen3.6-35B-A3B,提升 7.06 至 20.90 分。
中國信通院人工智能研究所聯合發布《面向智能體能力構建的高質量數據集建設指南(2026年)》。聯合發布方包括聯想(北京)有限公司及中國人工智能產業發展聯盟數據委員會,指南於人工智能產業大會的 AI 數據集與數據標註高質量發展論壇上發布。
CoDA 框架讓模擬數據引擎與機械人動作策略透過共享失敗及進度記憶共同演化,提升分佈外操作成功率。四類操作任務中,成功率由監督式微調後的 5.3% 提升至 27.6%,在相同生成預算下較最強閉環基線高 9.5 個百分點。LIBERO-Pro 經 15 輪生成與訓練後,位置擾動下成功率由 25% 升至 84%,指令擾動下則由 1% 升至 76%。
MMSearch-OPD結合可控數據精煉、強化學習(RL)與 on-policy distillation(OPD),提升長程多模態搜尋能力。Refine 流程擴展現有簡單多模態問題的推理鏈,並控制搜尋深度及跨模態證據要求。實驗顯示,數據精煉帶來提升,而在 SFT 後聯合訓練進一步改善搜尋能力。
Waypoint-OPD 按照教師模型在強化學習早期與後期的策略偏移方向一致性,閘控端點偏移,以改善策略偏移蒸餾。以 RL 訓練的 Qwen3-4B 為教師,在數學及程式推理的六種領域與學生模型設定中,Qwen3-8B、Qwen3-14B 及 Qwen3-30B-A3B 均取得所比較蒸餾方法中最高的領域平均分;相較只傳遞端點偏移,方法只需額外一次凍結教師評分。
MRTPO 為多獎勵訓練提出獎勵專屬的 token 級信用分配,透過重播策略在有否驗證器資訊時的回應,以每個 token 的 Jensen-Shannon 距離衡量其相關性,並重新分配獎勵優勢,無需輔助模型或 token 級標註。在 text-to-SQL、多約束指令遵循及工具呼叫任務中,MRTPO 收斂較快,表現亦優於對比方法。
中國人形機器人產業正透過中外企業協作推進工業落地,但仍面臨數據短缺、算力不足及產業鏈不完善等瓶頸。西門子宣佈開放中國五家工廠及六類應用場景,支持具身智能發展;地瓜機器人的旭日S600已適配優必選、它石智航、上海人形等20餘家機器人企業。文中指出,真實產線數據、跨企業協作與算力仍是擴大工業應用的重要條件,而目前工廠尚未大批量引入人形機器人。
Meta 的新商業條款將於 10 月 30 日生效,商業帳戶繼續使用 Facebook、Instagram 或 WhatsApp,即同意 Meta 抓取關聯網站內容並用於訓練 Meta 產品。目前商業帳戶沒有退出條款的選項;Meta 稱網站仍可透過 robots.txt 管理內容存取,但法律專家指出,條款或令 Meta 主張其凌駕網站的封鎖指示,AI 訓練是否符合合理使用仍有法律爭議。
Mosaic 提出多工作階段智能體強化學習方法,透過不使用 critic 的階層式最佳化,按各工作階段的邊際貢獻調整優勢估計。在 BrowseComp 上以 Qwen3.5-4B 進行的實驗中,Mosaic 在上下文壓縮及子智能體分叉情境均勝過把軌跡層級優勢廣播至所有工作階段的方法,平均使用的工作階段亦較少。
Routing Policy Optimization(RPO)在擴散生成器內引入隨機注意力路由,以獎勵訊號對齊生成器,同時保留原有的確定性採樣器。文字生成圖像和文字生成影片的實驗顯示,RPO 改善了生成質素,訓練效率較 Flow-GRPO 類方法高近 4x。
SCOPED 為不同能力分別訓練專家,透過獎勵引導反思提取技能,再以在策略蒸餾將程序知識整合至統一視覺語言模型。蒸餾時,技能只用於引導專家監督,不會提供給統一模型在推理時使用,以減少不同能力之間的幹擾。在八個多模態基準測試中,SCOPED 持續優於骨幹模型及混合能力強化學習方法。
Microsoft 宣佈完成新一代基礎模型 MAI-Base-2 的預訓練,並稱其性能勝過所有參測開源權重模型。MAI-Base-2 總參數規模為 2.8T、活躍參數規模為 80B,使用 6,000 個 NVIDIA GB200 GPU 訓練 38 天,平均浮點算力利用率為 21%,有效吞吐量為 89%。
Athanor 論文介紹一個開放的智能體原生研究系統,並展示四個 Claude Opus 5.5 智能體在 104 小時內自主後訓練 Qwen3-4B-Base,使其平均表現追平或超越官方指令微調版本。
MaLoW(Memory as LoRA Weights)將串流影片歷史逐步編碼至固定大小的 LoRA 權重,以權重承載長期記憶。其模型在 OVO-Bench 和 StreamingBench 分別取得 74.5% 和 84.8%,並在參數規模由 0.8B 至 11B 的基礎 VLM 上帶來一致的效能提升。
微軟稱自研預訓練模型 MAI-Base-2 的性能超過目前驅動 GPT-5.6 Sol 的模型,訓練算力僅為 OpenAI 的四分之一,訓練成本亦有望較低。微軟表示曾私下將 MAI-Base-2 與多款 OpenAI 模型比較,依據包括其掌握的 OpenAI 模型技術資料;蘇萊曼另稱,該模型所需計算量只有 DeepSeek 的十二分之一,但未説明比較的是哪款 DeepSeek 模型。
Microsoft 公佈 MAI-Base-2,並稱其預訓練 FLOPs 效率較 DeepSeek-V4-Pro-Base 高 4x-12x。這款 MoE 模型的總參數量為 2.8T,啟用參數量為 80B。
NVIDIA 與 IIT Madras、AI4Bharat 介紹 Nemotron-pretraining-Indic-v1,這套涵蓋 22 種印度語言、約 2.8 trillion tokens 的預訓練語料及 GPU 加速開源生成流程即將推出。
推薦理由:文章交代語料的語言與文字系統覆蓋,並拆解翻譯、品質評估及修復流程,呈現這套生成配方如何按不同語言工作流調整。
AutoSFT 以多智能體協作自動執行監督式微調數據研究中的多種數據操作,並透過分離執行、分析和合成改善評測表現。分析子智能體令最佳 IFEval 提升 +6.5,合成子智能體再令 IFEval 提升 +3.4、IFBench 提升 +2.9。同一流程應用於程式碼任務時,分析令 MBPP+ 較未能提升的單智能體高 +3.7。
SCOPE提出基於GRPO的強化學習目標,按語義片段調整策略更新權重,以改寫文字生成圖像提示詞並提升生成品質,無需額外圖像渲染。在 Qwen-Image、SD3 和 FLUX.1-dev 上,相較 vanilla GRPO,SCOPE 在 GeneVal 和 T2I-CompBench 的平均相對提升分別為 9.48% 和 7.62%。
NVIDIA 與 IIT Madras 的 AI4Bharat 實驗室合作公佈 Nemotron-pretraining-Indic-v1,這套涵蓋 22 種印度語言、約 2.8 trillion tokens 的合成預訓練語料將很快推出,並配套開放的 GPU 加速數據生成流程。
AIData.Broker 整理 673 個來源的 973 筆公開報價,彙整 2026 年 AI 訓練數據各類價格中位數。中位數包括企業紀錄每家公司 $316K、語音資料集每小時音訊 $118、錄音報酬每工時 $24,以及文字授權每合約年 $16M。