報道指 DeepSeek 與 Moonshot AI 曾大量使用 GPT-6 Astra 訓練新模型
《The Information》引述知情人士報道,DeepSeek 與 Moonshot AI 曾大量使用 OpenAI 的 GPT-6 Astra 訓練各自的新模型,TNW 表示未能獨立核實這項報道。
《The Information》引述知情人士報道,DeepSeek 與 Moonshot AI 曾大量使用 OpenAI 的 GPT-6 Astra 訓練各自的新模型,TNW 表示未能獨立核實這項報道。
MaxCompute 透過 DLF 元數據管理、外部表聯邦查詢、Transaction Table 2.0 及 MaxFrame,構建支援流批一體與多模態 AI 數據處理的湖倉一體平台。
AI 模型可生成胜肽候選序列並預測其性質,但預測結果不等於經實驗驗證的生物活性。候選序列的分數須結合其衡量內容、模型評估所用數據及實驗證據理解。2024 年一篇研究指出,部分 AlphaFold 預測與實驗數據吻合,亦有部分即使信心度高仍有差異。
Deepkumar Patel 撰寫教學文章,從基本微分概念講解 Jacobians、Hessians、JVP 與 VJP,並説明它們如何連結至神經網絡的反向傳播。JVP 將輸入方向的變化向前傳遞,VJP 則將輸出敏感度向後傳遞;兩者都無須建立完整 Jacobian。文章亦比較前向模式與反向模式的計算效率和記憶體取捨,並以手算例子及 JAX、PyTorch 説明相關概念。
英偉達於10月28日推出開放權重語音轉錄模型 Nemotron 3.5 Transcribe,並同步推出配套訓練數據管線 Granary v2。Nemotron 3.5 Transcribe 採用 MoE 架構,總參數量為340億,支援40種語言轉錄、31種語言與英語互譯,可區分最多8名説話人並處理多人重疊對話。
阿里雲瓴羊 Dataphin 以「治理即研發」理念,透過標準、資產、安全及 AI 引擎四大支柱,將治理融入數據建模、開發、運維和消費流程。文章指出,AI 輔助能力可降低70%以上的重複性數據開發工作量,並分析上汽大眾、雅戈爾及洋河股份的應用場景。企業選型可關注治理流程、安全管控、AI 生產力及資產消費入口。
DeepSeek LLM 初始版以 2B、7B 和 67B 規模開源,採用 LLaMA 的成熟架構,並以 2T token 語料進行預訓練。DeepSeek 的縮放定律研究顯示,最優模型規模與訓練數據量對算力的擬合指數分別為 0.5243 和 0.4757,分配略偏向模型側。
縮放定律指出,模型損失會隨參數量、數據量和算力按冪律下降,令模型規模與表現的關係變得可預測。Kaplan 2020 主張固定算力下優先增加參數;Chinchilla 2022 則提出參數與訓練 token 按 1:20 同比例增長,追求計算最優。GPT-3 以 1750 億參數展示規模效應,DeepSeek 則以模型側縮放策略和架構效率探索另一條路。
GPT-1 證明「預訓練 + 微調」可應用於多類 NLP 任務,GPT-2 則以零樣本能力和生成質素的提升,初步展示模型規模擴大與能力增強的關聯。GPT-1 有 1.17 億參數,GPT-2 有 15 億參數;文章指出,兩者維持架構和任務不變、擴大參數和數據的做法,為縮放定律埋下伏筆。
IDC發布的《中國大數據平台市場份額,2025》顯示,阿里雲以23.5%的份額排名中國大數據平台整體市場第一,市場份額同比增長29.6%。2025年整體市場規模達267.9億元,同比增長27.8%;阿里雲公有雲市場份額為48.7%,並連續五年排名公有雲市場第一。
TuringGate Lab 發佈 Suggested Jargon №1,列出本週值得了解的五個 AI 術語,並以掃描數據提供基線統計及簡明定義。Model Context Protocol(MCP)在最近 7 天錄得 73 次提及,是五個術語中提及最多的一項;其餘包括 vibe coding、open weights、distillation 和 on-device AI。
人形機器人產業正加速走向量產與實際場景應用,特斯拉 Optimus 已在加州弗裏蒙特工廠的量產線開工。按 Smart Analytics Global 統計,2026年上半年全球人形機器人出貨約1.91萬台,中國廠商佔97%以上。文章並將投資觀察重點放在核心零部件、企業主業現金流及批量訂單。
這篇個人 AI 項目指南提出以每週實際 GPU 忙碌時數計算租用與購買的損益平衡點,忙碌時間不等於 SSH 連線開啟時間。
Runcrate 團隊在 RTX 5090、L40S、RTX A6000 和 H100 上,比較 torch.compile 與 eager 模式訓練 468M 參數 Llama 類模型,並測試 SDPA 和 eager attention。
AI 業界正轉向合成數據生成,以應對高質素人類數據短缺,並減少真實數據收集涉及的私隱、授權成本和偏見問題。生成式對抗網絡(GAN)、擴散模型及 LLM 輔助模擬可生成仿照真實數據特徵、但不含原始識別資料的數據集。合成數據可用於醫療診斷、自動駕駛模擬及詐騙偵測訓練。
景爍科技獲嘉御資本、HKSTP香港科技園、天狼星資本等共同投資,完成數千萬美元 pre-A 輪融資。文遠知行披露,景爍科技致力於構建物理 AI 時代的數據與模型基礎設施,產品體系包括 WorldEngine、GENESIS-Robotics、EGOK、高質量數據集及定製數據服務。本輪融資後,公司將擴充核心研發團隊並推進相關基礎設施建設。
中國氣象局國家衞星氣象中心發布風雲三號 H 星(FY-3H 星)及風雲四號 C 星(FY-4C 星)的數據產品,普通公眾也可使用相關服務。公眾可透過風雲衞星遙感數據服務網及客戶端、「風雲看地球」和「風雲此刻」微信小程序取得產品;相關數據有助提升温室氣體探測、數值天氣預報、環境監測及空間天氣監測預警能力。
文遠知行旗下景爍科技已獲嘉御資本、HKSTP香港科技園、天狼星資本等共同投資數千萬美元,完成 Pre-A 輪融資。其WorldEngine、GENESIS-Robotics及EGOK構成數據與模型產品體系;公司稱已有100+客戶與生態合作夥伴,在手訂單金額數十億元,年收入增長超100%。
超衍智能於10月28日發布首個35B模型Apex-35B-V1.0,並將RSI引入模型研發,讓AI參與實驗設計及結果分析。公司公佈的評測結果稱,模型在研究能力、智能體與編碼、推理等多項評測中超越Flint,並在部分任務上超越參數規模達500B和800B的模型。
每日沽空成交比例變化能反映同一結算窗口的沽空未平倉量變化,但不能預測下一個窗口;在 2025 年至 2026 年 7 月的回溯測試中,26,213 參數的 Transformer 得分為 +0.414。測試涵蓋 6,959 隻股票的 660,246 個結算窗口,模型權重、ONNX graph 和輸入規格已在 Hugging Face 以 Apache-2.0 授權提供。
作者用一個提示詞指示 AI Agent 透過 FiftyOne Skills,從 LeRobot 社羣數據集抽取涵蓋 50 種機械人形態的 497 個 episode,並建立影片嵌入向量及可查詢相似度索引。
文章介紹如何用 FiftyOne 插件框架,為 MCAP 和 LeRobot 數據集建立可對整個數據集執行的自訂數據整理檢查。lerobot_data_curation 和 demo_quality_scorer 分別整理 LeRobot v3 episode 和 MCAP 錄製資料,按品質指標由差至好排序並支援背景執行;分數用來安排人工覆核,最終判斷仍由人作出。
文章整理 11 個機械人學習數據集,將其重新格式化或抽取子集為 LeRobot v3.0,並載入 FiftyOne,供檢視影片串流、狀態與動作向量及任務標籤。其中 4 個數據集為完整匯入,另外 7 個因磁碟容量限制而採用子集;內容涵蓋 6 個真實數據集及 5 個模擬數據集,並列出感測器、授權和匯入限制。
機器人數據品質堆疊正逐層形成,評分工具快速商品化,而連接分數、同步檢視與可逆決策的驗證環節仍未成形。文中引用的研究顯示,平滑度指標在早期夾爪釋放等結構性錯誤上,可能把缺陷示範評得更好;缺陷檢測準確度亦未必與策略成功率相關。作者建議把品質分數用作分流而非刪除門檻,並以同步播放、狀態感知訊號及可逆標籤支援人工核查;文末介紹 FiftyOne 1.19 的 MCAP 支援、同步多模態回放及其開源插件。
文章示範如何使用 FiftyOne 載入及檢視 KITScenes-LongTail,這套資料集收錄 103 個真實長尾駕駛事件。現時釋出的 103 個場景包括 100 個測試場景及 3 個 few-shot 訓練範例;每個場景有六路同步影片與 VGGT-Omega 三維重建,而三語專家推理記錄只涵蓋 3 個訓練範例。
這份指南整理了 14 個農業電腦視覺數據集,按任務與標註類型分類,並列出媒體類型、標籤欄位及 Hugging Face 連結。內容涵蓋作物與雜草分割、植物表型、植物病害分類、3D 點雲、衞星田界測繪及農業機械人追蹤,並提供各數據集的規模、年份和授權。
作者以 FiftyOne 載入並探索 Hugging Face 上的 Voxel51/motor_two_wheel_rider,這是 MOTOR 完整語料的 324 段子集。
摩爾線程開源大模型訓練基礎設施項目 Megatron-MUSA-Titan,面向 MUSA 平台上的萬卡級、萬億參數 MoE 模型訓練。項目覆蓋預訓練與強化學習,並已在摩爾線程萬卡級叢集的萬億參數 MoE 預訓練中持續應用;據介紹,項目實現高 MFU 與長穩訓練。
SPIQA 是面向科學論文理解的大規模數據集,納入論文全文、圖表及相關説明文字,以支援多模態科學 VQA。數據集涵蓋超過 25,000 篇論文、150,000 張圖及 117,000 個表格。研究團隊結合 LLM 自動生成問題與專家人工篩選,89% 的 LLM 生成問題在人類評估者眼中與人工撰寫的問題難以區分。
Helex 分享一系列公開 GitHub 專案,涵蓋 38 項基準測試式任務,涉及軟件工程、機器學習、除錯、數據處理及評測。其他專案示例包括分析訓練記錄、批次大小與運算成本,探討資料庫並行處理的正確性,以及計算和理解服務錯誤預算。
銀行數據科學系列首篇以 Wine 公開數據集示範如何用淺層決策樹尋找明確規則,並從候選條件建立凍結模型、檢視錯誤。實驗比較 24 組候選設定及一個常數基線,以三折交叉驗證的 macro-F1 選擇設定。Wine 不含借款人,實驗結果不代表貸款表現。
Cohere Labs 提出 AfriGuard,一個涵蓋 10 種非洲語言及英語、用於研究有害意圖、安全類別理解和拒答行為的多語言數據集。防護模型在安全意圖及安全類別分類上的表現遜於開源及閉源大語言模型;模型對恰當安全行為的理解得分低於 60% F1,亦常因語言表達不足而未能提供適切協助,而非明確拒答。
研究提出多教師自適應 on-policy 自我蒸餾(MTA-OPSD),讓訓練中的每個 Token 都能在候選教師池中自適應選擇偏好的教師。Qwen3 模型的數學推理實驗顯示,MTA-OPSD 持續優於現有 OPSD 方法,相對基礎模型的平均增益最高達 +5.9。
Mage-VL-Cowork 是一款 4B 混合式電腦操作智能體,經五階段訓練後在 OSWorld-Verified 取得 66.0%,達到同參數規模的最先進表現。Mage-CUA-Forge 合成了 293,806 項桌面及網頁任務,涵蓋 6,915 項技能,並將重複任務開支減少 82.6%。
研究團隊提出可擴展的模板式資料增強流程,並發布涵蓋 60 種語言的 MSafeTemp 語料庫,用於多語言安全對齊與評估。研究發現,僅以英語評估會誤判多語言安全:在英語中無法奏效的攻擊,翻譯後可奏效;加入文化本地化變體則會揭示單靠翻譯未能發現的失效。研究亦指出,以模板擴充安全訓練資料可提升多樣性和對齊質素,並改善英語以外的安全表現。
CodeSpecWeave 透過合成帶有互相依存規格及經驗證測試的軟件開發任務,訓練編碼智能體,提升其在長期基準測試上的表現。研究團隊以此流程建立 4,670 項訓練任務,涵蓋 2,865 個程式碼庫;在這些任務上進行強化學習,模型表現顯著優於基礎模型及現有基準方法。
這項研究追蹤 LLM 強化學習中訓練與推理不匹配的來源,並提出差異—滯後校正(DLC)以穩定訓練。研究將不匹配拆分為引擎數值差異和策略滯後,並在有效樣本量低於一半時重新同步取樣器。DLC 在 Qwen3-0.6B 和 Qwen3-1.7B 上,將與 on-policy 訓練的 KL 散度維持在兩次獨立 on-policy 訓練之間 KL 散度的兩倍以內。
研究提出以 BookNavigator 配合強化學習和細粒度獎勵,訓練大語言模型從長篇教材中自主檢索、學習並應用知識,完成數學證明題。Intern-S2-Preview-35B 的整體證明準確率由 51.5% 升至 79.5%,並在 BrowseComp-Plus 和 CL-bench 上分別較基礎模型提升 1.7 和 2.3 個百分點。
使用 TOME-Math 微調後,語言模型在數學評測中的非加權平均分數較基礎模型提高 16.7 個百分點,整體表現亦超越受評估的三種公開指令數據基線。TOME-Math 將 2,118 本大學數學教科書轉換為約 380K 筆結構化證明監督記錄,並保留章節順序、命題與證明連結、依賴關係及來源資訊。研究團隊表示將公開這個語料庫,以促進結構化數學監督研究。
SynthFaces 以 Arc2Face 擴散模型結合身份嵌入向量上的 flow matching,生成具多元身份、標籤分佈均衡的合成人臉數據集,供生成模型訓練及微調。數據集中的圖像與身份均為合成,旨在減少對真實個人圖像的直接依賴,並以最近鄰非洩漏指標檢查身份分離。研究亦展示以該數據集微調現有的 adapter-based 個人化生成方法。