機器學習如何劃分訓練集、驗證集與測試集以避免數據洩漏
機器學習應以訓練集擬合模型、驗證集調整設定,並只在最後使用未觸碰的測試集作最終評估,以降低數據洩漏風險。常見比例為 80/10/10 或 70/15/15;分類任務可分層抽樣,時間序列則應按時間先後切分。數據較少時可用 5 或 10 折交叉驗證協助調參,但仍須保留未參與交叉驗證的測試集作最終測量。
機器學習應以訓練集擬合模型、驗證集調整設定,並只在最後使用未觸碰的測試集作最終評估,以降低數據洩漏風險。常見比例為 80/10/10 或 70/15/15;分類任務可分層抽樣,時間序列則應按時間先後切分。數據較少時可用 5 或 10 折交叉驗證協助調參,但仍須保留未參與交叉驗證的測試集作最終測量。
速騰聚創與BitRobot於CoRL2026期間宣佈達成戰略合作,並同步發布RoboCap LiDAR-100數據集。該數據集收錄100小時廚房、汽修及汽車美容等真實作業資料,並同步記錄激光雷達、RGB圖像及慣性測量數據,輸出QVGA分辨率的深度資訊。
長鑫科技在 IC China 展示面向伺服器、手機及汽車三大場景的記憶體產品矩陣,並指出算力與記憶體需求正呈現分層。伺服器方面,DDR5 RDIMM 覆蓋 32GB 至 128GB 容量及 5600Mbps 至 8000Mbps 速率,MRDIMM 最高速率達 12800Mbps。
Google DeepMind 於 11 月 11 日發佈 AlphaGenome 2,將基因變異影響預測由組織平均細化至指定細胞類型或細胞狀態。TenK10K 測試中,其因果變異比例為 30%,高於單細胞數據微調後第一代 AlphaGenome 的 16%,效應方向預測則為 43% 對 23%。
阿里雲 Qwen3 蒸餾方案以大模型生成的資料微調 Qwen3-0.6B,將大模型能力蒸餾至專精特定任務的小模型,示例流程約需 30 分鐘、預估費用約 5 元。資訊提取測試中,未微調的 Qwen3-0.6B 準確率約 14%,微調後表現接近大參數模型。方案適合高頻、單一的結構化任務,不適合開放式對話及多領域問答。
據多方知情人士,張一鳴近期在字節 AI 團隊全員會議上表示,字節有能力與 OpenAI、Anthropic 競爭,但追平前沿技術最快也要到 2029 年或 2030 年。
彭博社援引知情人士稱,張一鳴在近期 AI 團隊全員大會上表示,字節跳動有能力與 Anthropic 和 OpenAI 競爭,但追平前沿技術最早要到 2029 年或 2030 年。他稱,字節跳動 Seed 語言模型所用的預訓練數據集,比領先競爭對手的數據集小幾個數量級。報道還提到,字節跳動雖有豐富的國內內容生態,但取得全球優質、多語言、高知識密度語料時面對物理壁壘和版權障礙。
MIT 研究人員研發訓練技術,以較少數據提升氣候模擬器的預測效能和適應能力。經優化的合成數據可令模型準確預測未見過的情境,而傳統模型未能適應;生成訓練數據所需的完整地球系統模型運算,也可由六至八次減至一次。
作者介紹如何把基於 Google 的 T5Gemma 2、擁有 270M 參數的 Gev 決策模型接入日常服務,並透過選項描述在推理時調整判斷,毋須重新訓練。文章亦説明如何用 Gemma 4 生成合成樣本與軟標籤,再以自有領域的保留校準集重新擬合温度參數,並建議使用 500 至 1,000 個實際數據樣本校準。Gev 在單 GPU 上的決策延遲為 45 ms,完整微調約需 14 GiB VRAM。
DeepMind 發佈新一代 DNA 序列模型 AlphaGenome 2,加入單細胞數據以預測遺傳變異在不同細胞類型及狀態下的影響。在涵蓋 28 種原代免疫細胞的測試中,模型識別出約 30% 的相關因果變異,第一代經單細胞數據微調後為 16%;AlphaGenome 2 已透過 AlphaGenome API 向非商業研究開放,商業研究則處於私有預覽階段。
Mercor於11月10日宣佈完成7.5億美元D輪融資,估值達200億美元,三位23歲聯合創辦人按此估值各自身家約42億美元。公司由早期AI招聘工具轉向為模型公司提供專家編寫的任務、評分標準及模擬工作環境,OpenAI、Anthropic和Google DeepMind均為主要客戶。
作者以情感支持對話為任務,比較從零訓練的 253M、757M 模型與微調後的 Qwen2.5-0.5B-Instruct;在所測提示中,自建模型的輸出質素較弱。初期語料缺少説話者標記,曾令回覆離題;基準測試亦顯示,沒有 KV cache 的 757M 模型生成速度比 Qwen2.5-0.5B-Instruct 基礎模型慢 2.1 倍。
文章梳理中國「55% 的 Token 消耗用於 AI 短劇與影片生成」説法的傳播,指出原始數字未交代統計口徑和方法,不能直接當作全國算力佔比。文中援引字節方面的數據,指影片生成約佔其總算力 10%,影視創作類 Token 消耗不到 20%,並指出 Token、算力與收入不可混作同一指標。
阿里雲 2026 雙十一推出 EGS GPU 雲伺服器多款 NVIDIA GPU 實例優惠,涵蓋 T4、V100、A10 和 L20,供不同規模的推理、微調及訓練使用。T4 搶佔式實例低至 1.42 元/小時,A10 目錄價最高直降 25%;活動由 11 月 1 日至 11 月 30 日。文章亦列出計費方式,並示範 GPU 環境校驗、安裝 PyTorch 及使用 vLLM 部署模型。
Meta 團隊透過 vLLM,在 64-chip Google Cloud TPU v7 上優化 Qwen3-0.6B 的 GRPO 訓練,將完整 rollout-to-update 週期由約 100 分鐘縮至最快 56 秒;20 步中位數為 57.9 秒。
文章示範在 Amazon SageMaker HyperPod 的 PyTorch DDP 訓練流程加入三項檢查,以偵測靜默數據損壞並定位可疑 GPU。流程涵蓋非有限梯度檢查、跨節點 ring replay 和權重指紋比對,並説明如何隔離及替換可疑節點,再從可疑窗口前的檢查點恢復。
推薦理由:文章將靜默數據損壞的偵測、定位及節點恢復連成 DDP 實作流程,並説明各項檢查的覆蓋範圍與效能成本。
Google DeepMind 推出 AlphaGenome 2,可按目標組織、細胞類型或細胞狀態,預測 DNA 序列及其變異的影響。模型以超過 1.07 億個人類及小鼠單細胞圖譜訓練,覆蓋 68 種組織;在 28 種原代免疫細胞的 TenK10K 測試中,致病因果變異識別率為 30%,上一代微調後為 16%,基因表達變化方向識別率則為 43%,上一代為 23%。
上下文學習在提示詞加入指示和例子,不改動模型權重;微調則透過例子訓練模型並更新參數,令格式、語氣或特定任務的表現更一致。上下文學習方便即時修改,但每次請求都要處理額外提示詞 token,且受上下文窗口限制;微調則需要準備數據、訓練、評估及重新部署。對於經常變動的資訊,檢索較合適,因為更新資訊來源無需重新訓練。
Runway 開源機械人模型 Praxis-1,採用影片預訓練,並以 Apache 2.0 授權發布。Runway 公佈的 RoboLab-120 成功率為 46.2%,高於 FLUX 3 Action 的 42.9%、Nvidia Cosmos3 Nano 的 36.8% 及 Physical Intelligence π0.5 的 28.0%;這些基準數字尚無獨立核實。
單靠培訓無法縮小 AI 採用與投資回報之間的差距,企業還須明確界定成效、完善數據整合,並讓團隊有空間試用 AI 方案。調查涵蓋 25 個以上國家、逾 800 名職場學習專業人士;75% 指培訓內容製作加快,只有 11% 指在職表現改善。只有 35% 的學習與發展團隊持續衡量在職表現。
Google Research 提出研究框架,利用穿戴式數據評估心血管—腎臟—代謝(CKM)健康風險,並提供個人化生活習慣指導。其中的 SensorWM 以 2.28 million person-weeks 的 Fitbit 數據訓練,根據兩週基線資料預測 20 項生理指標未來 12 週的變化,再由語言模型智能體生成指導方案。
TimeNet 提供面向時序基礎模型(TFMs)的開源數據基礎設施,將自有或倉庫數據納入統一數據層,並支援多類時序任務。團隊稱,在多個時序數據集上訓練後,OpenTSLM 和 SLIP 的 F1 表現平均分別提升 14% 和 22%。
研究以理論分析和實驗指出,門控機制會令狀態空間模型(SSMs)先學會把資訊記在權重中的「記憶化」解法,並延遲甚至阻礙模型收斂至正確的上下文學習解法,即使架構或記憶容量並無根本限制。另一方面,門控通常有助模型推廣至更長的序列,研究結果揭示門控對 SSMs 訓練動態與泛化的關鍵作用。
EgoX 以 Embodiment Dreaming 預訓練模組化 Transformer,從人類、真實機械人及模擬示範中學習,再以目標具身示範進行微調,提升操作任務進度。涵蓋 5 項任務及 6 種機械人具身的 13 組任務-具身配對中,MXT+ 的平均正規化任務進度由從零開始訓練的 0.63 升至 0.80;在分佈外條件下則由 0.53 升至 0.77。
研究以 PIZZA 訂餐基準測試 Qwen3.5-0.8B 和 LFM2.5-350M,發現輸出格式會影響小模型語義解析中格式正確但語義錯誤的隱性錯誤率。在 300 次訓練中,普通文字編碼於兩個模型的準確度均最高;Qwen 的 exact match 為 87.5%,高於原生 s-expression 的 85.8%,且少輸出 4.1 倍 token。
eDMD 提出端點分佈匹配蒸餾方法,只以學生模型的最終輸出訓練共享假模型,並加強教師監督,以改善少步擴散模型的蒸餾。實驗顯示,在 SD3-Medium、FLUX.2-klein(4B 和 9B)及 Qwen-Image-2.1 上,eDMD 在 4 步生成中持續勝過現有的分佈匹配方法。
EvenVLM 提供首個面向瀕危 Even 語言的文本與多模態 VQA 數據集,並以 Qwen3-VL-4B 的 LoRA 微調提升文本任務、翻譯和 VQA 表現。
一種新的數據集蒸餾方法在特徵提取器的潛在空間中調整合成樣本,使其逼近各類別的數據分佈,且不使用分類目標。研究發現,漂移後的數據比現有方法更能覆蓋真實分佈,同時仍可作為有效的分類訓練樣本。該方法亦可用於模型視覺化,並由圖像擴展至其他模態。
Stanford Wu Tsai Neurosciences Institute 與 Stanford HAI 頒發第二輪 AI and Neuroscience Grants,資助五個探索神經科學與 AI 交匯的項目。研究涵蓋抑鬱症腦影像、嬰兒學習、神經元細胞類型、心理治療對話與腦活動,以及氣味與人類經驗,目標包括加深對大腦的理解及推進受人類經驗啟發的 AI。
YouGov 發佈白皮書,檢驗 AI 數碼分身 E-twins 模擬個人回答的準確度。研究建立 1,008 個 E-twins,並以 693 名經政府簽發身份證件核實身份、在 48 小時內回覆的受訪者作逐一比對;加入受訪者對 4,000+ 個品牌及實體的評分後,五分制相差不超過一分的準確率由 78% 升至 90%,有關小説的未訓練題目亦達 90%。
在同一欺詐數據集與配方下,手提電腦上的 RAPIDS cuDF 配合 XGBoost CUDA,模型訓練較 pandas 配合 CPU 快 4.6-9 倍。整體資料準備耗時相若;GPU 與 CPU 的 ROC-AUC 分別為 0.9158 和 0.9147。
AI 初創公司 Mercor 宣佈完成 7.5 億美元新一輪融資,估值升至 200 億美元,較一年前的 100 億美元翻倍。Mercor 為 AI 公司連接專業人士,提供模型訓練、數據標註及效能測試;公司年化總收入據創辦人福迪透露,在兩年多內由 100 萬美元增至 30 億美元。據《福布斯》估算,三名創辦人各持有約 21% 股份,個人身家均達 42 億美元。
Nutchapol Dendumrongsup 分享他在 Onclusive 帶領團隊為四家合併公司建立共用中央 AI 系統,並將各自能力整合至統一平台的經驗。策略涵蓋建立數據底座、提升產品體驗及提高組織效率;其中,將媒體分類系統改為單一模型後,該工作負載的基建成本下降逾 90%,維護亦縮減至一個模型。他建議先整理數據,再按任務的處理量和頻率選擇通用或專用方案,並在整合期間維持現有系統運作。
Google DeepMind 發佈 AlphaGenome 2,預測 DNA 序列及其變異對特定人類細胞類型的影響,連接單細胞生物學與人類遺傳學。模型以來自 68 種組織、超過 1.07 億個細胞的單細胞資料訓練,可按指定細胞類型或狀態預測基因表達等讀數,並新增 DNA 甲基化預測。
推薦理由:AlphaGenome 2 在 TenK10K 數據集上將因果變異識別率由 16% 提升至 30%,呈現其針對特定免疫細胞解析變異效應的改進。
Google DeepMind 於 2026年11月11日發佈 AlphaGenome 2,按指定組織、細胞類型或細胞狀態預測 DNA 變異對基因調控的影響。
Google DeepMind 發佈 DNA 序列模型 AlphaGenome 2,從寬泛組織平均預測轉為按單一細胞類型或狀態進行條件式預測。模型以超過 1.07 億個單細胞圖譜訓練,較此前最優模型可識別近兩倍數量、能改變細胞基因表達的變異。目前模型透過 AlphaGenome API 開放非商業研究,商業研究仍處於私密預覽階段;模型僅供研究,未經臨牀或診斷用途驗證與審批。
Google DeepMind 發佈新一代 DNA 序列模型 AlphaGenome 2,可預測 DNA 序列及其變異對特定人體細胞類型的影響。在 TenK10K 數據集測試中,模型識別因果變異的比例為 30%、基因效應方向判斷準確率為 43%,初代 AlphaGenome 分別為 16% 和 23%。
Origin Data Partners 説明出售或授權舊程式碼予 AI 研究機構前,買家會先核查哪些資料,並提供可在終端執行的自查命令。買家會檢查 Git 歷史、Issue 與提交的關聯、程式碼權屬、第三方程式碼及歷史紀錄中的秘密資料;完整的 issue、commit 和測試紀錄可整理成供編碼智能體使用的任務。
Google DeepMind 推出 AlphaGenome 2,使用逾 100M 個、涵蓋 68 種組織的細胞特徵檔案進行訓練,以預測遺傳變異的影響。模型供非商業研究使用。
文章示範如何用 Sentence Transformers 為多向量嵌入模型加入 Token Pooling 感知訓練,令模型同時以原始及壓縮後的文件向量進行檢索訓練。
推薦理由:文章將壓縮後的檢索目標納入訓練損失,並在相同儲存預算下比較一般訓練與池化感知訓練的檢索品質保留差異。