跳到正文
11月12日週四
  1. DEV Community54

    機器學習如何劃分訓練集、驗證集與測試集以避免數據洩漏

    機器學習應以訓練集擬合模型、驗證集調整設定,並只在最後使用未觸碰的測試集作最終評估,以降低數據洩漏風險。常見比例為 80/10/10 或 70/15/15;分類任務可分層抽樣,時間序列則應按時間先後切分。數據較少時可用 5 或 10 折交叉驗證協助調參,但仍須保留未參與交叉驗證的測試集作最終測量。

  2. 阿里雲開發者社區 AI44

    30 分鐘、約 5 元,將大模型能力蒸餾至 Qwen3-0.6B 小模型

    阿里雲 Qwen3 蒸餾方案以大模型生成的資料微調 Qwen3-0.6B,將大模型能力蒸餾至專精特定任務的小模型,示例流程約需 30 分鐘、預估費用約 5 元。資訊提取測試中,未微調的 Qwen3-0.6B 準確率約 14%,微調後表現接近大參數模型。方案適合高頻、單一的結構化任務,不適合開放式對話及多領域問答。

  3. DoNews55

    張一鳴稱字節跳動有能力與 Anthropic、OpenAI 競爭,追平前沿技術最早要到 2029 年或 2030 年

    彭博社援引知情人士稱,張一鳴在近期 AI 團隊全員大會上表示,字節跳動有能力與 Anthropic 和 OpenAI 競爭,但追平前沿技術最早要到 2029 年或 2030 年。他稱,字節跳動 Seed 語言模型所用的預訓練數據集,比領先競爭對手的數據集小幾個數量級。報道還提到,字節跳動雖有豐富的國內內容生態,但取得全球優質、多語言、高知識密度語料時面對物理壁壘和版權障礙。

  4. DEV Community53

    構建小型決策模型 Gev(四):自訂與接入日常服務

    作者介紹如何把基於 Google 的 T5Gemma 2、擁有 270M 參數的 Gev 決策模型接入日常服務,並透過選項描述在推理時調整判斷,毋須重新訓練。文章亦説明如何用 Gemma 4 生成合成樣本與軟標籤,再以自有領域的保留校準集重新擬合温度參數,並建議使用 500 至 1,000 個實際數據樣本校準。Gev 在單 GPU 上的決策延遲為 45 ms,完整微調約需 14 GiB VRAM。

  5. 新浪科技65

    DeepMind 發佈 AlphaGenome 2,預測 DNA 變異在不同細胞中的影響

    DeepMind 發佈新一代 DNA 序列模型 AlphaGenome 2,加入單細胞數據以預測遺傳變異在不同細胞類型及狀態下的影響。在涵蓋 28 種原代免疫細胞的測試中,模型識別出約 30% 的相關因果變異,第一代經單細胞數據微調後為 16%;AlphaGenome 2 已透過 AlphaGenome API 向非商業研究開放,商業研究則處於私有預覽階段。

  6. DEV Community67

    從零訓練 757M 參數 LLM,再改為微調 Qwen2.5-0.5B-Instruct:實作經驗與教訓

    作者以情感支持對話為任務,比較從零訓練的 253M、757M 模型與微調後的 Qwen2.5-0.5B-Instruct;在所測提示中,自建模型的輸出質素較弱。初期語料缺少説話者標記,曾令回覆離題;基準測試亦顯示,沒有 KV cache 的 757M 模型生成速度比 Qwen2.5-0.5B-Instruct 基礎模型慢 2.1 倍。

  7. DEV Community58

    中國 AI 算力分配爭議:文章拆解「55% 用於 AI 影片生成」説法的口徑問題

    文章梳理中國「55% 的 Token 消耗用於 AI 短劇與影片生成」説法的傳播,指出原始數字未交代統計口徑和方法,不能直接當作全國算力佔比。文中援引字節方面的數據,指影片生成約佔其總算力 10%,影視創作類 Token 消耗不到 20%,並指出 Token、算力與收入不可混作同一指標。

  8. 阿里雲開發者社區 AI39

    2026 阿里雲雙十一 GPU 雲伺服器全系價格一覽及大模型微調部署教學

    阿里雲 2026 雙十一推出 EGS GPU 雲伺服器多款 NVIDIA GPU 實例優惠,涵蓋 T4、V100、A10 和 L20,供不同規模的推理、微調及訓練使用。T4 搶佔式實例低至 1.42 元/小時,A10 目錄價最高直降 25%;活動由 11 月 1 日至 11 月 30 日。文章亦列出計費方式,並示範 GPU 環境校驗、安裝 PyTorch 及使用 vLLM 部署模型。

  9. AWS Machine Learning Blog62

    在 Amazon SageMaker HyperPod 上偵測及恢復靜默數據損壞

    文章示範在 Amazon SageMaker HyperPod 的 PyTorch DDP 訓練流程加入三項檢查,以偵測靜默數據損壞並定位可疑 GPU。流程涵蓋非有限梯度檢查、跨節點 ring replay 和權重指紋比對,並説明如何隔離及替換可疑節點,再從可疑窗口前的檢查點恢復。

    推薦理由:文章將靜默數據損壞的偵測、定位及節點恢復連成 DDP 實作流程,並説明各項檢查的覆蓋範圍與效能成本。

  10. IT之家66

    Google DeepMind 推出 AlphaGenome 2,基因表達相關遺傳變異識別能力近乎翻倍

    Google DeepMind 推出 AlphaGenome 2,可按目標組織、細胞類型或細胞狀態,預測 DNA 序列及其變異的影響。模型以超過 1.07 億個人類及小鼠單細胞圖譜訓練,覆蓋 68 種組織;在 28 種原代免疫細胞的 TenK10K 測試中,致病因果變異識別率為 30%,上一代微調後為 16%,基因表達變化方向識別率則為 43%,上一代為 23%。

  11. DEV Community46

    微調與上下文學習有何分別?

    上下文學習在提示詞加入指示和例子,不改動模型權重;微調則透過例子訓練模型並更新參數,令格式、語氣或特定任務的表現更一致。上下文學習方便即時修改,但每次請求都要處理額外提示詞 token,且受上下文窗口限制;微調則需要準備數據、訓練、評估及重新部署。對於經常變動的資訊,檢索較合適,因為更新資訊來源無需重新訓練。

  12. Google Research51

    Google Research 提出以穿戴式數據進行 CKM 風險分層的個人化健康指導框架

    Google Research 提出研究框架,利用穿戴式數據評估心血管—腎臟—代謝(CKM)健康風險,並提供個人化生活習慣指導。其中的 SensorWM 以 2.28 million person-weeks 的 Fitbit 數據訓練,根據兩週基線資料預測 20 項生理指標未來 12 週的變化,再由語言模型智能體生成指導方案。

  13. Apple Machine Learning Research45

    門控的重要性:狀態空間模型中的記憶化與上下文學習

    研究以理論分析和實驗指出,門控機制會令狀態空間模型(SSMs)先學會把資訊記在權重中的「記憶化」解法,並延遲甚至阻礙模型收斂至正確的上下文學習解法,即使架構或記憶容量並無根本限制。另一方面,門控通常有助模型推廣至更長的序列,研究結果揭示門控對 SSMs 訓練動態與泛化的關鍵作用。

  14. HuggingFace Daily Papers(社區熱門論文)45

    EgoX:透過 Embodiment Dreaming 實現第一人稱跨具身操作學習

    EgoX 以 Embodiment Dreaming 預訓練模組化 Transformer,從人類、真實機械人及模擬示範中學習,再以目標具身示範進行微調,提升操作任務進度。涵蓋 5 項任務及 6 種機械人具身的 13 組任務-具身配對中,MXT+ 的平均正規化任務進度由從零開始訓練的 0.63 升至 0.80;在分佈外條件下則由 0.53 升至 0.77。

  15. HuggingFace Daily Papers(社區熱門論文)49

    解析成功、看似合理,卻是錯誤:輸出格式左右小模型語義解析的隱性錯誤

    研究以 PIZZA 訂餐基準測試 Qwen3.5-0.8B 和 LFM2.5-350M,發現輸出格式會影響小模型語義解析中格式正確但語義錯誤的隱性錯誤率。在 300 次訓練中,普通文字編碼於兩個模型的準確度均最高;Qwen 的 exact match 為 87.5%,高於原生 s-expression 的 85.8%,且少輸出 4.1 倍 token。

  16. HuggingFace Daily Papers(社區熱門論文)34

    以漂移方式進行數據集蒸餾

    一種新的數據集蒸餾方法在特徵提取器的潛在空間中調整合成樣本,使其逼近各類別的數據分佈,且不使用分類目標。研究發現,漂移後的數據比現有方法更能覆蓋真實分佈,同時仍可作為有效的分類訓練樣本。該方法亦可用於模型視覺化,並由圖像擴展至其他模態。

  17. Stanford HAI News46

    Stanford 團隊探索神經科學與 AI 的交匯

    Stanford Wu Tsai Neurosciences Institute 與 Stanford HAI 頒發第二輪 AI and Neuroscience Grants,資助五個探索神經科學與 AI 交匯的項目。研究涵蓋抑鬱症腦影像、嬰兒學習、神經元細胞類型、心理治療對話與腦活動,以及氣味與人類經驗,目標包括加深對大腦的理解及推進受人類經驗啟發的 AI。

  18. TNW55

    YouGov 發佈 AI 數碼分身驗證白皮書,呼籲業界制定標準

    YouGov 發佈白皮書,檢驗 AI 數碼分身 E-twins 模擬個人回答的準確度。研究建立 1,008 個 E-twins,並以 693 名經政府簽發身份證件核實身份、在 48 小時內回覆的受訪者作逐一比對;加入受訪者對 4,000+ 個品牌及實體的評分後,五分制相差不超過一分的準確率由 78% 升至 90%,有關小説的未訓練題目亦達 90%。

  19. 新浪科技70

    Mercor完成7.5億美元融資,估值升至200億美元,三名創辦人身家各達42億美元

    AI 初創公司 Mercor 宣佈完成 7.5 億美元新一輪融資,估值升至 200 億美元,較一年前的 100 億美元翻倍。Mercor 為 AI 公司連接專業人士,提供模型訓練、數據標註及效能測試;公司年化總收入據創辦人福迪透露,在兩年多內由 100 萬美元增至 30 億美元。據《福布斯》估算,三名創辦人各持有約 21% 股份,個人身家均達 42 億美元。

  20. TechSauce54

    Onclusive 併購後整合多家公司 AI 系統的策略與教訓

    Nutchapol Dendumrongsup 分享他在 Onclusive 帶領團隊為四家合併公司建立共用中央 AI 系統,並將各自能力整合至統一平台的經驗。策略涵蓋建立數據底座、提升產品體驗及提高組織效率;其中,將媒體分類系統改為單一模型後,該工作負載的基建成本下降逾 90%,維護亦縮減至一個模型。他建議先整理數據,再按任務的處理量和頻率選擇通用或專用方案,並在整合期間維持現有系統運作。

11月11日週三
  1. Google DeepMind69

    Google DeepMind 發佈 AlphaGenome 2,預測 DNA 變異對特定人類細胞類型的影響

    Google DeepMind 發佈 AlphaGenome 2,預測 DNA 序列及其變異對特定人類細胞類型的影響,連接單細胞生物學與人類遺傳學。模型以來自 68 種組織、超過 1.07 億個細胞的單細胞資料訓練,可按指定細胞類型或狀態預測基因表達等讀數,並新增 DNA 甲基化預測。

    推薦理由:AlphaGenome 2 在 TenK10K 數據集上將因果變異識別率由 16% 提升至 30%,呈現其針對特定免疫細胞解析變異效應的改進。

  2. 新浪科技67

    Google DeepMind 發佈 AlphaGenome 2,識別致病變異能力提升近一倍

    Google DeepMind 發佈 DNA 序列模型 AlphaGenome 2,從寬泛組織平均預測轉為按單一細胞類型或狀態進行條件式預測。模型以超過 1.07 億個單細胞圖譜訓練,較此前最優模型可識別近兩倍數量、能改變細胞基因表達的變異。目前模型透過 AlphaGenome API 開放非商業研究,商業研究仍處於私密預覽階段;模型僅供研究,未經臨牀或診斷用途驗證與審批。

  3. DEV Community58

    把舊程式碼賣給 AI 研究機構前,買家會先檢查甚麼?

    Origin Data Partners 説明出售或授權舊程式碼予 AI 研究機構前,買家會先核查哪些資料,並提供可在終端執行的自查命令。買家會檢查 Git 歷史、Issue 與提交的關聯、程式碼權屬、第三方程式碼及歷史紀錄中的秘密資料;完整的 issue、commit 和測試紀錄可整理成供編碼智能體使用的任務。