跳到正文
11月3日週二
  1. DEV Community37

    極端數據稀疏下行星地質勘測任務的生成式模擬基準測試

    文章探討如何以生成式模擬,為極端數據稀疏情境下的行星地質勘測任務建立模型基準測試。所建流程包括生成地質場景、產生場景標籤,以及跨地質參數抽樣評估,並以穩健性概況取代單一準確率。由於合成場景的真實標籤已知,模型可在未見過的地質分佈上接受評估。

  2. HuggingFace Daily Papers(社區熱門論文)45

    StepX-OPD:重新思考擴散模型的多教師在策略蒸餾

    StepX-OPD 將多教師在策略蒸餾與少步採樣整合訓練,讓文字生成圖像擴散模型同時習得多項能力並以少量步驟生成。研究在 SD3.5-Medium 和 FLUX.1-dev 上評估,StepX-OPD 在比較的四步方法中取得最高標準化平均分,並超越四十步 Flow-OPD。於 SD3.5-Medium 上,其 GPU 訓練時數較先後進行 DiffusionOPD 和步數蒸餾減少約 37%。

  3. DEV Community57

    BERT-Mini 知識蒸餾在 1,000 個標籤加 9,000 個無標註句子的設定下提升準確率 8.5 個百分點

    作者將 BERT-base 情感模型蒸餾至 BERT-Mini,發現使用 10,000 個標註樣本時,蒸餾與只用標籤訓練沒有可測差異。改用 1,000 個標註樣本加 9,000 個由教師模型提供目標的無標註句子後,模型平均準確率達 82.34 ± 0.50%,比只用 1,000 個標籤高 8.5 個百分點,並與使用 10,000 個人工標籤訓練的學生相差不足 0.3 個百分點。

  4. AWS Machine Learning Blog66

    如何在 Amazon SageMaker AI 上以知識蒸餾建立高效購物智能體

    AWS 示範以 SeqKD 在 Amazon SageMaker AI 上微調 Qwen3.5-4B 購物智能體。流程以 Amazon Bedrock 上的 GLM-5.3 生成多步軌跡,並用 ShoppingBench 評分器保留成功樣本。

    推薦理由:ShoppingBench 保留測試集顯示,4B 學生模型平均 ASR 比基礎模型高 24 個百分點,保留教師推理也比只訓練工具呼叫高約 13 個百分點。

11月2日週一
  1. HuggingFace Daily Papers(社區熱門論文)43

    P²-MOPD:以參數先驗加速多教師 on-policy 蒸餾

    P²-MOPD 將凍結專家模型的 task vectors 作為可學習參數先驗,與學生權重及係數 α 聯合訓練,以加速多教師 on-policy 蒸餾。Qwen3-1.7B 和 4B 實驗中,最終平均恢復率分別達 94.7% 和 94.9%,高於 MOPD 的 80.9% 和 83.1%,並以一半訓練步數超越 MOPD 的最終表現。

  2. HuggingFace Daily Papers(社區熱門論文)42

    BEND 2.0:評測設計 DNA 所需的能力

    BEND 2.0 評估 DNA 語言模型預測突變效應及指導序列設計的能力,結果顯示線性讀出可媲美或超越模型原生輸出,功能性後訓練亦能提升表現。基準涵蓋五個實驗數據集的八項任務,模型選擇及表徵取得方式都會影響表現。模型在情境特定效應及多細胞目標設計方面仍有改進空間。

  3. 新浪科技52

    研究發現:好奇心或驅動人類大腦形成複雜結構

    研究以 275 名 8 至 15 個月大嬰兒的眼動追蹤數據設計不同好奇心水平的人工神經網絡,發現好奇心較強的網絡在新測試中表現較佳,並形成類似人腦的分層模組結構。模型完成 20 項任務;高好奇心模型在學習速率低於閾值時切換任務,低好奇心模型則隨機切換。研究者還發現,好奇心最強、結構最接近人腦的網絡連接密度先升後降,按人腦發育曲線估算的「生理年齡」約為 20 歲,低好奇心網絡則約為 9 歲。

  4. DoNews34

    研究發現好奇心驅動類腦結構演化

    劍橋大學團隊模擬嬰兒學習行為,訓練數千個人工神經網絡,發現高好奇心模型在任務泛化能力、模組化結構及連接發育規律上均更接近人腦。研究以275名8–15個月大嬰兒的眼動數據為基礎;高好奇心模型形成的發育軌跡對應約20歲,低好奇心模型則約為9歲。

  5. 創業邦59

    算力的盡頭是電力?從第一性原理看 AI 基礎設施

    AI 基礎設施擴張的瓶頸不只在電力供應,而在發電、電網、散熱、儲存、封裝、資本和地方許可等環節的建設速度。文章梳理瓶頸由 GPU 轉向 HBM、CoWoS,再延伸至變壓器、燃氣輪機和並網排隊,並指出效率提升仍伴隨 AI 使用量和訓練算力增長,推高總用電需求。吉瓦級數據中心約兩至三年可建成,但大型變壓器交付最長四年、燃氣輪機交貨超過三年,呈現芯片、機房和電網建設節奏的錯配。

  6. DEV Community41

    ID2Pattern 如何在不令詞彙表爆炸的情況下預訓練支付風險模型的高基數身份欄位

    ID2Pattern 以身份行為模式而非身份值進行預訓練,讓支付風險模型可從交易序列學習,並推廣至推理時首次出現的卡片。框架以 Local Anonymous ID(LAID)編碼身份在序列中的重現模式,再用向量量化從無標籤交易序列預訓練多尺度模式碼本,供風險評分使用,無須為新身份擴大詞彙表或重新訓練。

  7. 阿里雲開發者社區 AI27

    數據治理反覆踩坑:問題不在清洗,而在源端與末端分工顛倒

    數據治理反覆失效,症結在於源端與末端權責不清、整改規則未能迴流,並非單靠末端清洗就能解決。中翰軟件提出雙端治理框架,由源端以標準、技術和行為約束減少髒數據,末端分層校驗、追溯數據血緣,並把整改規則迴流源端。文中指出,單靠數倉末端補救的問題解決率約為 50%,管控前置到業務源頭則可達 95%。

  8. DEV Community56

    產品目錄微調後,模型只學會單一方向的事實

    以產品目錄中的單向句子微調模型,未必能令它從相反方向回答同一事實問題,研究人員將此現象稱為 reversal curse。2023 年由 Lukas Berglund 領導的研究發現,模型在虛構句子的反向提問測試中,表現不優於隨機猜測;文中亦指出,GPT-4 知道 Tom Cruise 母親身份的比例約為 4/5,但給出其母親姓名後,答出她兒子是誰的比例約為 1/3。

  9. DEV Community65

    潛在狀態就是日誌中從未記錄的欄位

    作者以模擬房間示範,未記錄的門開關狀態會令四權重模型失準,而加入一個潛在欄位後,模型可從温度變化捕捉這項隱藏動態。訓練沿每段序列前向計算,再以時間反向傳播更新欄位;在 4,800 次轉移的數據上,模型損失為 0.172,接近門狀態延遲一個步驟才可見時的 0.174 基準。

  10. 阿里雲開發者社區 AI37

    MaxCompute 作為大語言模型訓練數據清洗與 AI 語料處理平台:功能機制與適用條件解析

    MaxCompute 透過存儲接入、計算推理及治理索引三層能力,支援 PB 級離線 AI 語料清洗、多模態解碼、批量向量化及可信樣本交付。使用前提包括符合離線批量處理節奏、依賴 MaxFrame 生態、啟用向量能力,以及具備 GPU 配額和鏡像管理。它定位為語料產線的編排與治理中樞,不替代實時引擎或專用模型服務。

  11. 新浪科技47

    京東×南大提出 Road MOPD,緩解風格與跨領域學習幹擾

    京東零售視覺多模態與 AIGC 團隊聯合南京大學提出 Road MOPD,透過跨教師回饋與梯度投影,減少多教師蒸餾中的跨領域更新衝突。在 Qwen3-4B 上,相較 Vanilla MOPD,數學+醫學及程式碼+醫學兩組高衝突設定均實現雙域共同提升,醫學均分最高提高 8.78 個百分點;數學+程式碼組合亦有提升。

  12. 新浪科技45

    完善知識產權制度機制,促進人工智能產業發展

    人工智能技術演進帶來訓練數據利用、生成內容責任及智能體參與交易等知識產權新問題,制度規則需兼顧創新激勵與權利保護。文章主張按技術環節和利用方式分類制定規則,訓練端適度放寬、生成端從嚴把關,並讓責任配置與各方控制能力相匹配。治理應由結果審查轉向過程治理,建立可追溯、可檢查的具體標準。

  13. 虎嗅43

    未來買數據的未必是人,可能是智能體

    中國人民大學教授楊翰方指出,未來數據需求可能更多來自智能體調用,數據或以服務形式直接創造價值。上海正推動公共數據產品化,平台已有215家數商入駐、接入7716個授權目錄,累計開發175個基礎數據產品。高質量數據集的評價標準、數據產權保護及流通規則仍待完善。

  14. DoNews49

    簡智機器人宣佈完成新一輪1億美元融資

    北京數據與評測基礎設施公司簡智機器人宣佈完成新一輪1億美元融資,約合人民幣6.65億元。本輪由上汽集團、百度集團等產業方,以及光合創投、中信金石投資等財務方共同參與。公司專注於多模態數據採集與治理技術,此前已完成多輪融資。

  15. 第一財經24

    華依科技:將積極拓展智駕核心產品應用邊界

    華依科技表示,將積極拓展智駕核心產品的應用邊界。公司指出,2026年物理 AI 訓練數據採集已成為 IMU 行業的重要新興增量賽道,而高質素真實物理交互數據短缺是制約物理 AI 模型迭代的關鍵瓶頸。其 IMU 產品可輸出連續、無遮擋的運動時序數據,彌補純視覺方案在運動解算上的不足。

  16. 第一財經45

    國家數據局召開座談會,深化高質量數據集建設「以需定供」「以用促建」

    國家數據局近日召開行業高質量數據集建設鏈主工作座談會,提出以需定供、以用促建、以評提質,推動數據集建設。會議要求摸清人工智能用數需求、建立利益分配和商業回報機制、加強應用反饋與產業鏈協同,並推動數據集接入國家數據基礎設施。測評服務將轉向工具化、訂單化模式,以縮短測評週期、降低成本並提升效率和交付能力。

  17. 新浪科技54

    摩爾線程 GPU 支撐無錫(惠山)國產智算中心一期 2000 卡滿載,20 多家客戶排隊進場

    無錫(惠山)國產智算中心一期 2000 卡投入運作僅三個月便滿載,已有 20 多家客戶在平台測試或開展正式業務。摩爾線程、無錫市惠山招商集團與新石器慧通簽署戰略合作協議,新石器將以摩爾線程全功能 GPU 擴大自動駕駛模型訓練,需求規模接近萬卡級。平台訓練業務佔比超過 62%。

  18. Sakana AI:Blog44

    Sakana AI 研討會報告:Jürgen Schmidhuber 談 AI 的過去與未來,以及日本挑戰語言模型、世界模型與 Physical AI

    Sakana AI 宣佈開始自行開發預訓練模型,並計劃讓語言模型與世界模型協作,透過 AI 科學家的自我改進循環提升模型。首席科學家秋葉拓哉公佈語言模型系列「Sakana Sawara(暫稱)」。首個小型模型「Sawara Small(暫稱)」如進展順利,預計於2027年春季公開。

  19. DEV Community27

    極端數據稀疏情境下行星地質勘測任務的自監督時間模式挖掘

    面向火星、木衞二及月球等行星地質勘測任務的極端稀疏觀測,文章構建並測試自監督時間模式挖掘流程,以處理不規則、缺乏標註的時序資料。流程採用偏向較大時間間隔的遮罩策略,在合成稀疏基準測試中令下游邊界檢測召回率提升約 18%,並結合時間對比損失與預測編碼。