跳到正文
10月21日週三
  1. DEV Community49

    My first fine-tuning patch made my model worse. The second one, with fewer examples and half the learning rate, fixed it

    Spawn Point 開發者以較少的新訓練例子和減半的學習率修補微調回歸,讓多組舊評測集得分回升,但部分新評測集仍有下降。第二次修補使用約 370 個新例子、1,080 條重播資料及 3e-5 學習率;Spawn Point 0.3.3 則改為專注像素藝術,加入六種新怪物。

  2. Ars Technica · AI59

    Meta 試圖讓下載盜版資料的員工代高層承責

    在 Entrepreneur Media 訴 Meta 案中,法官 Hixon 要求 Meta 説明哪些人決定、授權或批准取得或下載影子圖書館,而非只提交姓名。Meta 稱,Llama 1 和 2 早期 AI 訓練取得數據集時,管理層通常不作正式決策,種子下載批准亦來自協作討論。Hixon 認為作者的要求涵蓋所有決策者,並要求 Meta 説明未用於訓練的盜版作品如何處理。

10月20日週二
  1. DEV Community32

    Beyond Bigger Models: Building a Rust-Based AI Platform with Specialized Nano-LLMs

    文章提出以 Rust 建構模組化 AI 平台,透過語義路由協調專用 Nano-LLM、共享基礎模型、LoRA adapters、知識圖譜及確定性執行,按任務選擇合適的處理方式。Nano-LLM 可專注處理行政法或公共財政等狹窄任務,遇上複雜情況則交由較大型模型處理。模型規模須以基準測試決定,文章亦探討微調、知識蒸餾及從零訓練三種方法。

  2. 第一財經65

    國家數據集團在雄安成立,將主責數據資源開發利用

    國家數據集團有限公司於10月20日在河北雄安新區成立,是以數據資源開發利用為主責主業的中央企業,目標包括釋放數據要素價值和服務人工智能發展。國家數據局負責數據基礎制度建設及政策設計,國家數據集團則專注數據資源開發利用等市場運營和落地。集團將推動央地聯動與產業協同,並探索數據多次復用以提升其價值。

  3. 第一財經60

    國家數據集團有限公司成立

    國家數據集團有限公司於10月20日在河北雄安新區成立,是一家以數據資源開發利用為主責主業的中央企業,總部位於河北雄安新區。集團成立旨在推進數據資源開發利用、釋放數據要素價值、服務人工智能發展及繁榮數據產業生態;成立後將加強央地聯動、深化產業協同。

  4. IT之家64

    國家數據集團在雄安新區成立,主責數據資源開發利用

    國家數據集團有限公司今日在河北雄安新區正式成立,這家央企以數據資源開發利用為主責主業。其定位是數據要素市場的市場化運營執行主體,國家數據局則負責規則制定、統籌協調及監管。集團成立目標包括推進數據資源開發利用、服務人工智能發展;專家認為,集團有助促進數據跨行業、跨區域流動共享並破除數據孤島。

  5. elsewhere:文章65

    新石器完成近 4 億美元 E 輪融資,全球無人配送車超 3 萬輛

    新石器宣佈完成 E 輪近 4 億美元融資,全球部署超過 3 萬輛 L4 級無人配送車,覆蓋近 20 個國家、300 多座城市。車隊累計自動駕駛里程超過 2.6 億公里;本輪由博裕投資與一家國家級基金聯合領投,資金主要投向精細化營運網絡及端到端大模型數據訓練閉環。

  6. DEV Community41

    Getting Hands‑On with Timestral: Mistral’s Open‑Source Time‑Series Foundation Models

    Mistral 推出 Timestral,一套專為時間序列資料訓練的開源基礎模型,可用於預測、異常偵測等任務。套件包括 Timestral-Base、微調版本 Timestral-FT,以及以 Docker 映像提供的輕量推理伺服器。Timestral 支援自託管,並以統一 API 提供預測、異常分數及嵌入向量。

  7. elsewhere:文章46

    UniPat AI 投入一億元,尋找改變科研範式的人

    UniPat AI 宣佈成立 AI 探索實驗室並推出 UniPat Fellows 計劃,未來一年將投入一億元,邀請不同科學領域的頂尖研究者與 AI 研究員、工程師合作探索模型能力邊界。計劃設有全職和項目制 Fellow,項目制參與期由 3 個月起;研究會把真實科研任務、專業軟件、仿真系統和實驗反饋接入可互動環境,用於評測和提升模型能力。

  8. 第一財經49

    江蘇:到2028年底建成覆蓋超過100個重點場景的物理 AI 高質素數據集

    江蘇省數據局等四部門印發行動計劃,提出到2028年底建成覆蓋超過100個重點場景的物理 AI 高質素數據集。計劃亦提出,面向世界模型前沿方向建成超過10個具因果一致性、時空連續性及應用可驗證性的高質素數據集,支撐模型提升物理認知、實時推演及迭代優化能力。

  9. HuggingFace Daily Papers(社區熱門論文)47

    Text-to-Image Generative Modeling Without Language Pretraining

    Halcyon 證明,多模態自回歸模型只用圖文配對資料從零開始訓練,無需大規模語言預訓練,也能實現高質素文字生成圖像。Halcyon-0.52B 以少 18.2 倍的預訓練計算量,取得優於 LlamaGen-XL/8 的 gFD 評分;Halcyon-1.6B 亦以少 275 倍的計算量優於 JiT-T2I-XXL/8++。研究亦發現,純文字預訓練不會提升文字生成圖像效果。

  10. DEV Community54

    強化學習獎勵塑形令混合語言模型推理軌跡縮短最多 65%

    相關研究指,為混合語言模型調整強化學習獎勵可重新啟動其 THINK 推理模式,令推理軌跡平均縮短最多 65%,並大致維持答案準確度。在 9B 參數設定中,生成限制內完成率由 45.9% 升至 93.9%,平均軌跡長度由 2,494 降至 868 tokens。測試只涵蓋 Qwen3 系列與 StartLux-Decision 及各自的基準;準確度仍有輕微下降,能否延伸至其他架構或任務尚不清楚。

  11. HuggingFace Daily Papers(社區熱門論文)41

    Holi-World: Building Holistic World Intelligence from Human-Ego Experience

    HOLI-WORLD 建立整合式生態系統,從第一人稱錄影自動構建大規模學習資源,以提升機器對動態場景和互動的理解。HOLIWORLD-Data 整理約 100 個自採場景,包含約 80K 組 QA 問答對,用於訓練 HOLIWORLD-VL-4B;HOLIWORLD-Bench 則以獨立人工標註的保留錄影評估標註質素及空間、時間理解。

  12. HuggingFace Daily Papers(社區熱門論文)40

    Scaling Parameter-Efficient Fine-Tuning for Brain Encoding

    研究提出以低秩適配器進行參數高效微調,將多模態骨幹模型用於腦編碼,並把適配規模擴展至最多 104B 參數。方法在九個多模態骨幹上提升腦編碼表現,並在 Qwen3-Omni 上取得 Algonauts 2025 Challenge 最佳已發表成績。多 LoRA kernel 支援 200+ 個適配模型組成的集成,於撰文時在 Algonauts 賽後公開排行榜排名第一。

  13. HuggingFace Daily Papers(社區熱門論文)39

    混合架構中的競爭學習

    混合語言模型中的循環層與注意力層會競爭學習相同功能,研究提出分階段預訓練方法,以改善檢索及整體表現。訓練中段停止更新循環層權重,有助注意力層學習檢索功能。在參數規模最高達 1B 的模型上,該方法改善語言建模損失、常識推理及不同上下文長度下多項檢索任務的表現。

  14. IT之家61

    新石器(Neolix)完成近 4 億美元 E 輪融資,消息稱國家人工智能產業投資基金領投

    自動駕駛科技公司新石器(Neolix)宣佈完成近 4 億美元 E 輪融資,由博裕投資與某國家級基金聯合領投。據界面新聞引述投資圈知情人士,國家人工智能產業投資基金是領投方之一;本輪融資創下今年中國內地自動駕駛領域最大單筆融資紀錄,新石器累計融資額已突破 100 億元人民幣。新石器表示,資金將用於加強全球營運網絡及端到端大模型數據訓練閉環,以提升無人駕駛安全等級與車輛表現,並降低全生命週期維運成本。

  15. 第一財經32

    國家數據標註先行先試蘇皖城市聯盟成立

    國家數據標註先行先試蘇皖城市聯盟在江蘇南京成立,長三角10個城市將協同發展數據標註產業,為區域人工智能創新提供重要支撐。江蘇南京、安徽蕪湖等10個長三角城市共同成立數據標註聯合創新中心,將有效破解產業資源分散、標準不同及區域協同不足等問題。

  16. HuggingFace Daily Papers(社區熱門論文)34

    RoAR-VAE:透過穩健預測提升潛在表示的擴散可學習性

    RoAR-VAE 透過穩健預測改善視覺 tokenizer,平衡影像重建保真度與下游擴散模型的可學習性。在相同訓練預算下,其生成基準平均分數較最強基線 tokenizer 高 2.19 分,小字重建準確度則較 FLUX.1-VAE 高 16.93 個百分點。RoAR-VAE 結合 RobustAlign 和 RobustRecon,分別從受損潛在表示預測預訓練語義特徵,以及重建清晰影像。

  17. HuggingFace Daily Papers(社區熱門論文)47

    Frechet Forcing:以短片訓練長時程串流世界模型

    Fréchet Forcing 透過自生成 rollout 和真實數據統計微調串流影片世界模型,無需教師模型或長影片即可抑制長時程漂移。MiniWorld-1B 在 253-frame clips 上預訓練後,以 381-frame clips 微調最多 36 GPU-hours,生成結果在超過 4,000 frames 後仍保持穩定,並能跟隨動作。

  18. IT之家67

    研究團隊開發 AI 工具,憑癌症患者面部照片預測生存風險

    研究團隊開發出一款人工智能工具,可憑癌症患者一張面部照片預測生存風險並生成風險評分,評分最高者較可能在 90 天內死亡。模型以超過 4000 萬張人臉圖像及 3 萬多名癌症患者的照片訓練,估算年齡的誤差約為 5 歲。研究未證明該工具可在醫生評估之外提供額外臨牀價值,研究人員指出還需在不同醫院及患者羣體中進一步測試。

  19. HuggingFace Daily Papers(社區熱門論文)40

    DeCert:生成式獎勵模型的決策證書監督與理由評估

    DeCert 評估並改善生成式獎勵模型的判斷理由,透過檢查理由有效性及判決一致性,在毋須參考解釋的情況下產生偏好監督。跨兩個模型系列及多個分佈內外基準的實驗顯示,DeCert 優於強勁的生成式評判基線,並將位置一致準確率最多提高 14.8 個百分點。

  20. HuggingFace Daily Papers(社區熱門論文)41

    Ask-to-Distill:學習為在策略知識蒸餾合成數據

    Ask-to-Distill 透過優化合成問題,提升在策略知識蒸餾中的教師與學生分佈監督效果,過程無需正確答案。此方法在數學推理、程式碼生成及智能體任務中,平均表現和教師差距恢復均優於未優化的學生生成提示詞及經 KL 篩選的真實問題,在評估設定中與真實問題集蒸餾持平或更佳。程式碼、數據及模型均已公開。

  21. HuggingFace Daily Papers(社區熱門論文)51

    論文提出用於後訓練的校準式語言適應配對,讓模型配合用戶語言變體

    研究提出校準式適應配對(CAP),以偏好資料獎勵模型配合用戶的方言特徵密度,同時讓標準英語用戶維持標準英語回覆。研究追蹤 10 個開放模型系列,發現後訓練會令回覆趨向標準化;調整候選回覆原有可能性後,DPO 在 10 個系列中仍較偏好英式及澳洲拼字,而非 AAE 和 Singlish。