跳到正文
10月28日週三
  1. DEV Community58

    持續預訓練與微調有何分別,該如何選擇?

    Nodus 博客指出,模型缺乏領域知識或詞彙時應採用持續預訓練;若模型已理解材料,只是任務回應方式不合要求,則應微調。文章建議,只有在模型持續誤解領域術語、原始文本達數億個 token 且知識穩定時,才考慮持續預訓練;否則可先用數千個標註例子微調。

  2. DEV Community34

    QueleaGuard 如何為空間聚集的生態數據設計交叉驗證

    QueleaGuard 為解決空間聚集且分佈不均的生態數據所造成的驗證問題,改用僅以出現點進行 k-means 聚類,再把背景點分配至最近的中心點,建立五個空間折。266 條記錄各分配一次,每折均包含出現點和背景點,並將持續出現的海岸站點 62 條記錄保留在同一折。折數不均,且其中一折只有 14 條記錄,作者指出這可能令該折的評分指標較不穩定。

  3. HuggingFace Daily Papers(社區熱門論文)53

    EasyProver 與 Aegis 擴展 Lean 定理證明,面向真實程式碼驗證

    論文提出 Lean 證明系統 EasyProver 及驗證任務生成流程 Aegis,擴展定理證明在真實程式碼驗證中的應用。EasyProver 搭配無需額外訓練的現成前沿模型,解出 669/672 道 PutnamBench 題目、全部 6 項 IMO 2026 形式化題目、597/600 項 NTP4VC 驗證條件及全部 189 項 VERINA 任務。

  4. HuggingFace Daily Papers(社區熱門論文)47

    IntReal:面向多模態交錯生成的真實世界數據集與評測基準

    IntReal 提出面向真實世界多模態交錯生成的數據集與評測框架,用於診斷統一多模態模型的能力並改善生成效果。框架包括涵蓋四大類別的 IntReal-100K,以及按七個維度評估模型的 IntReal Evaluation Suite;評測與人類判斷的一致準確率為 83.3%。實驗顯示,使用 IntReal-100K 訓練可改善交錯生成,單模態生成訓練亦可帶來效益。

  5. HuggingFace Daily Papers(社區熱門論文)41

    A-RSI:以自適應任務刷新實現零數據多模態自我改進

    A-RSI 按學習訊號下降情況刷新訓練任務,提升零數據多模態遞迴自我改進的基準表現,無需外部標籤。在主要的 11 項基準測試中,使用 800 個新任務後,平均表現由 57.77 升至 61.05。新任務由模型撰寫的程式生成多模態問題,並產生可獨立核驗的答案。

  6. HuggingFace Daily Papers(社區熱門論文)34

    結合教師演化的策略內自蒸餾

    Teacher-Evolution Self-Distillation(TESD)透過獎勵引導的教師最佳化及自適應降低不可靠樣本的權重,提升策略內自蒸餾的自我教學可靠性。方法讓自我教師生成 rollout,並根據任務正確性及上下文獨立性取得環境回饋。多個數據集及模型規模的實驗顯示,TESD 持續勝過具代表性的 token 級及序列級方法。

  7. Hacker News 熱門(buzzing.cc 中文翻譯)76

    Anthropic 被裁定曾盜版斯坦福教授著作訓練 Claude

    聯邦法官裁定 Anthropic 曾非法取得逾 10 名斯坦福教授的著作訓練 Claude,並不得盜版書籍建立永久中央藏書庫;法官同時認為,合法購書用於大語言模型訓練屬合理使用。

    推薦理由:裁決將盜版建庫與合法購書訓練分開處理,作者退出集體和解並另行索賠,呈現 AI 訓練版權爭議中的法律界線與補償分歧。

  8. Hacker News 熱門(buzzing.cc 中文翻譯)45

    向 Anthropic 提交聊天意見回饋會提供相關資料

    Anthropic 的商業產品輸入和輸出預設不會用於模型訓練;用戶提交評分意見或明確同意使用資料後,相關聊天和編碼工作階段則可能用於訓練模型。提交評分意見時,Anthropic 會在安全後端儲存整段相關對話,最長 5 年,並在使用前解除資料與用戶及客戶 ID 的連結。Team 或 Enterprise 計劃的擁有者可在組織設定中停用提交意見的功能。

10月27日週二
  1. NVIDIA Blog54

    AI 如何改變失智症研究的發現速度

    C-BRAIN 與 NVIDIA 合作,運用 AI 支援阿茲海默症研究,目標是加快研究發現,推進新治療所需的科學工作。其已建構 OpenScientist 和 InsightEngine 兩項開源智能體 AI 工具,分別用於生成及分析研究假設,以及對照科學文獻、用戶提供的數據集和生物醫學知識圖譜核驗主張。

  2. Unite.AI19

    大型語言模型如何進行預訓練?數據、目標與算力

    大型語言模型預訓練透過大量模型 token 序列優化神經網絡,讓模型在特定任務適配前學習可重用的語言、事實及程序模式。流程包括整理及分詞語料、抽取序列組成訓練批次、以自監督目標預測 token、在分佈式硬件上反向傳播損失,以及保存檢查點並評估能力。文章亦將預訓練與教導模型遵循用戶要求的指令微調區分,指出兩者的成效證據、成本主因及風險控制各有不同。

  3. 第一財經47

    資金重回機器人:從「造身體」到「餵大腦」,物理 AI 新敍事浮現

    資金重回機器人板塊,行情主線由硬件本體轉向物理 AI 所需的高質量具身數據,數據採集設備與數據服務商成為市場關注焦點。浙商證券估算,具身基礎模型至少需要千萬小時級真實數據,目前全球可用的高質量真實數據僅數十萬至百萬小時級。數據相關公司的股價表現突出,但部分企業的數據採集業務仍處於客戶導入階段,尚未轉化為業績增長。

  4. Tech.eu43

    Agora Labs 獲 €4.3M 融資,擴展醫學研究臨牀數據基礎設施

    意大利深科技公司 Agora Labs 獲 €4.3 million 融資,用於擴展支援醫學研究的臨牀數據基礎設施。該公司在醫療機構內處理及標準化臨牀數據,並以匿名化及聯邦式 AI 技術連接醫院,讓研究人員跨機構分析數據而不直接存取患者紀錄。Agora Labs 現有 50 間醫療機構組成的國際網絡,計劃未來數月把規模擴大一倍。

  5. TNW52

    Remote 行政總裁 Job van der Voort:AI 公司現付費聘請博士標註數據

    Remote 行政總裁 Job van der Voort 表示,AI 公司對獨立合約工作者的需求大幅上升,不少博士受聘標註數據並為模型提供反饋。相關工作起初以簡單標註為主,如今不少博士會一邊研究、一邊承接這類工作;他預期市場未來幾年會繼續增長。Van der Voort 説,Remote 尚未見到一般客戶加快或放慢招聘,AI 公司則增長迅速。

  6. DoNews42

    Rivercell 完成 2,200 萬歐元種子輪融資

    AI 生物科技公司 Rivercell 宣佈完成 2,200 萬歐元種子輪融資,由 HV Capital 領投,Alven Capital、Bpifrance 與 Hardware Club 跟投。Rivercell 專注構建 AI 虛擬細胞(AIVC)世界模型及自動化細胞反應數據平台,利用多模態單細胞擾動數據訓練細胞仿真模型,預測藥物或基因幹預下的人體細胞動態變化。

  7. HuggingFace Daily Papers(社區熱門論文)36

    S3AC:面向 LLM 推理的穩定、選擇性且可擴展的 Actor-Critic 方法

    S3AC 提出一種用於 LLM 長鏈式推理的 Actor-Critic 訓練方法,透過難度感知提示詞採樣,在不依賴分組 rollout 的情況下改善訓練。它結合 token 級優勢估計與提示詞級基線,在 1.5B 至 397B 參數的稠密及混合專家模型上提升分組 rollout 表現,勝過 GRPO-X;在 35B 規模下亦可持續單次 rollout 訓練。

  8. 新浪科技53

    Ropedia 發佈六項研究,探討人類數據如何提升機器人能力

    Ropedia 在首屆 Ropedia Super Week 集中發布六項研究,探討如何把人類第一視角經驗轉化為機器人學習與操作所需的數據。研究涵蓋 Ropedia W0 的跨本體影片預測、HoliWorld 的物體交互資料整理、EgoXperience 的聯合重建、S-Agent 2.0 的空間工具使用、DONIC 的雙手協作,以及 Ropedia A0 的純程式碼策略。