跳到正文
11月8日週日
  1. HuggingFace Daily Papers(社區熱門論文)30

    PROLA:用於預測式時空天氣降尺度的主方向正交低秩適配

    PROLA 提出一種低秩適配方法,將固定的低秩預算分配至預訓練權重的主方向及其正交補空間,並按梯度訊號重新縮放秩 1 優化器更新。研究以共享的預訓練骨幹網絡和空間、時間兩階段框架,預測未來高解像度天氣軌跡;實驗顯示,PROLA 優於具代表性的低秩適配基線,並在其他數據集及任務中展現更廣泛的適用性。

  2. HuggingFace Daily Papers(社區熱門論文)45

    One Table, Many Queries:通用表格模型在生成、補值與預測任務上的基準評測

    One Table Benchmark以56個數據集、46種已註冊方法及20項能力軸,對齊評測表格模型的生成、補值與預測能力。結果顯示三項任務共享有用的條件資訊,但分佈保真度排名各異;納入任務自身目標帶來最大的整體增益,跨目標效益則會互相影響。通用模型在效用上可勝過專項模型組合,但保真度仍以專項模型較佳。

  3. DEV Community55

    瀏覽器如何透過 WebGL 訓練神經網絡:張量作為紋理、運算作為着色器

    WebGL 將張量映射為 GPU 紋理,並以片段着色器執行運算,讓瀏覽器可在 GPU 上訓練神經網絡。訓練步驟之間,資料留在 GPU,只有損失值等少量資料傳回 JavaScript;但 WebGL 有資料讀回慢、紋理記憶體管理及背景分頁節流等限制,較適合小至中型模型的學習、原型和視覺化。

11月7日週六
  1. 虎嗅70

    清華團隊星衍算法在韋布 JADES 深場找到162個早期星系候選體

    清華團隊研發的星衍(ASTERIS)算法處理韋布望遠鏡 JADES 深場數據,找到162個早期星系候選體,較傳統方法找到的約50個為多。其中75%此前未被報告;在90%完備度下,算法將探測極限提升約1.0個星等,在90%純度下則提升超過1.5個星等。這套開源算法不要求升級硬件或佔用觀測時間,亦可用於地面及空間望遠鏡。

  2. DEV Community49

    Vision 模型訓練前的三步數據質素檢查

    訓練 Vision 模型前,先完成三步數據質素檢查,檢視影像解像度與幾何特徵、標註準確度,以及類別分佈和長尾覆蓋。文章建議抽查分層抽樣的 5% 數據,並以 Cohen's Kappa 和 mean IoU 評估標註一致性;mean IoU 低於 0.75,代表標註指引含糊,需要澄清。類別失衡比例超過 50:1 時,應採取補救措施。

  3. DEV Community53

    數據管道追求吞吐量,AI 訓練需要確定性

    AI 訓練對數據順序敏感,因此可靠的數據管道須確保相同來源數據及設定產生相同記錄集合,並在順序具語義時保持一致。近似重複檢測若按先到先留,重試和並行讀取可能改變保留的記錄,而行數、結構描述及彙總統計校驗未必能察覺。文章建議去重前按內容雜湊、來源時間戳等穩定鍵排序;Kafka 只保證分區內順序,不能視為全局順序。

  4. DEV Community54

    Ninaivu 的 Hindsight 記憶實驗如何被靜默回退污染

    Ninaivu 的 Hindsight 記憶實驗中,語言模型請求連續失敗兩次後會靜默改用隨機設定,令早期比較結果受到污染。追查時出現 429 限流錯誤,免費方案每日 token 限額接近用盡;作者認為這可能是早前回退的原因,但沒有當時記錄可證實,團隊其後讓限流錯誤中止執行並改用較小模型重跑,所有回退欄位均為 0。

  5. DEV Community34

    追蹤神經壓縮器省下的 221 B

    一項神經校正實驗令位元組壓縮器的 1 MiB 樣本縮小 221 B,並追蹤預測改善如何轉化為實際編碼節省。實驗選定 epoch 2、step 159 的權重,兩份權重檔的成本增加 92 B。8 MiB 樣本共節省 697 B,但成熟區間只節省 98 B,低於所需的 1,692 B,因此停止在完整串流上繼續投入。

  6. 創業邦58

    智元以機器人場景部署和數據採集推進商業化落地

    智元正把機器人部署到便利店、長隆等商業場景,並透過覓蜂派擴大具身智能數據採集,以推進商業化落地。智元已採集近百萬小時數據用於預訓練,據公司稱,覓蜂派上線一個多月,註冊用戶超過15萬。文章指出,設備、招募和場景拓展成本,以及平台與採集員之間的利益矛盾,令數據採集業務的規模化和經濟性面臨考驗。

  7. 新浪科技63

    Apple 研究團隊披露 HALO 人形機械人系統,6 個未建圖環境完成 360 次單項任務,平均成功率 91%

    Apple 研究團隊披露人形機械人自主控制系統 HALO,並在 6 個未預先掃描或建圖的真實環境完成 360 次單項任務,平均成功率為 91%。系統採三層架構,任務編排預設使用 Qwen3.6-35B-A3B,動作生成使用 Qwen3.5-2B;研究團隊亦公開數據生成、模型訓練及部署程式碼。

  8. 虎嗅62

    磁帶在 AI 時代重獲增長,富士膠片計劃將數據儲存磁帶產能提升至五倍

    富士膠片於10月29日宣佈投資約100億日圓(約合人民幣4.22億元),計劃在2026至2028財年擴建工廠,將數據儲存磁帶產能提升至2025財年的五倍。生成式 AI 帶來的海量數據歸檔需求,令磁帶的低成本、低能耗及離線保存優勢重新受到重視。磁帶不適合頻繁存取,企業亦須處理保留舊設備或遷移歷史數據等相容性成本。

  9. 創業邦54

    具身數據採集報價跌至每小時20元,誰能賺到真金白銀?

    具身智能數據採集供給快速擴張,部分無本體數據報價跌至每小時20元,市場由數據稀缺轉向價格競爭與訂單壓力。真機遙操作數據報價仍為每小時500—1000元,EGO與UMI的實際成交價則為每小時30—150元;文章指出,競爭重心正由採集規模轉向標準化數據產品、真實場景適配與閉環運營能力。

  10. 阿里雲開發者社區 AI62

    從 Transformer 到 LLM 全景圖:參數、訓練三階段、推理兩階段、能力邊界

    這套 34 講大模型課程的第 6 講,系統梳理 LLM 的參數規模、訓練流程、推理階段及能力邊界。文中以 Kimi K3 為例,列出 2.78T 總參數及約 104B 每 token 激活參數,並説明 MoE 的激活參數與整體顯存需求不同。內容亦比較開源權重自託管與閉源 API 的選擇條件,並整理模型在幻覺、長上下文、多步推理及現實操作方面的限制。

  11. DEV Community43

    AI 前應檢查甚麼:企業流程審計指南

    企業在使用 AI 前應先審計業務流程,確認時間、資源和客戶旅程等數據是否已收集,因為 AI 無法還原未記錄的事件。盤點試算表、CRM、日曆、訊息和工作系統中的現有記錄,並確認能否連結。連接服務前,須檢查資料存取權限及分享客戶訊息和通話的權利。

  12. Unite.AI50

    MIT 詳述 CheMeleon 如何以低數據量預測分子性質

    MIT 與 BASF 研究人員開發開源分子基礎模型 CheMeleon,透過預訓練學習化學關係,再以少量特定任務數據微調,預測分子性質。模型約有 10 million 個參數,在 58 個基準數據集的統計比較中勝過傳統基準模型及現有基礎模型。CheMeleon 可透過 ChemProp 下載及微調,但仍須實驗確認候選分子的實際性質。

  13. DEV Community57

    LinkDigest 新增影片時間戳標註,支援單次 API 呼叫及 JSON/JSONL

    LinkDigest 新增影片時間戳標註格式,單次 API 呼叫可為每段影片輸出 JSON,批次處理則匯出為每行一段影片的 JSONL。輸出涵蓋語音、影格描述、畫面文字、章節和關鍵要點,coverage 會標示已讀取及未讀取的部分;上載影片每 10 分鐘收取 11 credits,每小時影片共 66 credits,按 credits 購買方式摺合 $0.92 至 $1.32。

  14. DEV Community64

    osFoundry Local Model 使用指南:從挑選開源模型到本機微調

    osFoundry 的 Local Model 在桌面 App 內整合開放權重模型的探索、裝置端推論、量化、微調及評測流程。指南以個人筆電、小團隊共用桌機及營運主管三種情境,示範模型比較、速度基準測試、自訂資料集評測和 LoRA 訓練;本機推論、量化及本機訓練在電腦執行,Providers 和 Cloud GPU 則會使用外部服務。

  15. MIT News53

    CheMeleon 如何以少量數據預測分子性質

    MIT 團隊開發的 CheMeleon 預訓練模型,在目標分子性質數據有限時,篩選候選分子的表現優於其他現有方法。模型以 PubChem 中 100 萬種分子的數據及約 1,600 項分子描述符預訓練,並可按特定任務微調;研究在 58 個測試案例中將其與其他基礎模型及專家設計的傳統模型比較,CheMeleon 表現居首。這個開源模型可透過 ChemProp 下載和微調。

  16. DEV Community60

    Modal 如何計算訓練與微調費用?

    Modal 按秒計算訓練費用,合計 GPU、CPU 核心及記憶體費用,指定區域時再乘以 1.15x 或 1.75x。案例中,Modal 的 1 張 H100 執行 8 小時費用為 $38.70,8 張 B200 執行 12 小時為 $685.28;按 Nodus 列示機器時價計算則分別為 $20.80 和 $528.00,另有啟動與拆卸時段費用。

  17. HuggingFace Daily Papers(社區熱門論文)35

    Horizon-Scalable Q-Learning:自動平衡單步與多步回報的離線價值學習方法

    Horizon-Scalable Q-Learning(HQL)提出一種方法,透過自動平衡單步與多步回報,提升長時程離線價值學習的準確度。只有當評論家對數據集動作的評分不低於行為克隆策略所抽取 N 個動作中的最高評分時,HQL 才延伸目標;否則退回單步目標,且無需動作密度。

  18. HuggingFace Daily Papers(社區熱門論文)37

    ConceptTime:以預測驚奇構建可解釋時間序列分類器

    ConceptTime 以凍結的機率預測器產生的預測驚奇切分時間序列,將片段聚類為動態概念,再按概念序列分類,並在證據不足時棄權。在 17 個公開基準上,它的準確度與黑盒最先進方法相若,勝過所有可解釋基準;在 Epilepsy 上僅用 1% 標籤仍維持接近 98% 準確度。整個方法無需標註、語言模型呼叫或領域專家。

  19. HuggingFace Daily Papers(社區熱門論文)46

    刪除權重在 LLM 後訓練中的驚人效果

    Deletion Tuning 在 LLM 後訓練中只將少於 0.05% 的權重歸零,便在可驗證獎勵強化學習、監督式微調及 on-policy 蒸餾三種設定下,達到與全量微調(FFT)相當的效果。其二元遮罩比相應 FFT checkpoint 小數百至數千倍,遺忘程度亦較低。強化學習中,其先前任務準確率維持接近基礎模型;FFT、LoRA 及隨機稀疏微調則最多下降 5.4 個百分點。

11月6日週五
  1. HuggingFace Daily Papers(社區熱門論文)47

    Muir:以敏感度分配閘控與匹配濾波讀出的線性注意力

    Muir 以敏感度分配閘控、匹配濾波讀出及穩定並行更新,改善線性注意力的語言建模、長上下文召回和訓練速度。在 166M-1.34B 規模下,其 perplexity 較 GDN-2 低 1.8-2.0%、較 Transformer 低 2.5-3.6%;1.34B 版本可由 4K 訓練長度外推至 10M-token streams,32K 訓練較 Transformer 快 2.7x。

  2. TNW53

    Physicl 融得 $10M 種子資金,為實體 AI 製作訓練數據

    巴黎初創公司 Physicl 融得 $10M 種子資金,開發為實體 AI 系統製作訓練數據的平台。Inovia Capital 領投,U.S. Venture Partners 亦有參與;其產品 Studio 讓研究人員在 3D 場景中重建模型失誤情境,生成針對性訓練數據。據公司表示,客戶 SpAItial 把 Physicl 的數據加入訓練集後,其房間建構模型的錯誤率降低逾半。