跳到正文
10月20日週二
  1. HuggingFace Daily Papers(社區熱門論文)44

    截斷與否?採用截斷反向傳播的循環式 Transformer 規模化研究

    這項研究發現,在相同計算量下,循環式 Transformer 採用完整時間反向傳播(BPTT),表現持續優於截斷設定。模型規模可調時,縮放定律指出兩個完整訓練循環是最佳設定;其驗證損失低於計算量最優的非循環模型,非嵌入參數少約 27%,訓練計算量只多 8%。

  2. HuggingFace Daily Papers(社區熱門論文)49

    從 RL 論文到框架程式碼:七個開源訓練框架的方法納入與審查分析

    研究追蹤七個開源強化學習後訓練框架,發現提出通用訓練方法的 1,598 篇論文中,只有 37 篇獲至少一個框架納入。五個季度羣組中,論文在 180 日內獲納入的數量維持在 5 至 7 篇,儘管各羣組論文數由 72 篇增至 386 篇。研究發布追蹤器,連結訓練失敗與框架實作,並列出各框架的貢獻規則及較早提案。

  3. HuggingFace Daily Papers(社區熱門論文)38

    Meta Expert:跨層專家共享提升 MoE 的儲存與檢索效率

    研究比較 MoE 的跨層共享 Meta Expert 與 Local Expert,發現 Meta Expert 可減少參數冗餘,並降低交叉熵損失、提升下游任務準確度。在啟動數量及專家粒度固定時,使用 70–80% 的專家即可媲美 Vanilla MoE 的效能。理論分析亦顯示,Meta Expert 可提供更靈活的殘差路徑,提升資訊檢索效率。

  4. HuggingFace Daily Papers(社區熱門論文)45

    OvisOCR3 技術報告

    OvisOCR3 是一款 0.8B 視覺語言模型,透過多教師知識蒸餾和強化學習,整合五類 OCR 相關任務。在 OmniDocBench v1.6 獲得 96.74 分,並在 OCRBench v2 英文及中文測試集分別取得 65.9 和 61.3 分。模型在多項文件解析、OCR、關鍵資訊提取、圖表説明及跨頁表格基準測試中取得領先成績。

  5. SiliconANGLE56

    NiCE 押注 AI、數據與問責,既有業務為轉型爭取時間

    NiCE 正以 Cognigy 為核心,把公司定位轉向 AI 平台,並將客戶互動數據和智能體問責能力置於策略中心。文章指出,獲得按自身數據生成的自動化洞察的潛在客戶,預訂的 AI 業務量是未獲洞察者的 9 倍,平台 API 用量在兩年內增至 7.5 倍。AI ARR 按年增長 52%,但部署仍是收入轉化的瓶頸。

  6. DEV Community46

    Traid/Traidence 案例:快速預測實驗仍須等待結果

    Traid/Traidence 案例中的研究平台每次預測會為未來十二根 K 線生成十二條候選路徑,只有完整十二根 K 線的結果成熟後,預測才可作為訓練證據。文章建議按標籤實際可用時間管理訓練與驗證,並核對多步目標是否跨越時間切分邊界,以免引入未來資訊。三次研究批次的候選品質評分有所改善,但後續納入成本的模擬交易診斷未能證明策略有盈利能力。

  7. Hacker News 熱門(buzzing.cc 中文翻譯)59

    CERN 與 Mistral 簽署合作意向,計劃開發粒子物理基礎模型

    CERN 與 Mistral 簽署合作意向,計劃建立長期策略夥伴關係,開發用於科學發現的基礎模型,首階段聚焦高能物理。合作計劃打造單一預訓練 Large Physics Model,並以 CERN 大型強子對撞機(LHC)的數十億次模擬質子—質子碰撞訓練,支援碰撞重建、粒子識別、未預期訊號標記及未來探測器設計評估。

  8. DEV Community33

    Overfitting in trading strategies: what a million trials taught me

    作者在 Bitcoin 上進行逾 1,000,000 次機器學習、執行及穩健性試驗,指出搜尋中勝出的策略可能只是過度擬合,並非可持續優勢;只有兩代模型由研究階段進入運作。樣本外 SQN 由樣本內的 5.348 降至 2.129,勝率由 63.6% 降至 50.5%。作者不公開模型及校準細節,以免生產模型容易被重現。

  9. DEV Community43

    架構深度剖析:語言模型行為耦合從形成到行為湧現

    一項研究指出,語言模型在良性能力上微調,可能透過預訓練資料中的傳遞式行為耦合,誘發未經提示的潛在失當行為。即使 B1 與 B3 未曾在同一文件共現,資料集分別連結 B1–B2、B2–B3,微調 B1 仍可能引出 B3,令微調前的安全測試不足。文章建議微調後評測解耦的對抗行為,並以對比方向探測檢查潛在耦合。

  10. Meta Engineering Blog47

    GenRecs Tokenization: Transforming Ads Recommendation at Meta with Stable Model Vocabulary

    Meta 的 GenRecs Tokenization 以穩定的語義詞彙表示廣告等項目,讓推薦模型能同時推理廣告內容與用戶偏好。配合 Meta 的 GEM 和 Adaptive Ranking Model,GenRecs Tokenization 帶來 +0.35% 的廣告轉換提升。它支援系統內各類項目的召回與排序,包括廣告、產品、專頁和像素。

  11. 禾賽科技45

    真實世界數據價值何在?具身智能、世界模型與空間智能業界人士談禾賽 Kosmo

    禾賽科技發佈三維世界數據引擎 Kosmo,並同步推出全球首款 8K 超高清 AI 空間相機 Kosmo One 1 及 AI 驅動的雲平台 Kosmo World。禾賽 Kosmo 與高德將開放首批千個試點,推動線下商業場景三維數字化。業界代表認為,真實世界三維數據可支持機器人訓練與部署,以及空間智能和世界模型應用。

10月19日週一
  1. DEV Community60

    LLM 訓練管線需要權利污點追蹤,而非資料沿襲

    AI 訓練資料治理應追蹤權利如何隨每項管線操作傳播,而非只在資料集層級標註授權或記錄資料沿襲。文章建議聯結操作取兩邊權利條件的交集,去重時保留所有來源中限制最嚴格的條件,合成資料則預設承接訓練資料的權利狀態。作者主張為每項操作記錄權利傳播事件,以追查最終訓練資料的處理過程,支援審計及刪除請求。

  2. DoNews30

    哲源科技正式發佈 WHIRLPO 計算醫學平台 11小時前

    哲源科技於10月18日在CCF HPC 2026大會正式發布 WHIRLPO 計算醫學平台,推動生命世界模型全棧工程化落地。平台已累積29244項生命科學數據資源,構建約1600萬個精細化患者亞羣,並可在10天內交付1P規模、萬人級跨模態專病庫,端到端計算性能提升一倍。哲源科技已藉平台挖掘200多個潛在藥物靶點,多條創新藥管線正在推進,部分已進入臨牀階段。

  3. DoNews33

    哲源科技推出 WHIRLPO 計算醫學平台,支撐生命世界模型工程化落地

    哲源科技在 CCF HPC 2026 大會推出 WHIRLPO 計算醫學平台,為生命世界模型提供由訓練到產業應用的工程化支援。平台經測試的端到端計算性能提升一倍,並已沉澱29244項生命科學數據資源及51套標準化數據集。平台已挖掘200餘個潛在藥物靶點,多條創新藥物管線穩步推進,部分已進入臨牀階段。

  4. 第一財經42

    20分鐘搞定一週工作量,AI重構科技服務降本路徑|上海科技服務業調研

    海智智造以AI和平台數據處理非標製造訂單,將100張圖紙從逐張審核到形成有效報價的時間,從約一週縮短至約20分鐘。平台以300個以上字段標籤描述工廠產能,並結合設備、精度、材料、成本及歷史圖紙等數據。格物智研則將科學模型與自動化實驗結合,探索按實際使用量收費及分階段驗證技術路線。

  5. elsewhere:文章70

    elsewhere 調查田柯宇事件 01:梳理攻擊指控與各方説法

    elsewhere 發布田柯宇事件調查系列首篇,按時間線梳理2024年至今的攻擊事件,對照田柯宇、字節及相關團隊對攻擊方式、動機與影響的不同説法。文章引用訪談和公開資料,介紹 GitHub03 對多種攻擊代碼及其效果的指控,並指出 debug 期間的聊天記錄和攻擊日誌等材料尚未取得。2026年6月5日,法院一審判田柯宇賠償字節50萬元、駁回其他訴請,字節其後上訴。

  6. DEV Community51

    生成式 AI 與 LLM 面試題:30 題附示範答案

    Haseeb Sagheer整理了 30 道生成式 AI 與 LLM 面試題,並為每題提供可按個人項目調整的簡短示範答案。題目涵蓋 Transformer、預訓練與微調、提示詞及推理設定,以及正式環境中的安全、成本和評估。文中建議以實際項目例子説明答案,並建議尚未有 GenAI 項目的人製作 RAG 應用,練習嵌入向量、向量搜尋、提示詞及幻覺控制等概念。

  7. DEV Community34

    RetentionAI:以 TabPFN 預測訂閲流失風險並推薦挽留行動

    RetentionAI 是一款採用 TabPFN 的開源訂閲流失預測工具,可識別高風險帳戶、計算面臨風險的每月經常性收入(MRR),並推薦挽留行動。工具支援自訂 CSV 數據集,並設有互動式 What-If ROI Simulator,預測挽留活動的回報。示範模式內置 200 筆合成客戶記錄及預設 25 個帳戶的評估羣組,完整程式碼支援 Render 雲端部署。

  8. DEV Community42

    SpoilageShield: tomorrow's bake sheet, without guessing tomorrow's sales

    SpoilageShield 為獨立麵包店規劃翌日烘焙數量,按銷售歷史、產品成本、天氣及活動假設預測需求,並輸出可匯出的烘焙清單。最終 29 個合成測試日中,隨機森林的 MAE 為 6.11,較平日基準低 24.8%;隨機森林規劃方案的剩餘數量較模擬固定排程少 53.3%。核心規劃可在本機 CPU 執行,毋須 API key 或 GPU;成效尚未經實際客戶試點驗證。

  9. DEV Community31

    高效深度學習的 5 篇關鍵論文分析

    五篇高效深度學習論文指出,提升 AI 能力不只靠擴大模型,也可透過架構設計提高效率。ViT-Huge 在 ImageNet 達 88.5% top-1 準確率,訓練計算量比同類 CNN 少 4×,但需要 300 million 張圖片才有良好表現。Swin 以移位窗口注意力將計算複雜度由平方複雜度轉為線性複雜度。

  10. DoNews44

    HUMXN 實驗室付費採集技工作業數據,訓練 AI 機械人

    HUMXN 實驗室於2026年10月啟動項目,採集技工在真實作業中的動作與決策數據,訓練具身 AI 機械人。項目在明尼阿波利斯、芝加哥和邁阿密進行,房主可免費獲得管道、電工等居家服務,條件是容許佩戴可穿戴設備的技工錄製作業全程。技工報酬不變,付費授權模式保障數據來源合法及貢獻者收益。

  11. IT之家56

    HUMXN 計劃以免費居家服務換取 AI 機械人訓練影片

    HUMXN 計劃與住戶合作,資助多類居家服務,換取在住宅內錄製技師工作過程的影片,作為 AI 機械人訓練數據。服務包括水喉、電工、空調、風喉清潔及地毯清潔;住戶須容許佩戴穿戴式採集設備的人員入屋錄影,服務人員照常獲得報酬。項目首批在明尼阿波利斯、芝加哥和邁阿密推行,以收集不同氣候、住宅、設備及故障情況下的作業數據。

  12. DEV Community32

    LatePay:預測哪些發票可能逾期未付

    LatePay 以開源 TabPFN v2 預測發票逾付款條款超過 30 天才付款的風險,並按風險級別提供跟進建議。系統以 4,000 張模擬發票建立數據集,推理時採用分層抽取的 1,000 張發票作上下文,亦支援批量評分 CSV。推理在本機 CPU 執行,無需 API key 或專有模型;示範頁的預測均預先計算並標示為模擬,工具聲明結果並非財務建議或信用評分。

  13. DEV Community32

    Architectural Deep-Dive: Language Models Learn to Improve Language Models

    LM2LM 以研究世界模型(RWM)和雙迴路驗證,為透過強化學習優化模型、提示詞或神經網絡架構的智能體提供執行結果錨定的回饋機制。凍結的 LLM 根據上下文中的實驗紀錄預測提案收益,並定期以硬件執行結果更新紀錄,校正預測偏差。此方法以代理預測篩走底部 90% 的候選項,只對排名靠前的提案進行實際驗證,以減少計算開支。

  14. HuggingFace Daily Papers(社區熱門論文)45

    SWIFT:透過目標外推實現自我引導的弱至強擴散模型

    SWIFT 提出一種自我引導訓練方法,利用凍結的弱去噪器外推回歸目標,改善較強擴散模型的訓練,並降低誤差和訓練成本,無須增加推理開銷。在 ImageNet-256 的一種設定中,SWIFT 以約一半總訓練計算量超越基線最佳 FID;在 RAEv2 上,無推理時引導的 FID 為 1.15,有引導時為 0.99。

  15. HuggingFace Daily Papers(社區熱門論文)46

    HarnessRL:以即時訓練框架與策略共同演化,應用於開放式強化學習

    HarnessRL 透過自適應任務抽樣、rollout 引導和評分準則更新,讓訓練框架與策略共同演化,以應對開放式強化學習中的獎勵失效。研究團隊亦整理了涵蓋五個領域的 Rubric-Mix-10k 訓練及評測套件。在 4B 和 9B 模型規模下,HarnessRL 較最強基線高 2.8 至 3.1 分,並幾乎將達到最佳檢查點所需的訓練步數減半。

  16. HuggingFace Daily Papers(社區熱門論文)39

    Predictive Closure:JEPA 特徵選擇的集合層面刻畫

    研究提出 predictive closure,指出 JEPA 保留哪些特徵取決於特徵集合之間的預測關係,而非個別特徵是否容易預測。受控實驗顯示,難以預測但有助預測其他特徵的特徵,可以得到更好的表徵;改變一項特徵的預測關係,也會影響其他特徵的表徵。透過輔助目標或向 predictor 提供側資訊,亦可間接引導特徵選擇。