跳到正文
10月19日週一
  1. HuggingFace Daily Papers(社區熱門論文)41

    TEAL:數據湖分析編碼智能體的無監督工具演化

    TEAL 透過數據探索與軌跡批判,在沒有標籤的情況下為編碼智能體演化可重用的數據分析工具。步數預算為 10 或 15 時,TEAL 在 KramaBench 和 LakeQA 上均提升所有 Worker 的表現;Sonnet-5 在 15 步時分別提升 9.3 和 21.7 分。以合成問題演化的工具庫,表現與以真實問題演化的工具庫相若。

  2. HuggingFace Daily Papers(社區熱門論文)48

    WildAWM:合成電腦使用智能體環境與任務

    WildAWM 透過合成可控的電腦使用環境與任務,訓練通用智能體,並提升其在分佈外基準上的表現。該流程支援 GUI、MCP 服務及 CLI,合成了 341 組長期環境與任務配對;部分任務需要超過 100 個智能體步驟,GPT-6-Astra 僅能完成其中 60%。研究團隊只用合成環境訓練兩個不同規模的 Qwen 模型,並在涵蓋網頁、CLI 及電腦使用智能體的 8 個分佈外基準上取得顯著提升。

  3. DEV Community40

    Restock-Predictor:以 TabPFN 預測 Etsy、Shopify 獨立賣家的庫存

    Restock-Predictor 是為 Etsy、Shopify 獨立賣家打造的 AI 庫存預測工具,採用開放權重模型 TabPFN 進行零樣本上下文表格回歸。用戶上載歷史銷售 CSV 後,系統可在兩秒內估算未來 30 天需求及第 90 百分位安全庫存,並生成可匯出 CSV 的優先採購訂單。項目以 MIT 授權開源,並使用 MongoDB Atlas 記錄批次。

  4. DEV Community52

    SmolVLA 野餐機械人微調後,未見指令措辭成功率達 78%

    作者以每件物品 1 個示範微調 SmolVLA,讓野餐機械人對已教及未見指令措辭的成功率分別達 80% 和 78%。在同一組 420 個測試回合中,原始模型相應成功率為 31% 和 29%;微調後,6 件未訓練物品的成功率由 87% 降至 60–72%。每次微調使用共享 GPU 約 48 分鐘、成本約 $1.50;實驗僅在模擬環境進行,每種示範數量只執行一次。

10月18日週日
  1. Hacker News 熱門(buzzing.cc 中文翻譯)72

    法律專家警告 Meta 新條款仍授予廣泛網站抓取權限

    Meta 修訂即將生效的商業帳戶條款,刪去「train」並將使用範圍限於廣告及商業產品,但法律專家仍認為網站抓取授權廣泛。他們指出,「develop」商業產品的措辭可能涵蓋訓練,而修訂條款沒有明文承諾遵守 robots.txt;Meta 則表示網站仍可透過 robots.txt 停用爬蟲。新條款預定於10月30日生效,商業帳戶在此之前不能選擇退出。

  2. Business Insider Tech45

    AI 公司抓取網絡內容後,轉向收集人類工作方式的資料

    AI 公司在抓取大量網絡內容後,正轉向收集呈現人類實際工作方式的資料,作為下一代 AI 智能體的訓練素材。AI 公司向企業開出六位數甚至七位數金額,換取匿名化 Slack 訊息、電郵、簡報及內部文件。律師事務所用數十年法律知識建立 AI 系統,另有公司付費讓人記錄煮食、倉庫包裝等工作,以教導機械人如何執行日常體力任務。

  3. DEV Community60

    AI 公司如何取得訓練數據?六種渠道及市場轉變

    AI 公司從六個渠道取得訓練數據,包括爬取公開網頁、授權內容、委託專家製作數據、購買企業紀錄、建立模擬環境與合成數據,以及使用自家用戶資料。每月一份 Common Crawl archive 收錄 2.17 billion 個網頁,公開網頁仍是最大來源;文章指出,市場支出正轉向其他渠道,並比較各渠道的價格和法律風險。

  4. DEV Community52

    重現研究顯示,預防模型崩潰所需的新數據率是恢復所需的 13.4–27.6 倍

    作者重現《Prevention Is Not Cure》研究後發現,在該研究設定下,預防訓練循環崩潰所需的新數據率是崩潰後恢復所需的 13.4–27.6 倍。當其他設定固定時,單改變訓練池中的歷史窗口 w,穩定邊界在四組配置中下降兩至三個數量級。研究使用 K = 8 個符號的多項重採樣循環,並非神經網絡;作者指出可遷移的是結構,而非具體數值。

  5. MarkTechPost69

    NVIDIA Structured Data Models 如何在無需訓練下進行表格預測

    教程實作 NVIDIA 的 Structured Data Models,展示如何以標註資料作上下文,無需訓練便用預訓練表格模型輸出分類與回歸預測。在乳癌分類案例中,TabICLv2 和 KumoTabular 使用 300 筆標註資料,準確率均為 0.970;KumoRelational 在三表客戶活動任務中的 AUC 為 0.823,接近手工特徵方案的 0.828。

  6. DEV Community59

    從零開始建立微型因果 Transformer

    作者提供一個以 PyTorch 和 Python 標準庫實作的微型因果 Transformer,將文本按字符編碼,以隨機抽取的上下文窗口訓練,並逐字符生成文本。示例模型設為 4 層、4 個 attention heads,訓練 2000 步;因果遮罩令每個位置只讀取當前及之前的位置。作者指出,這個實驗展示的是架構而非具競爭力的語言模型,並建議配合驗證損失和生成樣本檢查模型是否只記住訓練語料。

  7. DEV Community51

    合成數據與虛構數據有何分別?何時應使用?

    文章區分虛構數據與合成數據:前者可以簡單至只滿足輸入要求,後者則模仿真實數據的結構、分佈或關聯,而不複製實際記錄。作者建議按測試需要選擇數據,簡單測試可用固定測試資料,重視真實組合、變化或大量記錄時則可用合成數據。使用 seed 可重現相同數據;複製生產數據則可能帶來私隱及安全風險。

  8. IT之家55

    Meta 刪除商業服務條款中引發「用於訓練 AI」爭議的表述

    Meta 已刪除商業服務條款中引發「用於訓練 AI」爭議的相關表述。法律專家曾指出,原條文可能賦予 Meta 抓取企業帳戶相關網站內容並用於訓練 AI 的權限;Meta 則表示,更新沒有擴大爬蟲行為。Meta 稱更新只是整合既有廣告條款,修改後條款把爬蟲及數據收集用途限定於「廣告和商業產品」,並重申網站管理者可透過 robots.txt 控制爬蟲權限。

  9. HuggingFace Daily Papers(社區熱門論文)62

    政策不等於能力:部分安全基準衡量模型受訓時採用的「不安全」定義

    這項研究發現,護欄基準分數主要反映訓練標籤所採用的政策定義,而非單純反映模型的偵測能力。研究以同一批約 53k 個提示詞按兩種操作定義標註,訓練十種護欄模型配置;架構和最佳化器系列相同時,僅 0.03% 的參數變動便可令 HarmBench -copyright 分數跨越 0-100,OR-Bench -hard 過度拒絕率則介乎 3.4-56.4%。

  10. HuggingFace Daily Papers(社區熱門論文)42

    Deep Fusion Memory:面向大語言模型的區塊級參數化記憶

    Deep Fusion Memory(DFM)是一種區塊級參數化記憶架構,透過閘控交叉注意力將預測的記憶融入中間隱藏狀態,推理時無需明確檢索。與現有參數化記憶方法相比,DFM 建構訓練資料所需的檢索查詢減少 32 倍、檢索項目減少 2048 倍。在六項問答任務中,DFM 相較最強基線,在 Mistral-7B-v0.3 和 Qwen3-8B-Base 上分別提升 12.71% 和 11.19%。

  11. HuggingFace Daily Papers(社區熱門論文)45

    真實場景中的法律指引:用戶如何在大語言模型對話中尋求法律協助

    這項研究分析真實世界的大語言模型對話中用戶尋求法律指引的方式,建立分類體系並標註 2,122 段 WildChat 對話。研究另發布經人工審核、包含 200 段對話的評測集,並訓練及評估用於識別法律指引請求和分類法律主題的小型分類器。相關數據集、模型檢查點及評估程式碼均已公開。

  12. HuggingFace Daily Papers(社區熱門論文)41

    CoworkEnv: Synthesizing Training Environments for Long-Horizon Cowork Agents

    CoworkEnv 透過工作流程引導任務建構及程式化驗證,合成可執行的 AI 協作訓練環境,供 PocketWorker 模型進行監督式微調與強化學習。以 Qwen3-VL-8B-Instruct 為例,微調後在 Claw-Eval 的平均分數由 46.6 升至 64.1,多輪任務提升 31.9 分。研究亦比較不同獎勵處理及信用分配設定下的強化學習訓練動態。

  13. TNW59

    Meta 遭反彈後從網站爬取條款中刪除「訓練」字眼

    Meta 在商業客戶及媒體提出批評後改寫網站爬取條款,修訂稿不再列出「訓練」用途,並明確説明條款適用於廣告及商業產品。條款將於 10 月 30 日生效,企業繼續使用 Meta 商業產品即視為接受;Meta 表示爬蟲運作方式不變。News/Media Alliance 指出,條款沒有明文禁止訓練用途,也沒有説明 Meta 會否尊重 robots.txt。

10月17日週六
  1. Unite.AI66

    Meta 修訂待生效《商業條款》,刪除以爬取內容訓練 Meta Company Products 的條文

    Meta 修訂將於 2026 年 10 月 30 日生效的《商業條款》,刪除原先明文允許使用爬取內容訓練 Meta Company Products 的句子。修訂後仍授權使用自動化軟件存取、分析及定期擷取與商業用戶產品或服務相關的網域、網頁、網址及其內容,用途包括提供、開發、改進、研究和維護廣告及商業產品,以及維護 Meta Company Products 的完整性和安全。

  2. DEV Community78

    Reflection AI 開源 501B 參數 Beam 權重及 Mirror CLI 訓練工具

    Reflection AI 本週開源 Beam 的 501B 參數權重及實際訓練工具 Mirror CLI,權重採用 Apache 2.0 授權。Beam 是稀疏混合專家模型,總參數為 501B、每個 token 啟用 23B,提供 BF16、FP8 和 NVFP4 三種權重格式。目前沒有獨立基準測試,文中的效能説法來自廠商資料。

    推薦理由:Mirror CLI 隨 Beam 一同開源,讓讀者看到權重以外的訓練流程,並評估其對微調及預訓練研究的參考價值。

  3. DEV Community47

    合成訓練數據需要血緣圖,而非單純增加數量

    合成數據團隊應為訓練樣本建立生成血緣記錄,而非只靠增加生成量解決數據不足。缺少教師模型、提示詞模板及篩選器等來源記錄,會令數據整理難以追溯,蒸餾循環亦會把教師模型的盲點帶入學生模型。建議把每個合成樣本視為可版本化、可審核的構建產物,記錄模型檢查點、提示詞版本、採樣參數及篩選資訊。

  4. IT之家62

    「鵬城雲腦 Ⅲ」10000P 國產算力上線試運行

    「鵬城雲腦 Ⅲ」的 10000P 國產算力在 2026 世界算力網大會開幕式上正式上線試運行。該設施採用華為昇騰最前沿的 384 超節點架構,首期設備已於今年 3 月通電點亮;完全建成後算力規模將達 16000P(IT之家註:合 16 EFLOPS)。在全部建成前,這批算力已開始供國產大模型訓練與科學智能研究使用。

  5. DEV Community40

    AI 的數碼極簡主義:減少運算如何反而提升模型質素

    AI 業界過度追求模型規模,會擠壓數據、訓練及推理策略的工程優化;文章主張,針對不少實際任務,縮小模型並改善流程反而能提升質素。Phi-3(3.8B)在推理基準測試中匹敵或勝過大 10 倍的模型,Mistral 7B 在推出時亦在大部分基準測試中匹敵 Llama 2 13B。文章指出,開放式推理、長上下文任務及未知領域泛化仍是規模佔優。

  6. DEV Community27

    Orin AI(AE-Assistant):我如何從零打造小型語言模型,以及它如何運作

    Orin AI(AE-Assistant)是作者從零打造、仍在開發中的小型語言模型項目,目標是在沒有專用 GPU 的一般手提電腦上本地運行。項目探索 decoder-only Transformer、自訂 BPE tokenization,並試驗循環深度架構及基於檢索的 grounding;作者亦製作影片介紹項目並展示模型運行。

  7. IT之家48

    微軟打造 StudentSim「AI 學生」模擬器,模擬學生反應以優化 AI 導師

    微軟研究院推出 StudentSim,以個人化 AI 學生模擬器模擬學生答題及接受導師講解後的反應,供真人測試前評估 AI 輔導效果。以 StudentSim 回饋訓練的 AI 象棋導師準確率達 90.5%,高於無強化學習基線的 75.7%及 GPT-5.4 模擬回饋的 71.6%;微軟稱 StudentSim 並非課堂產品,亦不旨在取代教師。

  8. DEV Community49

    I rewarded an AI only for winning a war game. It ended the world more and won nothing.

    作者在 SECOND STRIKE 中對 gpt-oss-20b 的兩個副本進行微調,分別獎勵贏得戰爭,以及贏得戰爭且不使用核武,並與未訓練模型一同參加 10 場封閉戰爭。只獎勵勝利的副本在 10 場中有 6 場摧毀世界、一次也沒贏;禁用核武獎勵的副本沒有摧毀世界,但比未訓練模型多違反兩倍條約。實驗指出,限制一種不良行為可能把爭勝壓力轉移到其他行為。

  9. DEV Community55

    大語言模型訓練實際上做了甚麼

    大語言模型訓練透過反覆預測下一個 token、計算誤差、反向傳播梯度並更新權重,令模型的預測逐步貼近訓練文本。以 GPT-3 為例,每次更新處理 3.2 million tokens,總訓練量為 300 billion tokens,約進行 94,000 次更新。訓練調整權重,使下一個 token 的預測符合文本的統計模式;輸出流暢或有信心,不代表內容正確。

  10. DEV Community28

    Privacy-Preserving Active Learning for sustainable aquaculture monitoring systems for extreme data sparsity scenarios

    文章探討如何為水產養殖監測系統設計兼顧私隱與標註稀缺的主動學習流程。作者稱,結合不確定性取樣與多樣性正則化後,模型達到相同 F1 分數所需的標籤減少約 35%;在少於約 500 個樣本時,DP-SGD 的私隱與效用取捨尤其嚴峻。文章亦提出以智能體監察模型漂移、預算消耗及私隱核算,並決定後續行動。