跳到正文
10月30日週五
  1. IT之家59

    研究指 AI 模型處理不同語言時,Token 消耗量最高相差 17 倍

    人工智能語言公平研究聯盟發現,一個 AI 模型處理不同語言時,Token 消耗量最高相差 17 倍。即使只比較互聯網最常用的 20 種語言,Token 消耗量差距也達 1.5 至 5 倍,研究將額外成本稱為隱性的「分詞器税」。Token 消耗較多會拖慢 AI 回應並減少可有效處理的上下文內容;受訪研究者呼籲公佈各語言評估結果,並改進下一代分詞器設計。

  2. IT之家66

    Reddit 擬逐步轉向登入優先瀏覽,防範 AI 模型爬取站內內容

    Reddit 行政總裁 Steve Huffman 宣佈,平台將逐步轉向以登入瀏覽為主,主要為阻止 AI 模型爬取站內內容。2026 年第三季度,Reddit 日均獨立訪問用戶為 1.303 億,其中 7680 萬人以訪客身份瀏覽,佔 59%。首頁仍會開放予訪客,Reddit 接下來幾個月會在美國以外部分市場測試不同的訪問權限方案。

  3. 阿里雲開發者社區 AI42

    光儲 IoT 數據管線如何從 Modbus 演進至 AI 調度

    光儲 IoT 數據管線以邊緣協議轉換、雲端接入與流式清洗,再到模型推理及策略下發,處理多品牌設備協議異構、高頻遙測和電價預測等挑戰。實踐採用 MQTT、EMQX、Flink 與 TimescaleDB,並以 LightGBM 預測電價、由規則引擎和優化求解器生成充放電策略。模型輸出價格信號,策略引擎綜合設備約束及電網考核規則決定執行計劃。

  4. DoNews34

    工業大模型走向生產現場,數據與工藝決定落地深度

    工業大模型競爭正由通用問答轉向生產現場,落地成效取決於數據治理、工藝約束及工程驗證。應用通常先從品質檢測、知識檢索和設備維護等範圍較清晰的環節開始,再逐步連接生產排程與工藝優化。跨生產線複製還需打通數據接口、協調人員責任,並以可核查的品質或效率改善驗證收益。

  5. DEV Community48

    哪些馬來西亞網站封鎖 AI 爬蟲?我檢查了 100 個網站

    對馬來西亞 100 個大型網站的檢查發現,13 個網站在 robots.txt 中封鎖至少一種 AI 爬蟲,沒有網站封鎖全部 17 種。新聞網站封鎖情況最普遍,15 個中有 5 個封鎖至少一種;GPTBot 最常被封鎖,共有 9 個網站封鎖。100 個網站中有 74 個允許所有 AI 爬蟲,另有 13 個未讓檢查程式讀取 robots.txt。

  6. DEV Community65

    克里米亞韃靼語建庫的資料教訓:語言過濾器難辨近親語言

    Servin Osmanov整理克里米亞韃靼語語料建置經驗,指出一般語言識別難以排除詞彙相近的土耳其語,並以偵測本語言不會出現的形式補足。他將數千個可疑片段隔離而非刪除,並指出自動檢查仍須母語者覆核。在同一組 524 個評估提示詞中,新版本帶有土耳其語形式的拉丁字母 token 比例為 2.02%,前一版為 0.27%,相差 7.5 倍。

  7. DEV Community50

    把空白欄填成 0,平均值就會改變:交給 AI 處理表格前的檢查

    作者用三筆虛構資料説明,把未記錄的空白欄填成 0,平均值會算成 10 分;只計入兩筆已記錄資料時,平均為 15 分,並非三筆整體平均。交表給 AI 前,應先確認空白的含義,要求不要推測補值,並分別列出已用筆數、總筆數和未記錄筆數;文中示例數字為 2、3 和 1。

  8. HuggingFace Daily Papers(社區熱門論文)36

    AuditFL:為開放式聯邦學習提供合約支持的結算層

    AuditFL 提出一個由區塊鏈支持的結算層,讓開放式聯邦學習的訓練輪次可供審計並受經濟規則約束,同時保留聚合器。該系統將訓練和聚合保留在鏈下,鏈上記錄內容識別碼及經濟狀態;在最多 200 個客戶端的測試中,AuditFL 保持 Plain FL 的學習軌跡,並在多種故障測試下完成輪次結算。

  9. HuggingFace Daily Papers(社區熱門論文)50

    DAMI:用於提升門控線性注意力長上下文檢索的雙軸記憶初始化

    DAMI 為 GDN、GDN2、KDA、Mamba-2 和 RWKV-7 提出雙軸記憶初始化方法,聯合設定控制衰減係數的 A_log 與 dt_bias 初始值。100M 參數、5B tokens 的預訓練實驗中,五種架構的 RULER 檢索準確率平均較隨機初始化高 5.29–16.71,整體能力基本不變。這種方法無需增加參數或更改運算子,也不影響推理。

  10. HuggingFace Daily Papers(社區熱門論文)40

    DecisionRank:面向決策模型重排器的 on-policy 蒸餾

    DecisionRank 以 item-space on-policy 蒸餾,把生成式教師模型的排序知識轉移至決策模型,在檢索基準上達到最先進表現,推理速度亦顯著提升。1.7B 參數的 DecisionRank 在 TREC DL19–23 超越 27B 生成式教師模型;8B 版本在 TREC DL 上快 24.5 倍,在 BRIGHT 上快 16.7 倍。

  11. HuggingFace Daily Papers(社區熱門論文)40

    MUON-RT 重用教師軌跡,實現面向 LLM 自蒸餾的無動量 Muon

    Muon-RT 重用教師與學生的位移,免除隱藏權重矩陣的獨立動量緩衝區。在 Qwen2.5-7B-Instruct 的 SDFT 中,其平均準確率較 AdamW 高 2.6 點、持久記憶體用量少 42%;較 momentum Muon 高 5.4 點、記憶體用量少 27%。在 Olmo-3-7B-Instruct 的 SDPO 中,平均準確率較 AdamW 高 2.0 點。

  12. HuggingFace Daily Papers(社區熱門論文)37

    輔助獎勵如何幫助小型語言模型從經驗證的推理軌跡中自我改進並評估遷移能力

    研究比較信心指標 SC 與結合全局熵變化和局部平滑度的 UID-Conj.,評估輔助軌跡偏好對小型語言模型自我改進及遷移的作用。Qwen3-1.7B 在 30 道 AIME 題目上的在線實驗中,UID-Conj. 較未修改的 TTRL 在適應基準及三個遷移基準的宏平均高 2.08 個百分點;離線加權 SFT 中則較均勻加權高 1.93 個百分點。

  13. DEV Community59

    去識別化中的個人資料檢測方法與侷限

    文章比較 Regex、機器學習模型及 LLM 偵測個人資料的做法,指出效果取決於資料形式、上下文,以及模型是否接觸過相近領域的標註樣本。校驗碼規則適用於固定格式識別碼,但仍會誤報,也無法處理姓名和自由文本地址;模型表現則受資料集和評分方式影響。CV benchmark 中,最佳方案的召回率達 0.97,仍有 40 份履歷中的 10 份洩漏個人資料;文章建議以相近資料的標註樣本評估偵測器。

  14. DEV Community23

    LGPD 如何規管健康敏感資料的處理

    巴西《一般個人資料保護法》(LGPD)將健康、基因及其他特定個人資料列為敏感資料,要求處理者具備第 11 條所列的法律依據,並採取與風險相稱的安全措施。用於訓練 AI 模型的資料須經不可逆匿名化;假名化或遮蔽資料仍受 LGPD 規管。醫療從業者及機構亦須遵守 CFM 第 2.288/2021 號決議,違規可能引致行政制裁或紀律程序。

  15. DEV Community45

    第 29 天:企業 IT 如何管理技術債、模型漂移與模型治理

    AI 系統即使沒有修改程式碼,也可能因數據分佈或輸入與正確答案之間的關係改變而逐漸失準,分別稱為數據漂移和概念漂移。企業可用 PSI 或 Kullback-Leibler divergence 持續比較生產數據與基準,並建立模型清單,記錄訓練數據版本、量化設定、授權責任及業務負責人。安排重新訓練和退役流程,有助避免過時模型及未維護的整合累積成技術債。

  16. Cartesia 產品與研究65

    Cartesia 發表 H-Nets 規模擴展研究:從 Tokens 到 Bytes(一)

    Cartesia 研究團隊分享改良版 H-Nets 的規模測試,結果顯示模型可在模型內動態分塊,並在語言建模中提升計算效率。受控的單階段 H-Net 比較中,BPE Transformer 需 1.28× 計算量才能達到相同驗證損失;在 Paloma 和 OLMES 評測中,所需計算量分別是 H-Net 的 1.83× 和 2.06×。

  17. Unite.AI48

    BBERT 利用 AI 識別土壤樣本中隱藏的細菌 DNA

    耶路撒冷希伯來大學及合作機構開發 BBERT,能識別短至 100 個鹼基的細菌 DNA 片段。基準測試中,BBERT 分辨細菌與非細菌 DNA 的準確率約為 90%,識別蛋白質編碼片段及其讀取框的準確率分別約為 88% 和 96%。團隊將工具應用於 1,969 個土壤 DNA 數據集;模擬混合樣本中,平均組裝時間由約 66 小時降至 25 小時。

10月29日週四
  1. HuggingFace Daily Papers(社區熱門論文)35

    沒有通道被遺忘:透過殘差閘理解擴散模型加速

    研究發現,REPA 等擴散 Transformer 加速方法會重組 AdaLN-Zero 殘差閘 α,而較廣泛的閘參與度與較佳生成品質相關。研究提出無需教師模型的徑向目標,透過特徵範數正則化促進廣泛參與;在 ImageNet 256times256 的 SiT-B/2 實驗中,該方法的 FID 優於 dispersive loss。

  2. DEV Community55

    Feature Store 是甚麼,團隊是否真的需要?

    Feature Store 是集中計算、儲存及供應機器學習特徵的系統,以同一特徵定義支援訓練與線上推理,主要處理訓練與服務偏差及跨團隊重用問題。文章建議先判斷是否有偏差、低延遲服務需求或重複建立特徵的情況,並評估團隊能否維運常駐基建。若只有少量模型或單一團隊,可先用共享轉換層、特徵目錄及同一資料來源,減少額外運維成本。

  3. 新浪科技24

    王騰:今日宜休聚焦精準監測、科學幹預與精力恢復,計劃一年內採集超 1000 例金標準臨牀 PSG 數據

    王騰公佈今日宜休的發展策略,聚焦精準監測、科學幹預與精力恢復,並計劃一年內採集超 1000 例金標準臨牀 PSG 數據。今日宜休將睡眠科學、AI 算法與軟硬件產品研發協同,構建面向個人的睡眠健康 AI 技術體系 ISHO Intelligence。睡眠科研範疇正由夜間睡眠質素延伸至日間精力狀態等醒後場景。

  4. IT之家25

    王騰:今日宜休聚焦精準監測、科學幹預與精力恢復,計劃一年內採集超 1000 例金標準臨牀 PSG 數據

    今日宜休創始人王騰公佈公司戰略,計劃以睡眠科學、AI 算法及軟硬件產品研發協同,構建面向個人的睡眠健康 AI 技術體系 ISHO Intelligence。公司聚焦精準監測、科學幹預與精力恢復,計劃一年內採集超 1000 例金標準臨牀 PSG 數據;睡眠產品科研亦由夜間睡眠質量延伸至醒後的日間精力狀態。

  5. InfoQ52

    如何讓人工智能更具環境可持續性

    Charles Humble 主張將可持續性納入計算工作負載的頂層架構考量,並以較小或預訓練模型、低碳地區運算及需求轉移降低 AI 的環境影響。他指出,IT 約佔全球排放量 2–4%,而模型部署及維護可能消耗大部分能源。他亦稱,理論上全程使用可再生能源訓練,可減少 45% 至 99% 的碳排;需求塑形則可按電力碳強度調整工作量或服務品質。

  6. DEV Community29

    MuonGS 為何在 LLM 預訓練中勝過 AdamW 和 Muon

    MuonGS 在 400M dense 和 1B 參數 MoE 架構上,達到相同驗證困惑度的速度比 MuonH 快 15%。它透過 Gram-Schmidt 投影控制權重範數增長,並以原位張量運算執行,無需額外配置 VRAM。此方法適用於具平滑尺度不變性的層;token embeddings 和語言模型輸出頭仍需其他調度器或 AdamW 分支。