DISC:面向時間序列數據集的領域整合相似度成本
DISC 是一種可學習的聚合框架,透過校準遷移觀測,選擇、加權及整合不同相似度指標,以預測時間序列數據集之間的下游預測遷移表現。研究顯示,DISC 在所報告的數據切分上,比單一指標更能對齊下游表現;數據集相似度的作用會因下游任務而異。
DISC 是一種可學習的聚合框架,透過校準遷移觀測,選擇、加權及整合不同相似度指標,以預測時間序列數據集之間的下游預測遷移表現。研究顯示,DISC 在所報告的數據切分上,比單一指標更能對齊下游表現;數據集相似度的作用會因下游任務而異。
PyTorch 團隊更新 TorchTitan,加入多款模型的原生訓練支援、TitanRL 強化學習功能,並改進大規模訓練效能。新支援包括 Muse Spark Open、Muse Glimmer、Qwen3-VL、Qwen3.5、Kimi K2.7、Kimi K3 和 DeepSeek-V4,整合涵蓋 TorchTitan 的 5D parallelism stack。
NVIDIA 推出預訓練關聯數據基礎模型 Kumo Relational,可直接在企業數據庫上預測,並以最多 10,000 個歷史樣本作上下文,無需任務專屬訓練。
推薦理由:文章比較 Kumo Relational 與監督式模型及 AutoGluon,並交代評測範圍和樣本限制,呈現其在關聯數據預測中的適用邊界。
AI 研究新創 Flapping Airplanes 融資 $1B,估值達 $6B,較 1 月增至四倍。融資由 Index Ventures 和 Lux Capital 領投,Sequoia Capital、Alphabet’s GV 及 Kleiner Perkins 亦有參與。公司尚無在售產品,正研究以較少數據和算力訓練 AI,並為 Nvidia 圖形晶片編寫自有運行軟件,以提升晶片效能。
FootballAnt 構建 AI 足球預測及賽事分析平台,整合不同賽事的賽程、賽果和聯賽榜,為每場比賽提供預測及其依據。平台以勝率等概率呈現預測,並附上近況、對賽紀錄、排名和關鍵數據;另提供即時比分及賽果,並推出 iOS 和 Android 免費應用程式。
Flapping Airplanes 融資 $1B,估值為 $6B。公司正研究以較少數據和計算資源訓練 AI 模型,以及提升晶片效率的方法。
Baseten Base Labs 發佈 9B 的 elephant-1 和 27B 的 mammoth-1 決策模型,並公開權重:https://huggingface.co/baselabs/mammoth-1、https://huggingface.co/baselabs/elephant-1。
Amazon SageMaker AI 適合沿用既有 AWS 工作流程;Nodus 適合自行執行訓練程式,並使用預付額度與單次支出上限。作者表示其團隊開發 Nodus;比較根據公開文件,並非同條件效能基準測試。文章建議固定模型版本、數據集和訓練設定,比較完整費用與耗時、計入遷移工時,並測試檢查點能否恢復。
購買 AI 工具前,企業應先指定物料主檔負責人,確保有人審批新增貨品編碼並修正錯誤資料。文章建議匯出貨品清單,檢查描述相近的重複項目及計量單位,並記下由誰跟進。印度一間食品服務分銷商採用 Microsoft Dynamics NAV,改善數據可靠性後,易腐貨品浪費減少 18%,訂單填充率達 96%,增加 Rs 1.2 crore 利潤。
Self-Credit 提出一種端到端智能體強化學習方法,透過組內重新縮放,從稀疏結果獎勵生成密集監督訊號,以改善長時程任務的信用分配。
NVIDIA 在 GTC Berlin 宣佈,多家歐洲車廠及出行服務商正以 Hyperion 展示自動駕駛應用,涵蓋 L3、L4 車輛及未來 Robotaxi 車隊。
NVIDIA 宣佈擴展 Isaac 開放機械人平台,加入 Agile ONE SN 參考人形機械人、新數據集及執行時,並更新學習框架。Agile ONE SN 預計於 2027 年初推出;Isaac Lab 3.0 已正式開放使用,Isaac OS 是連接 AI、感測器、控制系統及機械人硬件的開源執行時框架。
分散式 AI 訓練會在多個加速器之間協調數據、參數、激活值、梯度及優化器狀態,讓模型或批次規模超越單一裝置的訓練能力。訓練流程可分為五項操作:劃分工作、執行本地前向與反向計算、傳送所需張量、同步或以流水線方式更新,以及建立檢查點並復原。
Databricks 宣佈 AI Runtime(AIR)正式開放使用,這個內置於 Databricks Lakehouse 的全託管無伺服器 GPU 平台,可用企業數據訓練及微調深度學習模型。
Porsche、Volkswagen Group 品牌及 CARIAD 宣佈共同建設自動駕駛共享數據循環,由 Porsche 負責初期實施及生態系統整合。Volkswagen Group 正開發連接車隊數據與模擬、訓練和評估的 physical AI 技術堆疊;Voxel51 提供數據層,NVIDIA 提供相關技術,Microsoft Azure 提供雲端及運算資源。
NVIDIA Kumo Forecast 是一款多變量時間序列預測模型,結合預訓練 Transformer 主幹、領域感知表徵與檢索(DARR)歷史模式檢索,以及結果可解釋性。
Databricks 宣佈 AI Runtime(AIR)正式全面推出,將受管 GPU 基建整合至 Databricks,讓客戶可在企業數據所在環境訓練模型。AIR 提供隨選 GPU、多節點訓練、秒級啟動及內置除錯,並在 Databricks 和 Unity Catalog 的治理範圍內運作。
Databricks AI Runtime(AIR)現已正式開放,開發者可在無伺服器 NVIDIA GPU 上使用 NVIDIA NeMo、NGC containers 和 Nemotron cookbooks 訓練及微調開源模型。
Google Cloud 與 NVIDIA 宣佈,Vera Rubin A5X 執行個體將於下月正式提供,並計劃擴展至歐洲。
TernScope 協同設計內窺鏡分割模型與配套加速器,令全部 25 個卷積層採用三元權重,並以 8-bit 激活值進行運算。模型有 0.2483M 個參數,在 256×256 下運算量為 0.0949 GMACs;在匹配的 45 nm 綜合條件下,計算陣列面積較原始 INT8 Gemmini 低 88.46%。
SpaceX 第三季度錄得 44 億美元淨利潤,營收達 145.75 億美元,成為上市以來首個錄得盈利的季度。由 xAI 整合而來的 SI 業務收入達 75.60 億美元,佔總營收 52%;公司同期資本開支升至 195.93 億美元,主要投向 AI 算力基建及星艦等項目。
推薦理由:報道把 AI 算力收入、各業務盈利貢獻與資本開支放在同一份季度帳目中,呈現 SpaceX 扭虧與擴張投入並行的財務結構。
作者以 PyTorch 從零搭建小型大語言模型,逐步解説文字如何轉成 token,再經 Transformer 處理以預測下一個 token。示例模型以莎士比亞文本訓練,使用字元級 tokenizer、4 個 Transformer blocks、8 個 Query heads、2 個 KV heads,embedding size 為 256。
PAR 改進循環語言模型的長度外推能力,在每次循環預測相應步驟後的狀態,並重新縮放隱藏狀態。在 swap-S5 任務中,0.5B 模型以最多 32 步的序列訓練,在 512 步達到 95.5% 完整狀態準確率;同一設定下,RLT 為 55.7%,CoT 為 0.8%。PAR 亦可只用最終答案監督訓練,毋須中間狀態標註。
Lafa 是一款大型連續流語言模型,透過區塊式流設計、自我投機解碼及多 token 預測,實現高效訓練、高品質生成與更快推理。模型以少於 30B tokens 訓練,涵蓋 0.5B、7B 和 8B 規模;在品質相若的情況下,自我投機解碼的吞吐量達自回歸模型的 2.54x。
EEG 分類器若在訓練集和測試集包含同一受試者的數據,可能靠辨認受試者取得偏高評分,令結果高估對新受試者的泛化表現。
GRAIL 以 3D 資產和可供模擬器使用的場景生成影片示範,將動作轉移至人形機械人並訓練策略;研究報告稱,僅用生成數據完成多種物件拾取任務,真實世界成功率達 84%。這類虛擬流程仍依賴經準確測量且權利清晰的 3D 世界,測量和標註品質會影響生成數據。
AI與類器官、器官芯片結合,正推動以人源化、數據驅動的藥物研發和疾病治療新模式。今年初,多個團隊發起國際首個融合器官芯片與AI的個性化mRNA腫瘤疫苗臨牀研究。業界指出,建立標準化流程以快速產生高質量、規模化數據,是推進相關研發的主要挑戰。
研究團隊提出 TEAL,一種面向低預算語義分割的 ViT 像素級主動學習框架;它在原生 token 格點以兩層 MaxHerding 選取樣本,再於解碼器網格進行不確定性細化。
語言模型訓練管線可能把反覆轉載、缺乏獨立支持的統計數字學成可信説法,並在日後以既定事實的口吻重現。資料收集、去重、品質篩選、指令微調、偏好最佳化及檢索等環節都可能保留或放大風險,重複出現並不構成獨立佐證。評估應測試主張歸因、信心校準、來源變化對答案的影響,以及模型在證據不足時能否表達不確定。
文章整理 Cricsheet 女子 Hundred、大不列顛鐵路站使用量、GeoNames 地名及 HM Land Registry Price Paid Data 四類免費數據,並為各自提出可起步的介面項目。
i14 與 AWS 使用 TorchNeuron Native 的原生 PyTorch 支援,在 AWS Trainium2 上訓練及推理 Laplace 3B,保留 Gated Linear Attention(GLA)架構。
作者用 GPT-4.1 為 StateGlobe 建立 50,000 個虛構統計頁面;網站上線 7 個月後,ChatGPT 仍持續抓取並引用其內容。網站獲 330 多個引薦網域連結,GA4 記錄到超過 10,000 次來自 ChatGPT 的工作階段;虛構數字亦出現在一篇學術論文及銀行投資研究中。文章指出,Google 排名與 LLM 檢索是兩個不同問題,並建議統計頁為數字附上來源和年份。
團隊以約 2,000 段卡斯蒂利亞語音微調 Kyutai 的 Pocket TTS 西班牙語 24 層模型,並確認 step 600 是較佳檢查點。驗證損失由 step 600 的 0.4951 升至 step 1500 的 0.5095,完整句測試由 6 of 6 降至 3 of 6,輸出亦開始漏詞和增詞。Qwen3-ASR 可檢查文字錯漏,但無法判斷 seseo 是否已修正,因此仍須聆聽口音。
一名 COMSATS University Islamabad 電腦科學學生開發了結合 Random Forest 偵測與區塊鏈日誌記錄的勒索軟件偵測系統。系統在測試數據上的準確率約為 94-96%,偵測後可在 <2 secs 內發出即時警報。日誌以 SHA-256 雜湊串連前一筆記錄,作者稱其可防篡改並可供驗證。
Kronos 是首個只以金融 K 線數據訓練的開源基礎模型,處理來自 45 個全球交易所的序列,輸出供交易智能體使用的嵌入向量或預測。模型採用遮罩預訓練及因果微調,並提供預訓練權重與微調腳本,可用於下一根 K 線預測、波動率預測和市場狀態分類。Kronos 獲 AAAI 2026 接收,GitHub 星數達 42,000。
該方法從自動編輯的 3D Gaussian Splatting 表徵中學習場景專屬證據模型及先驗,透過貝葉斯融合和物件引導細化進行線上場景變化檢測。在 PASLCD 和 CCS3D 上,方法分別取得 67.64% 和 75.82% mIoU,達到最先進準確度。在 PASLCD 上,完整流程處理完整查詢序列的速度為 17.2 FPS,為受評估線上方法中最快。
LongZero 透過合成結構化多跳推理及檢索任務,並以 GRPO 訓練,讓大語言模型無需外部數據即可提升長上下文推理能力。研究在兩個大語言模型及五個長上下文推理基準上評估,結果顯示 LongZero 可泛化至真實任務,並勝過兩種基線方法。
研究團隊提出一套利用稀疏自編碼器(SAE)的流程,從神經網絡偵測器中提取可解讀的語言特徵,以人類可讀的概念分類 AI 生成文字。研究發現,基於這些特徵的分類器具備較強可解讀性,對分佈外文本的表現亦優於神經網絡及文體特徵分類器。
codec4AI 提出結合稀疏解碼與解耦跨影格依賴編碼的影片儲存方案,旨在提升 AI 訓練時隨機存取影格的效率。與論文評測的 LeRobot v3 配置相比,DDRA H.265 的媒體負載減少 58.7%,數據載入吞吐量提升 1.45×,重建品質相若。另有實驗顯示,在合適的壓縮設定下,下游 VLA、WAM 和 VLM 表現相若;論文、程式碼及文件已公開。
Chinchilla 以 70B 參數和 1.4T 訓練 tokens,在與 Gopher 相近的計算預算下取得約 67.5% 的 MMLU 得分,高於 280B 參數、使用 300B tokens 的 Gopher(60.0%)。