osFoundry Local Model 如何運作:從選擇開放權重模型到在本機訓練
osFoundry 的 Local Model 在桌面應用程式中整合開放權重模型的探索、安裝、推理、量化、微調及評估,並支援在本機硬件上運行。Explore 會按設備記憶體估算模型是否適用;文章亦示範以自訂數據集進行 LoRA 訓練,並用 Eval 評估回答質素、以 Benchmarks 測量速度及延遲。
osFoundry 的 Local Model 在桌面應用程式中整合開放權重模型的探索、安裝、推理、量化、微調及評估,並支援在本機硬件上運行。Explore 會按設備記憶體估算模型是否適用;文章亦示範以自訂數據集進行 LoRA 訓練,並用 Eval 評估回答質素、以 Benchmarks 測量速度及延遲。
作者在 6 類模型測試 weight-space programming,發現它能修補傳統及小型模型,但 LLM 的自行編輯未能穩定維持。無標籤降雨預測的手寫模型 AUC 為 0.809,低於以 2.5 年標註資料訓練的 XGBoost(0.839),但高於以 60 日資料訓練的模型(0.747);新詐騙模式加入 23 個權重的規則區塊後,捕捉率由 10% 升至 98%。
Physicl 獲 Inovia Capital 1,000 萬美元種子輪融資,為世界模型設計者和機械人開發者提供更逼真的模擬環境,協助解決訓練難題。公司推出 Studio,提供 10,000 個 3D 環境和 100,000 件物件資產,用戶可建立場景,生成針對特定問題的合成訓練數據。
Physicl 完成由 Inovia Capital 領投、US Venture Partners 參與的 $10 million 種子輪融資,並推出首款合成訓練數據應用 Studio。
文章以 Qwen2.5-1.5B-Instruct、rank 16 為例,拆解 LoRA 在 28 個 Transformer blocks 的七種線性投影加入 adapter,合共訓練 18.5M 個參數,約佔模型 1.2%。
這篇每週研究與工程摘要指出,當已有強模型檢查點可供蒸餾時,一項比較中在策略蒸餾以約 50x 較少蒸餾 FLOPs 達到與 GRPO 相同的準確度。另一項研究發現,已有 1,200 個高質素示範時,60 步 GRPO 未帶來可檢測的同分佈增益。DPO 研究則發現,在特定獎勵邊際區間內,抽取任務維持原有表現,路由任務表現下降約 30 分。
歐洲AI發展受電力接入、產業斷層、監管負擔和資金不足等結構問題牽制,AI算力佔全球不足5%。法蘭克福、巴黎、都柏林等數據中心樞紐的電網接入排隊普遍需7至10年;歐洲目前只產出3個基礎AI模型,美國有40個,中國有15個。歐洲企業大量租用美國雲廠商算力,工業數據與人才優勢未能充分轉化為本土AI競爭力。
Grace Huckins 試用 Tau Robotics 在三藩市提供的人形機械人清潔服務,機械人目前仍需人員遙距操控及支援,並透過清潔任務收集訓練數據。第二次清潔時,機械人完成了廚房和馬桶清潔,但爬樓梯不穩,過程中亦有失誤;吸塵和拖地等部分任務則已可在沒有人手協助下完成。Tau 希望利用收集到的數據訓練自主清潔機械人,並開始考慮日後將它們用於除黴和家居護理等工作。
張偉楠在 CNCC 2026 演講探討物理智能如何讓 AI 走出螢幕,透過感知、預測、行動與持續學習,形成與真實環境互動的閉環。他梳理了涵蓋硬件與系統、數據與仿真、感知、世界模型、基礎模型、物理智能體及應用層的七層技術棧,並指出真實交互數據昂貴、環境局部可觀測及長時程預測誤差累積等挑戰。
DevOpsInterview.Cloud 整理面向 DevOps 與平台工程師的 MLOps 面試指南,涵蓋 pipeline、特徵儲存、模型漂移及發布把關。
一名身份不明的操作者以機械臂製作《蒙娜麗莎》拉花咖啡,每杯售價 14 元。機械臂自行完成六個步驟;拉花失敗時由人手修正,成功及修正軌跡可用作訓練數據。演示未提供產能、運行時間或可靠性數據,單次操作只能證明這項任務可行,不能證明大規模營運的單位經濟效益。
企業建設數據系統應先統一指標口徑、把數據治理融入研發流程,並以跨部門機制和持續運營保障平台真正投入使用。阿里雲瓴羊Dataphin以“OneData”和“治理即研發”為核心,整合數據集成、開發建模、智能治理與資產運營,並將大模型能力用於生成SQL、診斷異常任務。雅戈爾整合16個系統至1個平台,上汽大眾梳理超過1萬個數據對象。
這篇教程逐層拆解 Llama 2 7B,計算其約 6.74B 參數及單 token 前向約 13.5 GFLOPs 的由來。文中將模型拆為 Embedding、32 個 Transformer Block 和 LM Head,指出約 96% 參數位於 Block,並推導 FFN 中間維度 11008 的由來。
評估數據治理工具,關鍵不在功能清單長短,而在治理能否貫穿研發、元數據、數據質素、口徑管理與資產消費鏈路。文章以阿里雲瓴羊 Dataphin 為例,提出五項評估能力:治理前移至研發、元數據與血緣同步生產、質量監控追查根因、口徑以工程方式約束,以及讓業務人員直接使用數據資產。2026版的 Data Agent 深入融入多個治理場景。
文章示範以 Python 建立商品評價分析流程,涵蓋抓取、清洗去重、情感分析、質素評估與結果視覺化。抓取可優先使用評價 JSON 接口,或在需要時以 Playwright 載入頁面;情感分析可先用 SnowNLP,也可微調中文 BERT。評估會按做工、外觀、物流、性價比及售後等維度統計提及率與情感分,並計算綜合口碑分。
VIDRAFT 的 Darwin-180B-RSI 是一個 180B 參數語言模型,透過遞迴自我改進(RSI)更新,據稱只修改約 0.02% 的參數,其餘約 99.98% 權重保持凍結。模型以 SSD 串流方式在筆記型電腦上推理,速度為 4.17 tokens/second;來源未提供標準基準測試分數或公開存取方式。
SLA 將空間對齊擴展至持續預訓練及下游後訓練,並以預訓練 pi05 policy 為起點,對齊視覺嵌入與凍結的 3D 感知模型所提供的空間表示。模型運用多元機械人數據、特徵依賴閘門及概率狀態 dropout 改善空間理解;輔助組件只在訓練期間使用,推理架構維持不變。
奇富科技於11月4日開源自動建模智能體 ModelEvo 2.0,面向結構化與表格數據,可按用戶設定的業務目標及預算完成建模,並輸出經校驗的模型成果和實驗記錄。
專注建立大型化學數據集的 AI 初創公司 Potential Sciences,獲英國 Sovereign AI Fund 支持,這項支持屬於其八位數融資的一部分。
機械人訓練數據產業快速擴張之際,供應商在採集、加工及交付鏈條上的分工與收益正出現分化,買家則高度集中。文章指出,買家需求由大批量通用第一人稱數據轉向指定場景、指定任務及更細緻的交付標準,驗收不確定與加工成本令供應商承受壓力。部分模型公司亦在建立自有數據生產體系,掌握任務定義、數據標準和訓練反饋,改變第三方供應商的競爭位置。
四川啓鳴達人科技有限公司同時入圍四川省第二批數據企業擬入庫名單中的數據資源企業和數據應用企業兩類。公司在19家數據資源企業中排名第1,在227家數據應用企業中排名第36;公示期為2026年10月28日至11月3日。
中國農業科學院團隊研發「適配系列農產品農藥殘留等多靶標智能快檢技術」,可用手機快速檢測農產品農藥殘留。一次檢測需時5至15分鐘,可同步檢測6至36種農藥殘留。經優化後,算法在田間實地測試的準確率達98%以上。
這篇大模型課程第 4 課以 6 個可手算例子,拆解 Tokenization、BPE 合併規則,以及中文 token 成本和詞表大小的取捨。文中估算中文文本較英文多用 54%–69% token;Qwen 151,851 詞表較 Llama 2 32,000 詞表多約 491M Embedding 參數,以更少中文 token 換取較短序列,推理加速 30–50% 亦屬估算。
Bittensor 和 Render 以互補的去中心化架構,分別應對 AI 開發中的訓練與 GPU 瓶頸。Bittensor 透過子網和激勵機制促進 AI 模型貢獻與評估,Render 則連接 GPU 用戶與提供者,提供分散式運算資源。這些網絡仍面對擴展性、效能、延遲及運算可信度等挑戰。
百度正式開源基座模型文心5.5 Flash Base(ERNIE 5.5 Flash Base),模型總參數為2800億,每個Token實際啟用140億參數。模型以33.5萬億個Token完成預訓練,預訓練上下文最高128K,微調後推理上下文最長支援100萬Token;公佈的測試包括MMLU 93.3分、MMLU-Pro 78.4分。
Thinking Machines Lab於2026年11月5日宣佈啟動新一輪融資,投前估值400億美元、目標募資50億美元,並發佈第二代模型 Inkling 2 Small。
具身智能公司源策未來發佈全身控制模型 Anchor 1,將其定位為全身智能架構的 System 0(S0),負責把動作指令穩定轉化為全身動作。在 72 段全身操作真機測試中,其手腕和腳踝全局位置誤差較此前最佳對比方法分別低約 28% 和 39%;踢紙箱遙操作示範採集成功率則由 37.5% 提升至 98.0%。
美國《2026年禁止人工超級智能法案》仍在委員會審議,擬暫停先進 AI 開發,並要求訓練算力達到10的25次方的系統停止訓練及微調,直至聯邦「人工智能部」訂立安全規則。違規個人最高可判監20年,涉事企業可能被強制解散。受禁令憂慮影響,11月5日道指、納指及標普500指數分別下跌3.44%、5.52%及4.36%;福布斯與彭博估算馬斯克個人財富單日減少793億及797億美元。
作者分析,美股普跌與美國數據中心建設阻力上升及前沿 AI 訓練算力可能受限的政策憂慮相關,但不認為相關法案本身足以解釋市場下跌。相關法案仍在審議,尚未生效或獲國會兩院通過;作者認為 Capex 明年可能持平或下降,市場邏輯將由增量轉向存量。
中國科學技術大學周少華、熊鵬團隊發布開源 RNA 序列基礎模型 structRFM,將結構知識融入序列預訓練,在多項結構與功能推斷任務中達到國際前沿水平。模型只需輸入序列,便可提取多層級特徵,支援結構預測及多種功能推斷。團隊已開放配對數據、模型權重和源代碼。
Physical Intelligence 聯合創辦人謝爾蓋·萊文在訪談中指出,通用機械人發展的核心瓶頸是以可承受的工程成本取得高質素物理交互數據,建立可持續的數據閉環。
VeRL-Omni 發佈 v0.3.0,擴展多模態強化學習的異步執行,並擴大圖像、影片、音訊及多模態理解的後訓練支援。V1 訓練器成為預設,版本亦提供 MiniMax H3 DiffusionNFT 和 MiniCPM-o 4.5 AVQA GSPO 等配方。
PhysioWave-T 論文提出面向 EEG、ECG 及 sEMG 的小波基礎模型系列,透過動態尺度折疊減少 token 數量。其 30M 參數 EEG 模型以超過 15M 個窗口預訓練;在四種 EEG 路線中,尺度折疊相較尺度擴展使 Transformer 延遲降低 4.0–7.2 倍、峯值記憶體降低 6.8–12.7 倍,準確度沒有下降。
百度正式開源基座模型文心5.5 Flash Base(ERNIE 5.5 Flash Base),該模型以33.5萬億個Token完成預訓練。模型採用MoE架構,總參數2800億、每個Token激活140億,微調和推理階段最長支援100萬Token上下文。百度已在Hugging Face提供FP8和BF16版本權重;模型尚未經中訓練和後訓練,主要供開發者及企業作後續指令微調、領域適配和強化學習。
LoRA 微調會凍結基礎模型權重,改為在指定線性層訓練兩個低秩矩陣;以 Qwen2.5-1.5B-Instruct 的 Rank 16 配置為例,28 個區塊共訓練 18.5M 個參數,約佔模型 1.2%。
Meta 已暫停商業條款更新,相關條款不會於 2026 年 11 月 20 日生效,現行條款維持有效。原更新要求商業帳戶容許 Meta 使用相關網域、網頁或網址的內容,以提供、開發、改進、研究、訓練 Meta 產品及維護其完整性。更新曾因記者及用戶反對而由 10 月 30 日延至 11 月 20 日;挪威法院已暫時禁止新條款,英國競爭及市場管理局亦表示會自行調查。
推薦理由:暫停決定置於媒體與用戶反彈、挪威法院暫時禁令及英國競爭監管調查的背景中,呈現這項資料使用條款面對的多方壓力。
Sovereign-Mohawk-Proto 開放外部審核,邀請社羣檢查其去中心化聯邦學習執行環境的形式驗證、密碼學元件及協定實作。項目採用 Lean 4 規格、混合式密鑰交換、Ed25519、MiMC 零知識電路、Multi-Krum 聚合及 Rényi Differential Privacy(RDP)記帳,並在 GitHub 列出多項待審核問題。
HAL-X 發佈 THX-02,這款 4.5B 參數決策模型的權重、運行環境和伺服器採用 Apache-2.0 授權,並提供免費 API。THX-02 在 Decision Index 0.3 得分 65.06,高於最佳 27B 決策模型的 62.25;評測使用分層抽取的 6,018 個請求,競品數字引用其公開指數,並非重新測試。
METR估計,Anthropic截至2026年10月在明確界定任務上的模型能力增長速度,較2024年3月至2025年10月的速度接近翻倍。按AECI基準能力指數估算,自2025年10月起基準分數增長速度為1.9倍,95%信賴區間為1.5–2.8倍;METR認為AI使用很可能解釋目前加速的大部分。評估仍有重大不確定性,公開報告亦刪去了METR認為最具資訊量的大部分證據。
研究顯示,Weight-Space Programming(WSP)可透過局部修改神經網絡參數提升推理表現,但跨任務泛化和編輯可靠性並不穩定。研究涵蓋七個基準及 Qwen3.5-0.8B、Qwen3.5-9B;只修改 1,023 個參數,MATH-500 準確率便提升 29.45 個百分點。16 條編輯軌跡中有六條保留原有權重,反映可靠驗證仍具挑戰。