如何選擇政務公示、地方媒體與地圖數據作為本地信源
本地信源採集應按各類來源能證明的內容選源:政務公示證明登記、許可與處罰,地方媒體證明近期活動與公開報道,地圖數據證明座標、地址與營業狀態,三者不能互相替代。文中示例設定政務、媒體、地圖 TTL 分別為 30 天、7 天和 90 天,並按主體標識、內容及發布時間判定同源、合併記錄。信源與 TTL 均為假設值,實際採用時須按地區重新設定。
本地信源採集應按各類來源能證明的內容選源:政務公示證明登記、許可與處罰,地方媒體證明近期活動與公開報道,地圖數據證明座標、地址與營業狀態,三者不能互相替代。文中示例設定政務、媒體、地圖 TTL 分別為 30 天、7 天和 90 天,並按主體標識、內容及發布時間判定同源、合併記錄。信源與 TTL 均為假設值,實際採用時須按地區重新設定。
作者建立個人資料流程,把全血細胞計數(CBC)數據轉化為蛋白質建議,再輸入生成式設計流程製作結合口袋圖案。流程以 pandas 清理數據,參照 UCL 研究的百分位區間標示偏差,並使用本機 Stable Diffusion XL Base 生成圖案。最終成果是提供圖像和 CBC 指標儀錶板的 Flask 應用程式。
自監督時間模式挖掘可從行星探測器的遙測資料中,無需標籤地辨識與故障恢復相關的時間模式,協助分析關鍵恢復時段。文章探討對比預測編碼、遮罩時間序列建模及潛在空間聚類,並指出行星遙測資料採用 40–50% 遮罩比例效果最佳。
企業或機構可按四步推進數據資產化與交易:數據盤點及合規治理、確權登記與入表、產品化設計及打造高質量數據集,以及合規流通交易。文章指出,大模型帶動行業高質量數據集需求,將業務數據加工為 AI 訓練集是文中提出的變現路徑;安全合規是數據交易的前提。
一個團隊把 Cryo-EM 密度圖到化學上合理的結合口袋建模流程,改造成可重現的軟件服務,讓研究人員透過 API 取得排序後的結合模式。系統在 3 Å 密度圖上每個配體約需 45 秒,口袋檢測成功率為 98%;500 張圖的佇列可在一夜間處理完成。
元學習透過多項任務的經驗,學習可遷移的機制,讓模型以有限例子適應未曾遇過的任務。其訓練分為以少量例子適應個別任務的內部循環,以及根據適應結果更新共享知識的外部循環。章節亦概述 MAML、距離式方法及小樣本學習基準。
MAML 是基於最佳化的元學習核心方法,透過內循環按任務適應、外循環更新共享初始化,目標是在少量樣本下快速適應新任務。FOMAML 忽略二階項以減低計算負擔,Reptile 則按任務適應後的參數差異更新初始化;Meta-SGD、LEO 和 Implicit MAML 進一步探索不同的適應與計算方式。
基於度量的少樣本學習透過學習表徵空間中的相似性,讓模型以少量已標註樣本辨識未見類別。章節講解孿生網絡、匹配網絡、原型網絡及關係網絡等方法,並比較它們的分類機制。評估需使用未參與元訓練的類別,並考慮分佈變化、類別不平衡及支援集品質等因素。
快速適應讓模型只需少量新觀測、更新或互動,便能應對新任務與環境,減少重新訓練所需的資料和計算。章節涵蓋微調、參數共享、MAML、潛在空間適應及線上適應等方法,並討論過度擬合、災難性遺忘與不確定性管理。評估除預測準確度外,也需考慮所需樣本數、適應延遲、計算成本、記憶體消耗和效能穩定性。
本章探討智能學習系統如何透過泛化,把已學知識應用於新情境,並透過適應應對新任務、數據分佈及運作條件的變化。元學習旨在跨任務學習可遷移知識,支援少樣本學習;內容亦涵蓋分佈轉移、領域泛化、測試時適應及評估方法。
本章説明 LLM 如何透過上下文學習及少樣本提示,利用示範例子適應新任務。內容涵蓋情節式學習、指示微調、參數高效適應、梯度式元學習及檢索增強適應等方法。適應效果受示範例子的品質、相關性與排序,以及上下文窗口限制和推理成本影響。
《元學習與少樣本適應》第 08 章探討工程與部署,説明元學習數據管道如何將原始觀測值整理為學習回合,支援跨任務訓練與評估。管道涵蓋數據收集、預處理、任務與回合構建、支持集和查詢集劃分、避免數據洩漏及高效數據載入,並提及以 PyTorch 的數據集、數據載入器和自訂採樣器實作。
本章梳理元學習與少樣本適應的實驗數據集、評估方式及基準測試。Omniglot 有 50 種文字系統、1,623 個字符類別,每類 20 個手寫樣本;MiniImageNet 有 100 個類別,每類 600 張圖片。Meta-Dataset 用多個圖像分類數據集評估跨領域適應,實驗比較須清楚記錄數據集分割和評估協議。
RunPod 上的訓練檢查點若存入容器暫存空間,Pod 停止或終止後便會消失;輸出目錄與 Hugging Face 快取都需設在掛載網絡卷的 `/workspace` 下。
PRISM 是一套免訓練異常檢測框架,涵蓋表格資料的 PRISM-T 和視覺資料的 PRISM-V,不需最佳化網絡權重。它在 47 個 ADBench 數據集上取得最先進的平均 AUROC,在 MVTec AD 和 VisA 上亦有具競爭力的表現,為異常檢測提供免訓練基線。
ProTEUS 結合序列、演化與結構表示、快速全原子預測及閉環實驗回饋,引導蛋白質演化並提升突變體活性。其全原子預測器速度比 AlphaFold3 快逾 10 倍,並在零樣本及監督式微調突變預測任務中超越既有模型。兩項針對醛脱氫酶和左聚糖蔗糖酶的閉環工程實驗,均獲得活性高於野生型逾 10 倍的變體。
PhysOPSD 以可執行程式碼作為特權物理上下文,透過在策略自蒸餾提升影片生成模型的物理合理性。PhysOPSD-Engine 將真實物理情境轉換為可驗證的模擬程式,並結合雙層物理特權與受控變化。實驗顯示,使用 3K 樣本,PhysOPSD 在多種模型骨幹上勝過 SFT 和 RL 基線,同時保留一般影片生成品質。
過度清理訓練數據集會剔除真實環境中的結構化噪聲,令視覺模型在眩光、毛毛雨或相機震動等情況下表現下降。文章建議保留具物理成因的變化,並制定數據保留清單,例如至少 20% 樣本包含低光或眩光,保留遮擋最多 60% 的物件。若模型在輕微真實噪聲下的表現下降超過 15%,訓練數據分佈可能清理過度。
Obligra Verify 團隊提出 LLM 評估的記錄方法,把每次執行視為一次建置,記錄輸入並保存原始輸出,以追溯分數的來源。執行清單可記錄數據集雜湊、提示詞版本、固定模型 ID、參數及評分器版本;相同輸出和評分器版本應能得出相同分數。生成則可能有波動,作者建議同一設定重跑三或五次,並報告分數的離散程度。
作者以按揭利率歷史資料示範如何按觀測身份識別重複項、保留數值修訂,並避免相同觀測跨越訓練與測試分區。流程按系列、月份及 512 個 token 的預算建立檢索文件,並以 2026-10-01 為界,將較早觀測分入 train,其餘分入 test。文章指出,觀測日期切分無法還原來源何時發布修訂值,因此不能單獨確保前瞻性評估。
Turing Award 得主 Richard Sutton 指出,單靠增加計算資源不足以帶來智能,AI 科學仍需要新方法。Jerry Tworek 認為,模型訓練投入的計算資源越多,算法就越重要,仍有許多擴展方向未經探索。Sam Altman 和 Dario Amodei 則認為,LLM 擴展遠未到盡頭。
MIT CSAIL 四位研究者在〈Sparks of Weight-Space Programming〉博客文章中,展示通用大模型可直接讀寫另一個神經網絡的權重,無須梯度下降或訓練迴圈。
本地 AI 模型可在手提電腦離線運行,裝置取得的是訓練完成後的權重,而非訓練過程本身。量化可減少權重佔用空間:20 billion 個權重以 16 bits、8 bits 和 4 bits 儲存,分別約佔 40 GB、20 GB 和 10 GB。蒸餾可由大型模型協助訓練較小模型,但要在裝置上實用,仍須兼顧記憶體、速度、軟件支援和回答質素。
這份 2026 指南梳理 7 種投入生產的 MoE 路由策略,並列出採用各策略的模型。路由器規模由 Mixtral 的 8 個專家至 DeepSeek-V4-Pro 的 384 個專家不等,每個 token 會啟用 1 至 8 個專家。
可穿戴裝置製造商在未告知用戶的情況下,使用腦部數據訓練 AI,消費級腦波耳機的私隱風險因而受到關注。Hacker News 討論串亦提及一項探討腦機介面側信道攻擊可行性的研究。
Nous Research 推出 Arete-27B,這是一款經過後訓練、旨在強化西方價值觀的 Qwen3.8-27B 模型。該公司稱,底層中國模型的偏見層較淺。
Nous Research 發佈 Arete-27B,這款以 Qwen3.8-27B 為底座進行監督式微調的 27B 開放權重模型,在 Nous 的 803 個提示詞評測中,含宣傳內容的回答比例由 22% 降至 0.9%。
創新藥企正由項目制外包合作轉向系統性佈局 AI 研發基礎設施,將模型、數據與核心技術整合至統一研發體系。MegaStream由項目制合作升級為合資公司,統籌模型開發、數據使用、實驗驗證與候選藥物推進。這類佈局旨在打通計算模擬與自動化實驗驗證,將 AI 的價值延伸至 PCC 至 IND 階段。
生成式 AI 帶動數據歸檔需求,富士膠片計劃於 2026 至 2028 財年投資約 100 億日元擴建小田原工廠,將數據儲存磁帶產能提升至 2025 財年的五倍。
特斯拉更新 AI 加速器路線圖,SI6 預計算力達 HW4 的 80 倍,Dojo D3 則採多芯粒架構及堆疊式 HBM,並針對太空部署、訓練與擴展能力優化。SI6 算力估算為 17.28~46.08 POPS,記憶體容量預計為 144GB,推出時間預計為 2029 至 2030 年。D3 的具體算力、記憶體容量、製程工藝及研發時間表尚未公佈。
VIDRAFT 公開發佈 Darwin-180B-RSI-R3 的權重;這款 180B 參數 MoE 模型經三輪遞歸自我改進,主打數學與科學推理。據 VIDRAFT 公開模型卡,其在 SuperCLUE 2026 年 11 月評測得分 73.68,排名開放權重模型第一、總排名第二;基礎模型得分為 57.89。其五領域綜合指數為 43.08、總排名第九,材料指出長上下文處理和指令遵循是相對弱項。
這篇大模型課程第 7 課講解如何按算力預算配置模型參數與訓練數據,並以 C≈6ND 推導 Chinchilla 的 20:1 token/參數比例。文章指出,模型過訓練可用較小參數量降低長期推理成本,但會增加數據需求;MoE 減少每 token 激活參數,不能消除按總參數量計算的數據需求。
Off-Policy Evaluation 中,重要性抽樣可無偏估計目標策略的價值,但長期序列會令權重方差急劇上升,估計結果可能由少數軌跡主導。加權重要性抽樣以偏差換取較低方差;逐步重要性抽樣利用回報的時間結構降低方差,但晚期回報仍可能不穩定。
中小型製造商投資預測性維護前,應先確認設備數據管道已接通,並具備連續訊號及準確的故障記錄。美國能源部指,與預防性維護相比,預測性維護可節省 8% 至 12% 的總擁有成本;若比較對象是故障後才維修,則可節省 30% 至 40%。McKinsey 研究指出,10% 的誤報率可完全抵銷預期經濟收益。
文章探討如何以元學習最佳化持續適應,讓行星地質勘測智能體在低功耗自主部署時按新地形快速調整模型。作者以 FOMAML 作為基線,將適應預算設為每個 sol 5 次梯度步、2W,並指出火星往返訊號延遲為 4 至 24 分鐘。文章亦探討以 EWC 減少模型適應新地形時遺忘舊知識的風險。
這份實作指南説明如何建立可即時偵測抑鬱症風險的 AI 聊天機械人,並整合 GPT-4.5、分類器及穿戴式裝置數據。示例分類器的準確率約為 0.87,抑鬱症召回率約為 0.84;風險偏高時,聊天機械人可建議用戶尋求心理專業人士協助。指南亦列出明確同意、加密及日誌匿名化等私隱措施,並指出聊天機械人不能取代心理學家。
馬斯克在美國中期選舉週期公開捐款約4.74億美元,民主黨勝選後其政治影響力受挫。其中約2.16億美元流向他創辦的「美國政治行動委員會」,約1.68億美元捐予支持共和黨參議員候選人的「參議院領導基金」。選後當地時間11月5日,特斯拉股價下跌逾11%;文章認為,政府合約、數據中心擴建及許可等政策風險或會牽動其多項業務。
這套 Kaggle「Name That LLM」競賽方案以 0.669 Balanced Accuracy 躋身前五,透過加入 DeBERTa-v3 18 類序列分類器、調整 Sinkhorn 平衡及收窄 ATLAS 評估範圍,改善模型歸因表現。
研究追蹤神經位元組預測器進入算術編碼器後的實際數據路徑,指出編碼器對每個目標位元組只讀取八個條件概率,並據此建立最多九組的觀測證明。3,934 個目標的測試中,路徑組 KL 為 0.402047 nats,完整 KL 為 0.580288 nats,其中 30.716% 來自未訪問的兄弟節點。文章區分用於衡量觀測差異的組別 KL,與按實際位元訪問計算的學習目標 U。
On-policy distillation(OPD)可容忍量化推理及非同步 rollout 帶來的大幅訓練與推理不匹配,但耐受程度因模型和層而異,失配過高則會降低訓練品質。研究提出輕量級准入檢查,並提供特定模型的 FP8 配方;與同步 BF16 訓練相比,結合非同步 rollout 的 FP8 訓練可快 1.62 倍達到相同品質。