Mixture-of-Experts 推理解碼的通道選擇無需校準數據
Prox 以 top-k 通道選擇取代經校準的閾值,在 Mixture-of-Experts 推理解碼中無需校準數據。於 13% 和 18% 讀取預算下,top-k 版本在 43 項比較中有 40 項匹配或勝過閾值版本;在三個後訓練 MoE 模型上,新讀取器以 17.8% 的路由專家讀取量保留完整模型 98.1% 的準確度。
Prox 以 top-k 通道選擇取代經校準的閾值,在 Mixture-of-Experts 推理解碼中無需校準數據。於 13% 和 18% 讀取預算下,top-k 版本在 43 項比較中有 40 項匹配或勝過閾值版本;在三個後訓練 MoE 模型上,新讀取器以 17.8% 的路由專家讀取量保留完整模型 98.1% 的準確度。
作者用四條 MySQL 8.0 慢 SQL 測試 AI 根因判斷,結果是兩條判對、一條偏差、一條錯誤。補上執行計劃、鎖等待等現場資料後,AI 將一宗加索引的判斷修正為長事務造成的行鎖等待。文章並提供提示詞模板及驗證清單,建議把 AI 給出的根因視為假設,逐項上機核實。
Nemotron-Labs-Diffusion-Uni(NLD-Uni)是一款結合視覺理解與生成的統一離散擴散大語言模型,採用跨範式策略上蒸餾及漸進式自我精煉擴散。在視覺問答、多模態推理、物件定位、文字生成圖像及圖像編輯等多種任務上,NLD-Uni 在統一擴散大語言模型中達到最先進表現。
LongChang 評估大語言模型能否透過模擬實驗,自主發現經改變的物理定律;12 個模型中,只有 GPT-6-Astra 有限度地成功。GPT-6-Astra 的發現率為 16.7%,其餘 11 個模型均為 0%;探索紀錄亦顯示,仍有異常未獲調查,對改變後物理定律的識別亦不完整。
英偉達參與印度初創公司 Simplismart 的 1,400 萬美元 B 輪融資,該公司估值約為 1 億美元。Simplismart 表示,其軟件可調整模型部署和計算資源使用,並協助 AI 影片生成平台 InVideo 將 GPU 服務成本降低 56%。公司稱,過去六個月年化收入運行率增長 14 倍,達八位數規模;該數字根據近期客戶使用情況推算,並非已簽約的經常性收入。
百奧幾何(BioGeometry)宣佈完成A+輪融資,A輪系列融資總額超過1億美元,本輪由國壽資本領投。資金將用於持續迭代分子水平的 GeoFlow 與細胞水平的 GeoCell、擴建高通量自動化實驗室,以及推進自研藥物管線商業化。
印度 AI 推理軟件初創公司 Simplismart 完成 1,400 萬美元 B 輪融資,英偉達參投,Dallas Venture Capital 領投。本輪完成後,公司估值約為 1 億美元,當中包括本輪融資資金。Simplismart 稱其軟件會按客戶需求調整模型部署,並協助影片生成平台 InVideo 將 GPU 服務成本降低 56%。
甲骨文宣佈擴大與 Nvidia 的雲端 AI 晶片合作,將大規模部署最新一代 Vera Rubin AI 伺服器,規模達「數吉瓦級」,並以自研 Acceleron 網絡晶片取代部分 Nvidia 網絡晶片。
作者以 Rust 推理引擎 mini-vllm-rs 測試 Qwen2.5 7B 目標模型與 0.5B 草稿模型,發現提高草稿 token 接受率可加快生成,但會偏離目標模型的輸出分佈。
英偉達參與印度 AI 推理軟件初創公司 Simplismart 的 1,400 萬美元 B 輪融資,融資後估值約為 1 億美元。Simplismart 表示,其軟件可按模型需求調整模型在現有計算基礎設施上的運行方式;公司稱曾協助 AI 影片生成平台 InVideo 將 GPU 服務成本降低 56%。本輪由 Dallas Venture Capital 領投,資金將用於拓展美國市場、擴大團隊及研發。
Anthropic 已向美國證券交易委員會提交 IPO 申請;路透社稱,騰訊、阿里巴巴和字節跳動對 RTX PRO 5500 的訂單需求合計逾 300 萬張。按每張約 1.14 萬美元估算,潛在訂單規模逾 350 億美元;英偉達無法保證滿足全部需求,實際交付量可能遠低於訂單意向。
Prime Intellect RL Residency 的研究提出 Visual Harness,透過裁剪、縮放及測量圖像,把複雜視覺問題拆解為子任務,拓展模型可解問題的範圍。GPT‑6 Luna 在 xhigh 推理檔位啟用框架後,Pass@1 由 57.1% 升至 63.5%,Pass@8 由 75.4% 升至 82.4%。研究亦指出,部分題目仍難以在多次嘗試中穩定答對。
Google DeepMind 發佈世界模型 Genie 4,支援即時生成動態環境,並讓用戶以鍵盤控制角色或鏡頭、以自然語言修改場景。模型亦可同步生成環境音、音樂及人物對話,Gemini 負責理解任務、規劃事件並引導模擬。目前 Genie 4 以研究預覽形式向部分受信任測試者開放;Google 指出,長時間互動中的場景一致性及複雜物理、音訊等仍需改進。
AI 數據共享的安全設計不只要防止未經授權存取,還須評估不同數據集連結後可能推斷出的個人敏感資訊。文章以歐盟 2026 年 7 月要求 Google 在指定條件下向合資格競爭搜尋引擎提供匿名搜尋數據為背景,整理資料最小化、降低時間精度、概括地點、聚合數據及審核重新識別風險等做法。
Oracle 宣佈擴大 OCI 面向企業的 AI 加速器選項,新增 Google TPU、Cerebras 推理硬件及 SambaNova 第五代 SN50 RDU。Google TPU 將於明年在 OCI 提供,Cerebras 硬件則於 2027 年部署;SN50 RDU 可與 GPU 協作,由 GPU 處理 prefill、RDU 處理 decode。
WISD 透過對比原模型與量化或剪枝後的較弱版本,為大型推理模型提供訓練訊號,無須外部教師或特權資料。量化和剪枝分別令多項基準的平均準確率提升 4.0 和 5.5 個百分點。剪枝令 Qwen3.5-4B 在 HMMT 2025 的準確率由 57.7% 升至 70.5%,量化則令 Qwen3.6-35B-A3B 在 LiveCodeBench v6 的準確率由 61.8% 升至 69.5%。
論文提出 Lean 證明系統 EasyProver 及驗證任務生成流程 Aegis,擴展定理證明在真實程式碼驗證中的應用。EasyProver 搭配無需額外訓練的現成前沿模型,解出 669/672 道 PutnamBench 題目、全部 6 項 IMO 2026 形式化題目、597/600 項 NTP4VC 驗證條件及全部 189 項 VERINA 任務。
Jev 的跨查詢原語一致性在四軸基準 PrimaCons 上接受評估,三種 Jev 規模均出現四個軸向的一致性違規;跨原語差異預測決策失誤的 ROC-AUC 為 0.91。研究提出 Cross-Primitive Residual Calibrator(CPRC),在留一領域外測試中將不一致性降低 58.57%,並將準確率提升 +2.97%。
Soft-MTP 透過 straight-through KL 梯度恢復技巧,移除多 Token 預測(MTP)訓練中的噪聲梯度殘差,只反向傳播 KL 自蒸餾訊號。
GPT-6.1 Terra 以 $1/M input tokens 將視覺推理成本減半,Decisions API 則正式開放使用。據報,GPT-6.1 Terra 在 Agent 任務基準上提升 15 分,從 GPT-5.6 Terra 遷移只需更換 model ID,無須修改提示詞。
Google 宣佈 Gemini 4 Argon,採分階段付費開放,並介紹相關安全防護及 SynthID 媒體驗證。
文章説明如何估算自行託管 7B 至 70B 大語言模型所需的 VRAM,並按推理和微調情境規劃租用 GPU 伺服器。內容提供 Python 計算器及 vLLM 啟動設定,並把權重、KV cache、上下文長度、並發序列和執行時開銷納入估算。
ThinkBit 提出一種保留推理能力的純量 2-bit 量化框架,透過分配逐層位元級別、以 Gumbel-softmax 搜尋碼字、知識蒸餾重新校準尺度,再進行量化感知訓練。
Oracle 與 Google 於 2026 年 10 月 27 日宣佈,Google TPU 將透過 Oracle Cloud Infrastructure(OCI)提供,預計於 2027 年開始供應。
NVIDIA 與 Oracle 宣佈計劃把 OCI Superclusters 的 NVIDIA Vera Rubin NVL72 系統擴至多吉瓦規模;NVIDIA Vera Rubin NVL72 和 NVIDIA Vera CPUs 已在 OCI 正式提供。
Ai2 發佈《Old Ideas, Novel Problems》研究及基準,發現大語言模型判斷研究構想新穎性的結果會因評估設定而大幅變動。以 GPT-5.4 評估人類與 AI 生成構想的配對時,僅更改提示詞便令準確率由 93.5% 降至 40.9%,並改變逾半配對的判斷。
推薦理由:研究從 ICLR 2026 評審中抽取明確談及原創性的案例,建立可比較人類與 AI 生成構想的基準,呈現提示詞變動對評估結果的影響。
Genie 4 已向受信任測試者推出研究預覽,支援即時互動世界模擬,並可原生生成音訊及互動對話。Gemini 3.8 Flash 在模擬中持續觀察場景、拆解目標並追蹤步驟進度,協助模擬複雜的多步事件。預覽將很快擴展至 Project Genie 的 Google AI Ultra 訂戶,以及 Gemini API 和 Google AI Studio 的早期存取合作夥伴。
Oracle 計劃自 2027 年起在其數據中心提供由 Cerebras AI 電腦支援的雲端服務。分析師預期 Cerebras 明年收入將增至接近 $3B,約為今年不足 $1B 的三倍;Oracle 未透露將採用多少 Cerebras 硬件。投資者仍擔心 Cerebras 追逐的是小眾市場,而 Nvidia 產品每季銷售額接近 $100B。
NVIDIA 與 Oracle 計劃將 OCI 上採用 NVIDIA Vera Rubin NVL72 系統的 Superclusters 擴展至多吉瓦規模,並宣佈 Vera Rubin NVL72 系統及 NVIDIA Vera CPUs 已在 OCI 正式提供。
SciGame 以結構化科學卡片和反事實環境建立基準,評估科學發現智能體,並區分預訓練先驗與實證證據。五個前沿模型的實驗顯示,熟悉的先驗在控制關係改變時會損害表現,自適應實驗則對不同能力的模型有不同影響。即使智能體能正確解讀證據,恢復精確的符號形式仍是主要瓶頸。
A2UI 推出可切換推理格式,並將 A2UI Express 設為新的預設格式,以加快生成式介面生成。Express 相較 Direct JSON 可將生成同類介面的 token 用量最多降低 3x、延遲最多降低 3x;採用 Jev 等決策模型處理版面決策,速度最多可提升 80x。
文章比較 GPT-6.1 Terra 與 GPT-6.1 Sol,指出在 Artificial Analysis 的測試中,Sol high 每項任務成本低於 Terra max,得分亦較高。
OpenAI 推出 GPT-6.1 Terra,支援理解圖片和螢幕,以及操作瀏覽器、桌面和應用,API 價格亦低於 GPT-5.6 Terra。
推薦理由:文章並列 GPT-5.6 Terra 對照任務的耗時、token 用量與帳單,再比較綜合測試得分和成本,呈現降價、速度與評測表現之間的差異。
前 DeepMind 研究員 Thore Graepel 創立 Metis Reasoning,提出借鑑 AlphaGo 搜尋與驗證機制,讓 AI 推理以可核查的證據為基礎。其方案以知識帳本記錄已知資訊、信心程度及未解問題,並在新結論獲獨立核查後才更新知識狀態。白皮書目前只描述研究計劃,尚無可運作系統、基準測試或與現有推理模型的比較。
Opera 宣佈推出 WebAI,讓本機 AI 模型可直接在其瀏覽器中執行;首批功能以可選早期預覽形式於 Opera One 提供,之後將擴展至 Opera GX 和 Opera Neon。
瑞士生物科技初創 Atlas Bio 正式亮相並披露累計 $12.5 million 融資,其中 $10 million Seed 輪由 Creandum 領投,另有 First Momentum Ventures 和 LEA Partners 領投的 $2.5 million pre-Seed 輪。
Apple 發佈搭載 M6 的新款 iMac,主打更高效能及裝置端 AI 能力,並配備 24 吋 4.5K Retina 顯示器。Apple 表示,裝置端 AI 效能較 M4 最多提升 5 倍,較最受歡迎的 Intel iMac 效能快最多 18 倍。產品於 10 月 28 日起接受預購,11 月 6 日起供貨。
Apple 推出搭載 M6 的全新 14 吋 MacBook Pro,提升 CPU、GPU 和裝置端 AI 效能,並支援 Wi-Fi 7 及 Bluetooth 6。相較 M5,圖形效能最高提升 30%,裝置端 AI 工作負載效能最高提升 25%;電池使用時間最長達 24 小時,標準統一記憶體為 16GB。美國售價由 $1,999 起,10 月 28 日開始預購,11 月 6 日起供貨。
General Compute 獲 $100 million A 輪融資,投後估值為 $800 million。一宗年經常性收入達 $100 million 的大型客戶交易為融資鋪路;公司以 Nvidia 競爭對手的專用推理晶片建構雲端服務,供應商包括 SambaNova、Positron 和 Cerebras。
文章比較 TensorRT 與 ONNX Runtime 的大語言模型 INT8 推理原理、性能、精度及部署適配。在 A100 和 Llama3 測試中,TensorRT 吞吐量為 790tok/s、首 token 延遲為 210ms、顯存佔用為 13.7GB;ONNX Runtime 分別為 620tok/s、310ms 和 16.9GB。