Yuh Gettin’ Tru 本地產品描述增強流程的 token 吞吐量提升約 40%
Yuh Gettin’ Tru 將本地產品描述增強流程的模型 build 從 gemma-4-E4B-it-qat-mxfp4 換成 gemma-4-E4B-it-oQ4e-mtp 後,實測吞吐量由 18.7 升至 26.2 tokens per second,約提升 40%。
Yuh Gettin’ Tru 將本地產品描述增強流程的模型 build 從 gemma-4-E4B-it-qat-mxfp4 換成 gemma-4-E4B-it-oQ4e-mtp 後,實測吞吐量由 18.7 升至 26.2 tokens per second,約提升 40%。
本機推理把模型運算由模型服務 API 轉到自己的 CPU、GPU 和記憶體,令提示詞留在本機,費用則由按 token 計算改為硬件和電費。文章以 Ollama 和 llama.cpp 説明本機運行流程,並指出可用記憶體容量及頻寬會限制模型大小和生成速度。
Claude thinking tokens 會計入 output tokens,即使內容未顯示,仍按輸出價格收費。現行 Claude 模型的 output 價格是 input 的 5 倍;作者建議先調低 effort,並指出部分型號可關閉 thinking。
上海人工智能實驗室等機構推出並開源科學多模態大模型書生-S2.1 Flash;該模型在 MLE-bench Lite 得 90.3 分,排名第一。在 33 項通用智能體基準中,它取得 4 項第一、7 項第二;OfficeQA Pro、Harvey LAB 和 SpreadsheetBench 2 分別得 72.2、25.0 和 37.1 分。
Caltech 數學教授 Yi Ni 因學生使用 AI 完成功課,已不再按答案正確與否評分,只看是否完成。Ni 表示,他無法判斷學生的習題是否由 AI 完成;Caltech 尚未就數學教授如何應對 AI 制定統一指引。曾修讀該課的數學系學生 Sathvik Redrouthu 認為,依賴 AI 做功課可能令學生在現場考試時吃虧;他也提到,今年部分課程已註明允許使用 AI。
Qwen4-Max 發佈,採用異構 MoE 架構及 Dynamic Router-to-Weight(DRW)機制,並以 Block-Wise Cache Quantization(BWCQ)壓縮 KV cache。
Jennifer Prendki 離開 Google DeepMind 後創立 Dyssonance,提出重新思考人工智能的基礎,讓系統能處理模糊情況並持續修正理解。她指出,ChatGPT、Claude 和 Gemini 等系統雖能處理大量資訊,仍難以理解矛盾資訊、辨認錯誤並更新認知。Dyssonance 的方向是建立常識推理引擎,讓人工智能不只記憶更多,也能更好地理解。
華為雲 MaaS 模型即服務平台正式上線開源模型 openPangu-2.1-Pro,並提升 Agent、代碼及推理效率能力。模型針對深度研究、鴻蒙系統操控、鴻蒙 App 開發、昇騰算子生成及推理鏈路優化等場景加強能力;小藝 Work 已率先搭載 2.1-Pro。模型亦接入智果 AgentArts、碼道 CodeArts 及果辦 OfficeAce。
Tencent 發佈多模態模型 Hy4 flash,提供一百萬 token 上下文窗口,定位於日常生產力工作,API 定價低於完整 Hy4。Tencent Cloud 列出的輸入與輸出 API 價格分別為每百萬個輸入 token $0.070 和每百萬個輸出 token $0.281,較 Hy4 低約 92% 和 89%。
百度集團在第三季度業績公告中披露,昆侖芯 M100 預計於2026年底前具備量產條件。M100於2026年7月在世界人工智能大會首次公開亮相,針對大規模 AI 推理進行優化。
OpenAI 和 Anthropic 稱,其 AI 於 2026 年 10 月 16 日找到一種 3-SAT 次指數時間方法;這項主張並未解決 P vs NP。次指數時間仍遠非多項式時間,文章亦指出這項結果沒有即時實際應用,對 Subset Sum 或旅行推銷員問題沒有新結果。兩家實驗室稱證明已由 Lean 機器檢查,但截至 11 月初,尚未完成獨立人士的審查。
辛頓認為,AI 有可能在 10 年內發展出一套人類無法理解的全新數學分支。頂尖大模型已能解決高難度純數學難題並得出正確結論,但人類難以完整理解其推導路徑。對於 AI 能否創造超越人類理解的數學體系,學界仍有不同看法。
作者建立具物理結構的室温模型,並以交叉熵方法搜尋暖氣開關方案,再逐步重新規劃操作。在 20 步排程的 100 次測試中,每輪抽取 200 個方案、連續 6 輪的交叉熵搜尋均找到開暖氣 16 步的方案,單次耗時低於 1 毫秒。在不同室外温度下,逐步重規劃的開暖氣步數與按温度調校的恆温器相近;開門測試中兩者表現亦接近,但模型未能估算預測的不確定性。
阿里巴巴發佈基座大模型 Qwen4-Max,總參數量為 2.4T,並已在千問 AI 平台提供 API 服務。模型具備原生視覺能力、支援百萬上下文;文中稱其單項任務平均費用較上代下降 58%。中小尺寸模型將陸續開源,用戶亦可透過阿里 Token Plan 調用新模型。
推薦理由:報道列出 Qwen4-Max 相較上代在多項評測、Token 用量及任務費用上的變化,讓讀者可一併對照模型表現與推理成本。
騰訊混元正式發佈語言模型 Hy4 flash,稱其在綜合效果上略優於 Hy4 preview,並支持多模態和 1M 上下文長度。模型總參數量為 224B(其中 64B Engram 參數),活躍參數為 12B;每百萬 Token 輸入 0.5 元、輸出 2 元,命中快取時 0.02 元。
華為雲發佈並開源昇騰原生具身世界模型 CloudRobo-WM1.2,並稱其在 RoboTwin 2.0 和 LiberoPro 2.0 兩項評測基準中均排名第一。模型採用共享世界模型骨幹網絡及原生 DualAct 架構,提出五項創新。華為雲亦開放訓練框架及 WAM 昇騰算力最佳實踐。
DeepSeek因算力資源供應緊張,對普通用戶的App及網頁版對話服務推出使用限制。措施包括不再支援存續超過7日且無活躍互動的長對話、將單次輸入上限下調至約4萬字,並限制每日對話額度。官方狀態頁記錄10月以來8起故障,多數為性能降級,少數為部分中斷。
騰訊混元正式發布大語言模型 Hy4 flash,輸入價格為每百萬 Token 0.5元,輸出為2元,快取命中時為0.02元。模型總參數量為224B,激活參數為12B,支援多模態及1M Token上下文,解碼速度超過150 Token/s;騰訊公佈的 WorkIndex 評測中,其單任務成本為 Hy4 preview 的1/13、Hy4 的1/20。
Daisytuner 於 2026 年 11 月 16 日宣佈完成 €6 million 種子輪融資並推出 Daisyflow,這是一款可在客戶自有基礎設施內運行模型、並按不同硬件調整執行方式的 AI 推理引擎。
阿里巴巴發佈新一代基座模型 Qwen4-Max,具備原生視覺能力、支援百萬上下文,並強化智能體與編程能力。
推薦理由:文章對照 Qwen4-Max 與上一代在編程評測中的 Token 用量、得分及單任務成本,並列出汽車加工和金融投研場景的量化數據。
千問辦公上線10款模型,向個人版及企業標準版用戶開放選擇,當中包括Qwen4-Max及多款第三方大模型。用戶可按任務需求選擇模型,例如以Qwen4-Max處理多步複雜推理,或用較低成本的模型處理日常文案、資訊提取及內容整理。企業管理員可按部門、用戶組或成員配置模型權限。
這期 AI/ML 研究摘要整理了生成式與具身 AI、MoE 簡化、LLM 智能體可靠性及跨模態 3D 建模的研究結果。LO-World 的 IoU 提升 10.9 %、Chamfer 誤差降低 30.1 %,運行速度超過 25 FPS;SimpleHC 則在維持標準 MoE 基準準確度下縮短訓練時間。
SambaNova 於 2026 年 11 月 15 日宣佈與 Intel 在 SuperComputing 2026 展示風冷 AI 推理系統。
騰訊混元團隊推出 Hy4 flash,官方定位為迄今性價比最高的 Hy 模型。Hy4 flash 總參數量為 224B(含 64B Engram 參數),每個 token 啟用 12B 參數。
騰訊混元團隊推出 Hy4 flash,模型總參數量為 224B(含 64B Engram),每個 token 激活 12B 參數,支援多模態輸入及 100 萬 token 上下文長度。
SoccerDream AI 作者分析其平台的模型投票數據,發現 2,722 個至少有五名投票者的賽事平均有 10.34 個模型,卻只有 1.46 個有效意見。多數投票準確率為 56.95%,略低於成員平均的 57.00%;改按 training_word_id 所示的模型譜系投票後,可決策率由 78.18% 降至 72.44%,可決策票中的準確率為 57.35%。
GEM 以熵正則化的反向 KL 散度最小化,改善 LLM 監督微調中的過擬合與輸出多樣性。在 Llama-3-8B 的實驗中,GEM 在通用指令微調及數學推理、程式碼生成任務上均優於交叉熵;配合多數投票或 Best-Of-$N$ 時,表現最高提升 10 個點。
Alibaba Cloud 於 November 16, 2026 透過 Model Studio 發佈 Qwen4-Max,新加坡 API 輸入及輸出標價較 Qwen3.8-Max 均低 25%。
Qwen 團隊發佈 Qwen4-Max,採用 Qwen4 架構,具備 2.4T backbone parameters、原生視覺能力及一百萬 token 上下文窗口。
推薦理由:文章同時列出基準成績、任務成本變化及工業、專業和科研案例,方便讀者對照其長流程工作能力與實際應用範圍。
阿里正式發布新一代旗艦模型 Qwen4-Max,並已接入千問 App、千問辦公、Qoder 和 Qwen Studio。Qwen4-Max 在 Arena Agent Arena、Code Arena 和 Vals Index 三個榜單均為國產模型排名第一。
推薦理由:文章並列官方任務成本數據與多個第三方榜單,亦呈現不同編程基準的落差,方便比較 Qwen4-Max 的成本變化和表現邊界。
阿里千問發佈Qwen4-Max,總參數2.4萬億、激活71B,支援百萬Token上下文。在Terminal-Bench 4.0同為Xhigh思考檔位時,其每次嘗試平均Token用量較Qwen3.8-Max減少約47.5%,評測得分提升近28%。Qwen4-Max已在千問AI平台提供API服務,亦可透過阿里Token Plan調用,或在千問辦公、Qoder、千問APP體驗。
推薦理由:這組同檔位對比把Token用量與評測得分放在一起,呈現Qwen4-Max相較Qwen3.8-Max在編程評測中的效率及表現變化。
阿里通義千問團隊正式推出 Qwen4-Max,模型採用 MoE 架構,主幹參數規模達 2.4 萬億,支援原生視覺理解及 100 萬 Token 上下文窗口。Qwen4-Max 在 Work360 得分為 52.69,高於 Qwen3.8-Max 的 47.74;該評測中單項任務平均費用由 26.58 元降至 11.16 元,下降 58%。
推薦理由:文章以 Work360 得分、不同推理強度下的 token 消耗及單項任務費用,呈現 Qwen4-Max 相對前代的能力與成本變化。
GPT-6 Astra 協助物理學家 Nathaniel Craig 將一項格點研究策略發展為標準模型的候選非微擾定義、具體構造及詳細證明。相關工作包括一篇由 Astra 協助準備的 2026 年 10 月 arXiv 預印本。這仍是初步成果,尚待確立有限格點間距下的反射正性,並建立與連續相互作用理論的關聯。
千問團隊正式推出 Qwen4-Max,模型作為正式版本接入千問 AI 平台,開發者可透過 Token Plan 或 API 調用。模型在 Work360 取得 52.69 分,高於前代 Qwen3.8-Max 的 47.74 分;同一評測中,單個任務平均費用由 26.58 元降至 11.16 元,降幅 58%。
推薦理由:Work360 與 Terminal-Bench 4.0 的對照數據,呈現 Qwen4-Max 在任務費用及 token 消耗上的變化。
阿里通義千問團隊正式推出 Qwen4-Max,採用主幹參數規模達 2.4 萬億的 MoE 架構,原生支援視覺理解及 100 萬 Token 上下文窗口。模型已接入千問 AI 平台,開發者可透過 Token Plan 或 API 接入,也可經 Qwen Studio、QwenWork 和 Qoder 體驗。
推薦理由:文中同時列出 Work360 分數、不同推理強度下的 token 消耗變化及單任務費用,呈現這次升級在能力與成本上的具體對照。
CAVEDU 的 Cosmos 系列首篇介紹 NVIDIA Cosmos 3 Edge 在 Jetson 上的 Physical AI,涵蓋模型能力、部署選項、推理效能,以及由視覺輸入到決策的流程。
黃仁勳離職可能令中國 AI 前沿在未來兩年更受掣肘,卻也可能為國產晶片及算力帶來更確定的需求。文章認為,美國若收緊晶片出口及海外租用英偉達算力的渠道,需求可能轉向國內;較低電價有利西部承接訓練和存儲,東部則保留推理及應用。文中亦指出,國產算力仍受單卡性能、產能和數據中心利用率限制。
Anthropic 和 OpenAI 的 AI 形式化證明案例顯示,Lean 驗證通過不代表程式忠實保留論文命題,Lean 本身亦曾出現可破壞邏輯可靠性的漏洞。
作者以 Affon 探索 TypeScript 可承載的機器學習工作,展示既有模型的本地推理及自行訓練的流程。WikiText-2 本地訓練記錄為 12 epochs、52,128 steps,訓練損失為 4.55、驗證損失為 5.09;作者指出這不是與其他框架的比較。
IT早報 1116 聚焦華為鴻蒙生態用戶數達 9980 萬、BLG 奪得《英雄聯盟》S16 冠軍,以及華為 Mate X8 外觀公佈。鴻蒙生態用戶數距 1 億僅差 20 萬,何剛預計再過幾天突破;餘承東稱 Mate X8「就要來了」。開源模型 openPangu-2.1-Pro 已上線華為雲,面向 Agent 開發、AI 編碼及推理優化升級。