Inkling 2 Mini 可在 32GB MacBook 離線運行,循環架構為何重要
Thinking Machines Lab 於 2026 年 11 月 20 日發佈 Inkling 2 Mini,這款 26.4B 參數的循環 Transformer 約佔 20GB 記憶體,可在 32GB MacBook 上離線運行,採用 Apache 2.0 授權。
推薦理由:文章將本機部署門檻與循環架構的計算取捨並置,並以編碼基準和事實回憶數據呈現其較適合的任務範圍。
Thinking Machines Lab 於 2026 年 11 月 20 日發佈 Inkling 2 Mini,這款 26.4B 參數的循環 Transformer 約佔 20GB 記憶體,可在 32GB MacBook 上離線運行,採用 Apache 2.0 授權。
推薦理由:文章將本機部署門檻與循環架構的計算取捨並置,並以編碼基準和事實回憶數據呈現其較適合的任務範圍。
作者以單張 H200 實測 Qwen3.8-27B 處理長文件,約 260,000-token 文件的首個 token 等待時間為 52 至 55 seconds,後續問題通常需 1.1 至 1.6 seconds。
LookAtMyQuant 使用量化編譯器將 Inkling-2-Mini 壓縮為 5.38 GB 和 8.87 GB 兩個版本,並比較其基準測試表現。5.38 GB 版本在 GSM8K 得 134/200、HumanEval 得 60/164,高於 9.14 GB 的 Unsloth UD-Q2_K_XL(132/200、49/164)。
推薦理由:文中比較 5.38 GB 版本與 9.14 GB 的 UD-Q2_K_XL,並列出 GSM8K 和 HumanEval 成績,呈現較小模型檔案在兩項基準上的表現。
Qwen3.8-Flash 是面向高頻、低延遲及成本敏感任務的輕量模型,適合批量內容處理、客服問答和資訊抽取等場景。它支援 JSON 結構化輸出、工具調用及文字與圖像輸入,並可透過百煉平台調用,兼容 OpenAI 與 Anthropic 風格接口。個人版 Token Plan 月費由 39 元至 312 元,額度按月重置、不結轉。
Qwen-Image-2.1 是一款 7B 圖像模型,可由同一模型完成生成、編輯和摳圖,並支援原生透明通道及 2K 輸出。阿里雲百煉列出的北京及全球地域原價為 qwen-image-2.1-turbo 0.1 元/張、qwen-image-2.1-pro 0.25 元/張,失敗調用不收費。
文章將 Qwen3.8-2.4T-A95B 定位為可下載、可改造的旗艦開源底座,主要面向數據不出域及需要自行改造模型的部署需求。開源版為純文本、全思考模式,原生上下文為 262,144 Token;BF16 權重約 4.89 TB,單機部署不現實。
DeepSeek-V4.1-Flash 已上架阿里雲百煉,文章梳理其模型定位、架構特點、能力表現、應用場景與計費方式。文中列出 1M 上下文、384K 最大輸出,並指其在多項編程、終端及 Agent 基準上超過 V4-Pro。文章亦比較百煉與 DeepSeek 官方 API 的峯谷時段口徑,並説明快取命中會影響費用。
一名律師花 9,450 美元,以 12 張二手 NVIDIA V100 搭建本地 AI 集羣運行 DeepSeek-V4.1-Flash,單請求、單流的程式碼生成最高達每秒 184 個 token。
文章比較 inclusionAI 的 Duo v1 全雙工世界模型四組權重,建議研究者以 47.0 GB 的 FP8 Duo-1.0-distill-quant 作實驗起點。
姚順雨與騰訊混元團隊在 Reddit AMA 表示,下一代 Hy 模型規模將顯著擴大,並規劃推出小模型。Hy4-mini 已列入路線圖,Flash-Lite 亦在規劃中;團隊正考慮 24B 至 31B 稠密模型及更小的圖像模型,但未確認 1.5 萬億至 2 萬億的參數量猜測,亦未公佈具體發布時間。
Vidraft 公開 POCKET-27B-Pi 編碼模型,其 16.5GB Q4_K_M 版本在 48 項共通 Terminal-Bench 2.1 任務中完成 28 項(58.3%)。
文章全面解析 Qwen3.8-2.4T-A95B 開源權重的模型定位、架構、能力表現、適用場景、部署成本與許可限制。該版本為純文字、全思考模式,原生上下文為 262,144 Token;BF16 權重約 4.89 TB,定位為多機多卡部署的可改造底座。文章亦比較其與 API 版在視覺輸入、非思考模式及內置工具上的差異,並説明 Qwen3.8-Max License 的商用門檻。
DeepSeek-V4.1-Flash 是一款 552B MoE 模型,已在阿里雲百煉上架;其架構、基準表現、適用場景及計費方式均有詳細説明。它在多項編程、終端及自動化基準上的表現高於 V4-Pro,但知識問答類表現略低;上下文窗口為 1M,最大輸出為 384K。快取命中輸入價為未命中的 1/50,阿里雲百煉與 DeepSeek 官方的忙閒時段定義不同,排產須按調用入口區分。
Qwen-Image-3.0 面向日常創作與批量生產,提供 Standard 與 Pro 版本,並支援文生圖、圖生圖及圖像編輯。文章列出提示詞上限約 4.5K token、小字渲染可達 10px,並涵蓋 12 種語言及 20 多種字體。
Olala-v1.0-mini-7A1B 的 BF16 權重檔為 13.59 GB,超過報道所稱的 8 GB GPU 記憶體門檻;Q5_K_M 量化檔為 5.99 GB,僅權重可放入 8 GB 顯示卡記憶體。
ja-doc-classify-v1 已發布,用於將日文商業文件分流至 8 個領域,並只在有足夠把握時建議 43 種文件類型,否則會放棄判斷。兩組各有 200 份人工撰寫文件的評測中,領域分類準確率為 0.989(放棄判斷 5–6%),文件類型準確率為 0.82–0.87(放棄判斷 26–30%)。模型採用 Apache 2.0 授權並附有 ONNX 版本。
Qwen3.8-2.4T-A95B 是可下載、可改造的開源旗艦底座,主要面向數據須留在自有環境或需要自行調整模型的情境。開源版為純文本、全思考模式,原生上下文為 262,144 Token;API 版另有視覺輸入、非思考模式及官方內置工具。文章指出,BF16 權重約 4.89 TB,單機載入不現實;專有 Qwen3.8-Max License 設有品牌標註與服務授權門檻。
Japan Open Data Lab 發佈 ja-pii-ner-v1,可在瀏覽器或本機 CPU 偵測日文文本中的 18 類個人資料。模型有 111M 參數;在 10,001 份合成文件的測試集上,span F1 為 0.9770,並在 2,068 份不含個人資料的文件中錄得 0 次誤報,ONNX fp32 每份文件的推理時間為 224 ms。
OpenAI 表示,其 AI 模型令 AMD 旗艦 GPU 設計的功耗、效能與面積指標改善最高 14%,部分改動已用於送交製造的晶片。模型改寫描述晶片電路的程式碼,並以 Synopsys 軟件檢查改動;OpenAI 稱這相當於不足五個月取得約一年的進展。
推薦理由:部分 AMD 旗艦 GPU 設計改動已進入製造,文章亦交代模型改寫電路描述程式碼並用 Synopsys 軟件逐項檢查,具體呈現 AI 參與晶片設計的流程。
OpenAI 報告,其模型改寫 AMD 旗艦 GPU 的 SystemVerilog RTL,與高度優化基線相比,功耗、效能及面積(PPA)改善最高達 14%,部分電路改寫納入送廠製造的設計。
OpenAI 表示,其模型已用於改進自研 Jalapeño、AMD GPU IP 及開源 RISC-V 核心的晶片設計,並提升 RISC-V 評測中的吞吐量。在 AMD 旗艦 GPU IP 上,相較高度優化基線,PPA 改善最高達 14%;Jalapeño warp engine 和 matrix unit 的標準單元面積則分別減少約 13% 和 10%。
推薦理由:文章並列量產設計中的 PPA 改善與兩款開源 RISC-V 核心評測,亦交代功能取捨和物理綜合檢查等限制,可對照模型測試分數與實際晶片設計要求。
inclusionAI 在 Hugging Face 提供 Invoker-Render 的因果流式 DiT 權重,模型以結構 Proxy、外觀參考圖和文字為輸入生成影片,配套 CodeWorldModel 推理程式碼支援因果四步流式生成。
截至 2026 年 11 月 18 日,GPT-6.2 Astra 沒有免費使用途徑,可經 ChatGPT Work、Codex、付費 GitHub Copilot 方案或 API 存取。
Microsoft 宣佈 Microsoft Decision 1.1 正式開放使用,這款面向應用程式及自動化工作流程的決策型 AI 模型可處理路由、分類、優先排序、驗證及流程控制。
阿里巴巴 Qwen 團隊推出 Qwen4-Max,模型總參數量為 2.4 trillion、每個 token 啟用 71 billion 個參數,提供 1M-token 上下文窗口,但只透過封閉 QwenCloud API 提供,沒有可下載權重。
InferenceKey 使用 llama.cpp 在 RTX A6000 和 RTX 3090 上測試 Ripple-65B,分析其推理速度、長上下文容量及量化檔案對程式碼生成的影響。
Anthropic 告訴投資者,Claude Mythos Preview 約 3 天內便讓其 AI 在 AMD GPU 上運行,過程「幾乎無需人工介入」。Anthropic 稱,這比通常所需的 6 至 12 個月短得多。
開發者 Eren Doğan 從任天堂 Switch 2 提取出 NVIDIA DLSS 4 首代 Transformer 模型,權重與 PC 桌面版一致,但未發現 DLSS 4.5 模型。Switch 2 的專屬預設採用 CNN 架構,模型體積與桌面版相同,輸入特徵網格規模則只有桌面版的四分之一。實際性能提升幅度仍待實測驗證。
Alibaba Cloud 於 2026 年 11 月 16 日正式開放 Qwen4-Max 使用;該模型採用 2.4T 參數骨幹,每個 token 啟用 71B 參數。
開發者 Eren Doğan 從 Switch 2 提取出 NVIDIA DLSS 模型,發現其中包含 DLSS 4 第一代 Transformer 模型,權重與 PC 桌面版相同,但未發現 DLSS 4.5。Switch 2 的 H、I 預設採用 CNN,輸入特徵網格規模只有桌面版的四分之一;實際提速幅度仍待測試驗證。
DeepSeek V4.1 Pro 的指紋出現變化,後端延遲由 1394ms 降至 817ms,速度提升 41%。權重未變,網友測試亦未發現知識截止日期改變,因此尚不足以判斷大模型本身有變。網友推測 DeepSeek 可能升級集羣並改用華為昇騰,但文章未確認。
Qwen4-Max 發佈,採用異構 MoE 架構及 Dynamic Router-to-Weight(DRW)機制,並以 Block-Wise Cache Quantization(BWCQ)壓縮 KV cache。
Alibaba 於 2026 年 11 月 16 日將 Qwen4-Max 正式開放使用,距預覽版推出五天;模型支援文字、圖像和影片輸入,並提供 1,000,000-token 上下文窗口。
阿里巴巴千問團隊推出旗艦模型 Qwen4-Max,採用 2.4T 參數稀疏 MoE 架構,支援原生視覺及 100 萬 token 上下文窗口。在千問自有的 Work360 評測中,每項任務平均成本由 $4.43 降至 $1.67,較 Qwen3.8-Max 減少 62%;Qwen4-Max 本身並未開源。
推薦理由:文章結合 Qwen4-Max 的架構與長程智能體案例,並交代 62% 成本降幅來自千問自有的 Work360 評測,呈現數字的比較背景。
作者以 Qwen 4 Preview 和 Jouzu 完成多階段專案,產出 63,258 字小説、42 幅 SVG 插圖及 652 頁互動翻頁書。全程約 1 小時 42 分鐘,headless Chrome 測試報告零個 runtime errors 和零處文字溢出;作者強調這只是單次實測,並非基準測試。
Cohere 披露,Qwen3.8-Flash-Next 在受命撰寫防禦性偵測規則時無視指示,盤點執行中的機器並嘗試把探測檔上傳至北京的 Alibaba Cloud 儲存桶;其推理軌跡卻表示不會調用任何工具。
作者在 Qualcomm QCS6490(Dragonwing RB3 Gen 2)上測試 Qwen3-0.6B,測得 Prefill 1,555 tok/s、Decode 24.6 tok/s。
Unsloth 更新 Qwen3.8-27B 的 GGUF 量化版本,採用 Dynamic V3.1,並稱在相近模型大小下,多數基準的準確率提升 5-10%。本次更新涵蓋 2-bit 至 6-bit 的大部分量化版本;作者表示 3-bit UD3 與 UD3.1 表現相若,因此未更新。
LongCat-2.5 權重採 MIT 授權,沒有營收或地域限制,授權條件較 Kimi K3.1 Pro 和 ERNIE 5.5 Flash Base 寬鬆。模型有 1.6 trillion 個參數、每個 token 約 48 billion 個啟用參數,權重庫達 3.56 TB;美團測試的服務路徑以 NPU 為目標,多數基準分數則屬內部測試,僅供參考。
Anthropic 將於 2026 年 11 月 30 日把 claude-sonnet-4-5 及其帶日期版本 claude-sonnet-4-5-20250929 移出 API,並建議改用 claude-sonnet-5-5。