DeepSeek 發佈支援圖像理解的 DeepSeek-V4.1-Flash
DeepSeek 於 2026 年 9 月 10 日發佈支援圖像理解的 DeepSeek-V4.1-Flash,並已在 DeepSeek API 提供,指定模型名 deepseek-flash 即可使用。
DeepSeek 於 2026 年 9 月 10 日發佈支援圖像理解的 DeepSeek-V4.1-Flash,並已在 DeepSeek API 提供,指定模型名 deepseek-flash 即可使用。
DeepSeek-V4.1-Flash 正式發佈,是 DeepSeek 新架構系列中最小的模型,並支援原生多模態視覺理解。
SGLang 與 Miles 為 DeepSeek-V4.1 加入 Day-0 支援,涵蓋推理服務及 Miles 的強化學習訓練後端。
Pydantic AI 作者 Michael Pfaffenberger 以「seam」一詞在程式碼中的擴散為例,分析前沿模型造成的語言漂移,並介紹 vocabguard 作為 Agent 詞彙約束工具。
Mo Moustafa 根據 AI 助手 Olly 經 OpenRouter 使用開源模型的實際經驗,整理出 10 項供應商路由與部署陷阱。同一 DeepSeek V4 Flash 0731 權重在 DeepSeek 與 DigitalOcean 的 GPQA 分別為 90% 和 75%,TAU-Bench Airline 則分別為 81% 和 58%。
SGLang 以 SSD Expert Pack 將 DeepSeek-V4-Flash 和文字版 Kimi-K3 的路由專家權重存於 NVMe SSD,並在配備 RTX 5090 32 GB VRAM 的單台電腦上完成驗證。
Infer-forge 是圍繞 SGLang 建構的內部推理工程系統,以 MonoRepo、Harness、Task Loop 和 Task Graph 串連跨倉庫工作、長期執行及專案協作。
DeepSeek 已在 DeepSeek API 平台提供實驗性多模態視覺理解模型 DeepSeek-V4-Flash-Vision-Exp,可透過 `model='deepseek-v4-flash-vision-exp'` 調用。
DeepSeek-V4-Pro 在 H20 上採用按工作負載劃分的推理服務配置,預填充按上下文長度切換 PP2/PP4,解碼則分設低延遲與高吞吐配置。Humming MXFP4AFP8 配合 Online C128,令 full-token 容量達 DP32-EP32 FP8 + Offline C128 基線的 3.88×、PP2-TP8 基線的 10.14×。
RadixArk 及生態合作夥伴推出 Miles v0.1,作為面向前沿模型後訓練的生產級全棧系統,涵蓋 rollout、訓練及權重更新。系統提供全異步 RL、智能體環境接入、TITO token 保真及 Megatron-LM、FSDP 兩種訓練後端,並支援 LoRA RL、OPD 和 SFT。
Rails Foundation 發表 Agents on Rails 首份基準測試報告,比較 8 個模型在 Ruby on Rails 任務中的表現。Claude Fable 5 的執行準確率最高,達 95%,但會拒絕部分安全報告任務;Claude Opus 5 解決 92% 的有效任務。
DeepSeek 於 2026年8月13日以開發者預覽形式公開智能體基礎設施 DeepSeek Harness 0.1,原始碼採用 MIT 授權。它以 Cordis 管理插件,將模型、工具、技能和工作階段等組件化,開發者可透過設定選用、替換或擴展功能。工具提供 Web UI 和 headless 執行方式,並設有標準、程式碼、最小配置及建立四種模式。
DeepSeek-V4-Pro GA 版本已在 APP、Web 和 API 上線,API 呼叫方式不變,將模型名稱設為 `deepseek-v4-pro` 即可使用最新版。
SGLang 的 Unified Radix Cache 以一棵按 token 序列索引的基數樹統一混合模型前綴快取,再由 FULL、SWA、MAMBA 元件分別執行各自的重用規則。
Nathan Lambert 的《Reinforcement Learning from Human Feedback: Aligning and Post-training LLMs》已由 Manning 出版並開始發售。
Together AI 以 113 項 DeepSWE 任務比較兩款模型,GPT-5.6 Luna 的 pass@1 為 67.2%,高於 DeepSeek-V4 Flash 0731 的 53.3%,但每項成本為 $0.61,DeepSeek 約 $0.10。
Florian Brand 在第 23 期開放模型盤點中指出,Laguna S2.1、Inkling 和 Kimi K3 等近期發佈顯示開放模型仍具實用價值,更多公司正訓練並公開發佈強模型。
DeepSeek 將 DeepSeek-V4-Flash API 開放公開 Beta,並稱其智能體能力顯著增強,基準測試結果遠高於 V4-Pro-Preview。
Dean Meyer 和 Konstantine Buhler 指出,西方 AI 公司日益依賴中國開放模型,並主張建立美國本土的合法能力轉移渠道。文中稱,這種依賴涵蓋基礎模型、教師模型及合成訓練數據,並引述 ATOM 報告指 Qwen 在新開放模型微調及改編中的佔比由 2024 年 1 月的 1% 升至 2026 年 2 月的 69%。
antirez 認為,AI 編碼讓軟件用戶也能借助編碼智能體修改程式,因此軟件發佈未必再適合只分穩定與不穩定分支。以 Redis 排序集合的記憶體優化改動為例,部分用戶可能更希望及早取得 95% 完成、可測試及調整的分支。他又指出,DwarfStar 的程式碼範例可供編碼智能體參照;GPT 5.6 Sol 約兩小時便完成 Laguna S.1 的實作。
Nathan Lambert 與 Florian Brand 在 Interconnects 的季度回顧中,探討 Kimi K3、Qwen 3.8 及開放模型與閉源前沿的差距。Lambert 分享實際使用 Kimi K3 的經驗,指出模型在部分研究與編碼任務上有亮點,但 API 負載令回應時間較長。兩人並討論蒸餾在 SFT 和 RL 階段的不同作用,認為蒸餾能帶來提升,但其影響程度仍未有定論。
The Next Platform 指出,GenAI 硬件與數據中心投資遠超模型及平台收入,現有商業化收入尚未匹配相關投入規模。Gartner 估算 2026 年 GenAI 模型收入為 $28.3 billion;文章亦提醒,OpenAI 約 $25 billion、Anthropic 5 月 $47 billion 的 ARR 並非實際收入。
Moonshot AI 於 7 月 16 日發佈 Kimi K3,這款 2.8T 參數 MoE 模型預定於 7 月 27 日釋出權重,標誌前沿開放權重競爭升級。
Import AI 465 整理英國 AI Security Institute 的分析,指出開放權重模型在網絡安全能力上與閉源前沿模型的差距,由 2025 年多數時間的 6–10 個月縮至 4–7 個月。
Sebastian Raschka 以 GPT-5.6 系列為切入點,解説大語言模型如何在訓練及推理階段支援不同推理力度;該系列有三種模型規模,每種約有五至六種推理力度設定。
antirez 主張,AI 編程時程式設計師應掌握軟件的設計構想,而非把主要時間花在逐行閲讀和審查程式碼。他建議將更多時間用於設計、品質保證和測試,並以自然語言記錄資料結構的設計。他以 DwarfStar 為 DeepSeek v4 和 GLM 5.2 實作推理的經驗,指出本地推理系統存在細微錯誤,理解設計和測試同樣重要。
Nathan Lambert 認為,未來 6 個月內,能力達到 GPT 5.5、Claude Opus 4.8 或 GLM-5.2 水平以上的開放權重模型可能遭禁或無限期延後。他批評 Anthropic 推動限制的做法是監管俘獲,並指出模型 API 本身也可能遭未授權存取。他主張將知識蒸餾與前沿模型能力的政策討論分開,並由美國公司推出相近能力的開放模型、建立更廣泛的政策聯盟。
AMD 與 Miles 在 ROCm 上透過 Miles,打通 DeepSeek-V4 Flash 在 AMD Instinct MI355X GPU 上的端到端強化學習訓練流程。
SGLang 已整合 DSpark,支援在密集及稀疏模型上進行信心驅動、按請求調整驗證長度的推測解碼。在 DeepSeek-V4-Flash、H200、DP4 的測試中,DSpark 在 batch size 1 至 256 的並發掃描中,吞吐量與每名用戶的解碼速度取捨均優於 MTP 和非推測解碼基線。
Angelos Perivolaropoulos 在 RAAIS 分享語音推理優化方法,展示每張 GPU 的服務量可由 1 名用戶提升至標準工程下 70 名,採用前沿架構時約 140 名。
AMD 與 SGLang 團隊展示,AMD Instinct™ MI355X 透過 MoRI 與 SGLang 執行 DeepSeek-R1 分散式推理,達到具競爭力的總擁有成本(TCO)。
antirez 探討如何在 DwarfStar 中跨多台裝置分散式執行大語言模型推理,並提出以模型集成作為另一條探索路徑。除按 Transformer 層拆分或透過 Apple RDMA 分配專家運算外,模型集成可讓兩台裝置各自運行一個模型,再合併 logits 或選取困惑度較低的續寫。文中提到近期研究認為,結合兩種方式效果較佳;作者希望日後進一步試驗。
Sebastian Raschka 梳理 Gemma 4、Laguna XS.2、ZAYA1-8B 和 DeepSeek V4 的架構改動,聚焦降低長上下文處理成本的設計。
antirez 回顧 DwarfStar 4(DS4)迅速走紅,並表示項目日後會採用在高階 Mac 或「GPU in a box」設備上實際運行夠快的最佳開放權重模型。
SGLang 與 Miles 宣佈在 DeepSeek-V4 發佈首日提供推理及強化學習訓練支援,涵蓋 1.6T Pro 和 284B Flash。
DeepSeek於2026年4月24日發布DeepSeek-V4系列預覽版,開放網頁及API使用,並公開開放權重。兩款模型均支援1M上下文窗口:DeepSeek-V4-Pro總參數為1.6T、活躍參數49B;DeepSeek-V4-Flash則為284B及13B。
推薦理由:兩款模型同具1M上下文窗口,但在參數規模、推理表現與回應速度上定位不同,可看出 DeepSeek-V4 系列的型號取捨。
深度求索(DeepSeek)發佈 DeepSeek-V4,Pro、Flash 系列各有 instruct 與 base 版本,四款 checkpoint 均支援 1M-token 上下文。
推薦理由:文章把 KV cache 成本、混合注意力設計與智能體工作流串連起來,並以基準數據呈現長上下文能力在工具任務中的表現。
DeepSeek API 現已支援 V4-Pro 和 V4-Flash。兩款模型可透過 OpenAI ChatCompletions 介面及 Anthropic 介面使用,base_url 維持不變,model 參數應設為 deepseek-v4-pro 或 deepseek-v4-flash。
LMSYS Blog介紹 HiSparse,這套分層記憶體系統會把閒置 KV cache 卸載至主機記憶體,並在 GPU HBM 保留常用區域,以減輕 GPU 記憶體壓力。
SGLang 整合 Elastic EP,讓 DeepSeek MoE 推理部署在部分 rank 故障時重新分配專家權重並繼續推理,毋須重啟整個服務。