跳到正文
11月19日週四
  1. HuggingFace Daily Papers(社區熱門論文)37

    CriticNPU 以機理評估器提升 NPU 設計空間探索的樣本效率

    CriticNPU 是一套面向 LLM 推理的 NPU 設計空間探索框架,利用線上校準的機理評估器篩選候選配置並分析運算瓶頸。在 6 個 LLM 工作負載及每個模型 16 個部署配置的測試中,其延遲表現於 74% 的 prefill 設定及 87.5% 的 decode 設定達到最佳或並列最佳。與具競爭力的 DSE 基線相比,CriticNPU 使用的模擬器呼叫約減半。

  2. 阿里雲開發者社區 AI58

    阿里雲 Qwen3.8-Max 大模型介紹:定位、特性、能力及訂閲價格解析

    阿里雲開發者社區文章介紹 Qwen3.8-Max 的定位、能力及計費方式,稱其面向複雜長任務與智能體開發。文中列出 2.4萬億參數 MoE 架構、百萬 Token 上下文、原生文字、圖片及影片輸入,以及工具調用能力。文章亦介紹按量 API 計費,輸入及輸出分別為 12 元和 36 元/百萬 Token;個人版 Token Plan 月費為 39 至 312 元。

  3. 螞蟻 inclusionAI:HuggingFace 新模型57

    inclusionAI 發佈醫療模型 LingSante-3.1-flash

    inclusionAI 發佈開放權重醫療模型 LingSante-3.1-flash,總參數量為 560B,每個 token 啟用 25B 參數,並支援 1M tokens 上下文窗口。該模型在醫療專業行為基準中總排名第二,僅次於 GPT-6 Astra;其用途定位為研究與評估,並非醫療器械,不得作為診斷、處方或治療的獨立依據。

  4. DEV Community64

    Gemini 4 Neon 定價解析:Standard 每百萬輸入 token 3 美元、輸出 token 15 美元及單次呼叫成本

    Gemini 4 Neon 的 Standard 價格為每百萬輸入 token 3 美元、輸出 token 15 美元,文章並計算常見請求的單次成本。Batch 和 Flex 價格減半,Priority 每百萬輸入 token 5.40 美元、輸出 token 27 美元;思考 token 按輸出價格計費,Standard 的快取輸入則為每百萬 token 0.15 美元。

  5. IT之家64

    英偉達披露 GPU 租賃價格上漲:Hopper 最高翻倍,B300 漲逾 60%

    英偉達在最新財報電話會議披露,旗下 GPU 租賃價格隨 AI 推理需求上升,Hopper 多年期續約價格最高達原價 2 倍,B300 較推出時上漲逾 60%。自今年 5 月以來,AI token 價格下跌近 60%,帶動 AI 使用量和算力需求增加;英偉達提供予超大規模及新興雲端服務商的計算資源均已滿負荷使用。

  6. DoNews65

    英偉達 GPU 租賃價格普遍上漲,B300 較發佈時升逾 60%,中國 AI 企業取得算力承壓

    英偉達在最新財報電話會議上確認,Hopper 與 Blackwell 架構 GPU 租賃價格因 AI 推理需求激增而全面上漲。Hopper 多年期續約價達原價 2 倍,B300 租賃價較發佈時上漲逾 60%;AI token 成本自 5 月以來下降近 60%,帶動算力消耗,雲服務商資源已滿負荷。英偉達要求新簽海外雲端合約至少 51% 的服務面向非中國客戶,令中國 AI 企業取得算力更困難。

  7. SiliconANGLE78

    Google 發佈 Gemini 4 Neon,完成任務速度約為 Gemini 4 Carbon 三倍

    Google 發佈中階模型 Gemini 4 Neon,稱其完成大部分任務的速度約為 Gemini 4 Carbon 三倍,成本低約 60%。Google 公佈的基準測試顯示,Neon 在部分任務超越 Carbon;Artificial Analysis 的 Intelligence Index 評分為 61,排名第三。

    推薦理由:文章並列 Google 自行公佈的基準測試、Artificial Analysis 的 Intelligence Index 評分及同級模型定價,呈現 Neon 的效能表現與成本定位如何相互比較。

  8. 新浪科技55

    JEDEC 公佈 DDR6 初步規劃:起步速率 12.8GT/s,模組長度縮短約 44%

    JEDEC 公佈 DDR6 DRAM 標準初步規劃,目標傳輸速率由 12.8GT/s 起步,並提出模組長度縮短約 44% 的方案。規劃把數據總線由 64 位增至 96 位,JEDEC 預計新標準推出初期可帶來超過 50% 的記憶體頻寬增幅。DDR6 仍在制定階段,RDIMM、UDIMM 和 CAMM 等模組形式尚未定案,披露的規格仍可能調整。

  9. 創業邦78

    Google 上線 Gemini 4 Neon,Artificial Analysis 編程 Agent 榜以 58.6 分登頂

    Google 正式上線 Gemini 4 Neon;它在 Artificial Analysis 編程 Agent 榜取得 58.6 分,排名第一。Google 稱它在與 Claude Opus 5.5 和 GPT-6.2 Sol 的 19 組比較中,有 16 組取得最高成績。

    推薦理由:文章並列 Neon 的編程榜排名、單次任務成本與 Antigravity 的多 Agent 分工,呈現其表現與任務開支的比較脈絡。

  10. 新浪科技78

    騰訊稱 WorkBuddy 按用戶每日大語言模型 Token 消耗量計,已成國內規模最大的 AI 應用

    騰訊在2026年第三季度財報中稱,WorkBuddy日活躍用戶超過1000萬、每日消耗超過100萬億Token,按用戶每日大語言模型Token消耗總量衡量,已成為國內規模最大的AI應用。按最近七天收入年化計算,WorkBuddy收入已超過5億美元,第三季度收入達第二季度的五倍以上;同期騰訊資本開支為814.3億元,公司尚未給出AI盈利時間表。

    推薦理由:文章並列 WorkBuddy 的用戶與收入增長、騰訊高額算力投入及現金流壓力,呈現 AI 商業化進展與盈利挑戰之間的關係。

  11. 阿里雲開發者社區 AI83

    Gemini 4 Neon 實測:18 項同台基準勝 Opus 5.5 共 16 項

    作者實測 Gemini 4 Neon,稱它在與 Opus 5.5 同台的 18 項基準中勝出 16 項。Artificial Analysis 綜合智能榜中,Neon 的 xhigh 得 61 分,高於 Carbon 的 60 分及 Opus 5.5 的 59 分;預設 high 檔平均每題成本為 $3.74,低於 Opus 5.5 的 $10.04。

    推薦理由:文章結合第三方基準、作者本機任務與單題成本比較,呈現 Gemini 4 Neon 在編碼表現、速度和費用上的差異。

  12. 阿里雲開發者社區 AI66

    阿里雲 Qwen4‑Max 一文讀懂:核心功能、適用場景、收費與省錢方法

    阿里雲通義千問推出 Qwen4‑Max 預覽版,提供 100萬 Token 上下文窗口及文字、圖片、影片輸入,主打複雜編程、智能體長鏈路任務和專業辦公。預覽版只可透過 Token Plan 訂閲調用;新用戶可領取超7000萬免費 Tokens,Lite 個人方案首購 5 折後為 19.5 元/月,模型調用另有短期 2 折優惠。

  13. Prime Intellect69

    Prime Intellect 推出 Model Factory,整合模型訓練、推理與部署

    Prime Intellect 推出 Model Factory,將強化學習(RL)、監督式微調(SFT)、預訓練和推理整合到同一控制平台,支援模型訓練、部署及持續改進。用戶可按 GPU 小時付費使用託管訓練,或選擇具預留算力及 Slurm、Kubernetes 存取權的專屬部署。Prime Traces 可將生產追蹤記錄用於下一輪訓練。

  14. IT之家77

    Google 推出 Gemini 4 Neon,編程智能體指數排名第一,超越 Claude Opus 5.5

    Google 推出 Gemini 4 Neon,主攻複雜編程、科學研究和企業工作流程,並已開始向開發者、企業及部分付費訂閲用戶開放。在最高 xhigh 檔位下,模型於 Artificial Analysis 編程智能體指數以 58.6 分排名第一,智能指數則以 61 分排名第三;預設 high 思考檔位下,相關測試的單任務成本比同系列 Carbon 低 32%。

    推薦理由:材料把公開基準排名、相對 Carbon 的成本差異及早期內部速度比較分開呈現,讀者可辨別不同評估條件下的性能資訊。

  15. 新浪科技48

    香港中文大學(深圳)與微軟研究院提出 ConvexLLM,讓聲音接入大語言模型的知識與推理能力

    香港中文大學(深圳)與微軟研究院提出多模態建模架構 ConvexLLM,以 C-Gate 將音頻表示映射至語言模型凍結文字詞向量的凸包中。ConvexLLM 在 VoiceBench 11 項任務綜合評測中取得 75.36 分,領先同量級開源權重模型。模型在 BBH 得分為 80.40%,較最強基線高 8.80 個百分點。

  16. Google DeepMind81

    Google DeepMind 發佈 Gemini 4 Neon

    Google DeepMind 發佈 Gemini 4 Neon,面向複雜軟件工程、知識工作及科學工作流程,主打快速端到端任務處理。它在 Artificial Analysis Intelligence Index 的 xhigh thinking level 排名第 3、得分 61,並在 Vals Index 排名第 2、得分 70.9%。

    推薦理由:Gemini 4 Neon 同時面向編碼、企業分析、科學工作與網絡安全,並列出多項基準成績及不同思考層級的成本比較,呈現能力與效率的取捨。

  17. DEV Community58

    第 12 天:AI 推理服務如何用 HPA 應對突發 API 流量

    Kubernetes HPA 可透過自訂指標,依等待佇列深度為 AI 推理服務增減 Pod,以應對 API 流量突增。範例透過 Prometheus Adapter 暴露 vllm_num_requests_waiting,將目標設為每個 Pod 平均 10 個等待請求,副本數介乎 1 至 4。設定將擴容穩定窗口設為 0,縮容則採 300 秒窗口,並限制每 60 秒最多減少 25%。

  18. Hacker News:AI 熱帖43

    SRE-1:用於生產環境調查的 27B 模型

    SRE-1 是一個以強化學習訓練的 27B 模型,旨在找出生產環境警報的根本原因。在 49 宗困難的實際案例中,強化學習將單次調查的通過率由 6.9% 提高至 38.8%。5 次 SRE-1 調查組成的集成,通過率達 71%,與 Fable 5.2 相同,成本低 37%。

  19. Hugging Face Blog65

    Transformers 如何在 32GB Mac 上推理 180B MoE 模型,解碼速度接近 Strata

    Transformers 的 MoE 專家串流實作在 32GB Mac M5 上運行 Qwen3.8-Flash-Next,200-token 解碼達 13.9 tok/s,與 Strata 的 14.8 tok/s 相差約 6%。

    推薦理由:文章以同一台 M5 和相同提示詞比較 Transformers 與 Strata,呈現專家串流優化後短文本解碼差距約 6%,並指出剩餘效能瓶頸。