跳到正文
11月13日週五
  1. DEV Community76

    Gemini 4 Hydrogen 與 Gemini 3.8 Flash:升級是否值得?

    文章比較 Gemini 4 Hydrogen 與 Gemini 3.8 Flash,指出 Artificial Analysis 任務測試中,Hydrogen 在 high 設定下每項完成任務成本為 $1.87、評分指數為 51;Flash 在 high 設定下則為 $7.77 和 31。

    推薦理由:文章比較兩款模型的任務成本與評分,並整理思考層級預設、API 協定支援及長輸出路徑等遷移限制。

  2. 阿里雲開發者社區 AI52

    阿里雲靈駿真武 M890 超節點實例 efg3.GP9A 上線,搭載自研 M890P 晶片

    阿里雲靈駿真武 M890 超節點實例 efg3.GP9A 已在華北6(烏蘭察布)可用區 D 正式上線,搭載自研真武 M890P(PPU 1.5)晶片。最小售賣單元為64卡/8節點超節點,提供9216 GB顯存、1024核CPU及51.2 TB/s卡間互聯,支援 MXFP4 等多種精度。西北2(中衞)目前處於邀測中,更多配置及精準報價見 https://t.aliyun.com/U/vD1IqN。

  3. DEV Community48

    Kronos:學會股票圖表語言的 AI 模型

    Kronos 是專為金融 K 線打造的開源基礎模型,利用來自 45 多個交易所的數據預測價格和成交量。模型先將 K 線數據轉為分層離散 token,再以自回歸 Transformer 預訓練。項目採用 MIT 授權,提供不同規模的預訓練模型,並設有 BTC/USDT 未來 24 小時預測示範。

  4. 新浪科技43

    英特爾 D 系列 GPU 實測:金融模擬吞吐量達 RTX PRO 6000 的 5.9 倍,FP64 計算反超

    英特爾代號 Crescent Island 的 D 系列 GPU 推理卡,在金融模擬測試中的吞吐量達英偉達 RTX PRO 6000 的 5.9 倍,並在 FP64 雙精度計算上反超。該卡配備 480GB 顯示記憶體,額定功耗為 350W;測試在 pre-alpha 軟件環境下完成,英特爾尚未公佈測試平台配置及對比型號細分。

  5. DEV Community48

    LoopVQ 子位元 KV cache 量化令吞吐量倍增

    LoopVQ 以低於 1 bit 的精度壓縮 KV cache,提升長上下文解碼速度及服務吞吐量,無需重新訓練底層 Transformer。每個元素採用 0.5 bits 時,32K tokens 下的解碼延遲約為 BF16 的一半;在 1.4B 和 2.6B Ouro 模型上,峯值服務吞吐量分別提升最多 4.3× 和 6.1×,一般批次大小下每秒請求量約增至兩倍。

  6. DEV Community71

    用 Ollama 在本機部署編碼模型,讓程式碼不必離開本機

    文章示範以 Ollama 在本機部署編碼模型,並接入 VS Code 的 Continue,讓程式碼和儲存庫可在本機處理。作者推薦 Qwen2.5-Coder-32B,並列出其 LiveCodeBench 得分為 37.2%,高於 GPT-4o 的 29.2%。文章亦説明硬件記憶體需求、量化、上下文窗口及 KV cache 的容量計算,並提供 Ollama 安裝與故障排查方法。

  7. 雷鋒網66

    SpaceCast-Bench 評測 21 個 VLM 的預測性空間推理,最高準確率僅 58.0%

    浙江大學團隊提出 SpaceCast-Bench,評估 VLM 根據場景變換推斷新空間關係的能力;21 個模型中最高準確率為 58.0%,人類為 87.2%。基準涵蓋 182 個真實室內場景、3862 道問題和 16 類任務;6 個空間專項模型準確率為 25.7% 至 29.1%,接近 25.9% 隨機基線。提供文本形式的 3D metadata 後,閉源模型平均提升 30.7 個百分點。

  8. HuggingFace Daily Papers(社區熱門論文)37

    透過自適應計算將大語言模型轉化為高效 System One 模型

    研究提出以自適應計算訓練多層深度的 System One 決策模型,讓單一模型按需增加計算,提升準確度與效率的取捨。研究發現,決策資訊集中於中間層,移除最後六層仍不損失表現。該方法在七項決策基準測試中,各深度的表現均媲美或優於獨立訓練的模型。

  9. 阿里雲開發者社區 AI62

    Claude Fable 5.2 High 檔以約一半成本追平 Opus 5.5 Max 檔,並解析模型分層策略

    Claude Fable 5.2 High 檔以 6.72 美元取得 45.3% 評測得分,接近 Opus 5.5 Max 檔的 45.5%,單任務成本約為後者一半。Fable 5.2 開至最高檔時,單任務成本升至 26.5 美元。文章建議按任務複雜度分層調用模型,讓旗艦模型處理規劃和難題、主力模型負責日常執行,低價或開源模型承接批量任務,並以低檔起步、未達標再升檔。

  10. DEV Community63

    建構更聰明的 AI 智能體:呼叫 LLM 前先用確定性程式碼

    文章主張,AI 智能體遇到已知且重複的問題時,應先用確定性程式碼處理,只有陌生或含糊情況才交由 LLM 推理。文中以 CI/CD 故障排查為例,展示先識別已知錯誤、再將未知情況交給 LLM 的混合流程。由於已知錯誤可能有多種成因,自動處理仍須按證據和風險設定,並保留驗證及後備路徑。

  11. DEV Community53

    LFM2.5-2.6B Q4 在 livedoor 分類準確率為 10.8%,已作答答案有 93.1% 正確

    LFM2.5-2.6B Q4 在 livedoor 日文新聞分類任務的整體準確率為 10.8%,但只回答 29/250 題,當中 27 題正確(93.1%)。測試以每項 250 題比較多個本地模型與 Jev 託管 API;在首 40 題把 token 預算由 512 提至 2,048 後,28 題有作答,11 題仍因達上限而無輸出,另有 1 題輸出無效標籤。

  12. DoNews80

    谷歌發佈 Gemini 4 Hydrogen,主打日常編碼與智能體工作流

    谷歌推出 Gemini 4 Hydrogen,面向日常編碼與智能體工作流,主打快速執行與高效運行。相較 Gemini 3.8 Flash,Hydrogen 在預設 high 思考檔位下任務完成速度提升 2.5 倍,Terminal-Bench 4.1 得分由 18.2% 升至 57%,虛構錯誤率降低 5 倍以上。

    推薦理由:文中對照 Hydrogen 與 Gemini 3.8 Flash 的速度及基準成績,並列出 Orchestrator 的配額與速度變化,讓模型效能與智能體調度表現有可比較的數據依據。

  13. 新浪科技80

    Google 發佈 Gemini 4 Hydrogen,Gemini App 免費用戶可體驗

    Google 發佈 Gemini 4 Hydrogen,主打更快的回應速度、更低的使用成本及更高效的 AI Agent 執行能力。Artificial Analysis 測得其 High 推理檔位得 51 分,高於 Gemini 4 Argon 的 50 分;API 每百萬輸入 Token 收費 1.5 美元,每百萬輸出 Token 收費 7.5 美元。

    推薦理由:文章並列 Hydrogen 的評測表現、API 定價及 Gemini 產品入口,呈現高效率模型在能力、成本與普及使用上的取捨。

  14. DEV Community58

    第 6 天:用 FastAPI 建立並容器化 AI 微服務 API

    這篇教學示範如何以 FastAPI 建立 AI 微服務閘道,驗證請求後呼叫推理引擎,並以 Server-Sent Events 串流回傳結果。範例使用 Pydantic 驗證輸入,無效請求會即時返回 422;串流開始後發生的錯誤則以事件傳送。文章亦指出,閘道 worker 數量應透過負載測試調整,並可用 Day 2 的多階段 Dockerfile 封裝服務。

  15. DEV Community55

    Gemini Decision 1 支援多模態輸入,測試顯示是非判斷可輸出機率值

    Gemini Decision 1 的測試顯示,其是非判斷可返回介乎 0 和 1 的機率值,而非只輸出「是」或「否」。文章列出其支援文字、圖像、音訊、影片及 PDF 輸入,輸入價格為每百萬 token 0.10 美元,輸出免費;表中 Jev 的輸入價格為每百萬 token 0.042 美元。作者提醒,單次影片測試只能展示回應格式,不能據此判斷模型整體準確度或機率校準水平。

  16. AWS Machine Learning Blog63

    Amazon Bedrock 四項推理設定如何影響成本

    AWS Machine Learning Blog 説明,Amazon Bedrock 的快取時長、服務層級、推理力度及 maxTokens 均會影響推理成本,並展示如何測試和核對效果。

    推薦理由:文章將四項請求設定納入同一測試流程,逐項核對模型支援、token 或成本變化及任務完成度,提供可套用於不同工作負載的評估方法。

  17. Ars Technica · AI76

    Google 推出 Gemini 4 Hydrogen,取代 Gemini 3.8 Flash

    Gemini 4 Hydrogen 已在 Google 旗下產品中取代 Gemini 3.8 Flash,並即時開放使用,存取限制較此前寬鬆。它提供 low、medium、high、xhigh 四種思考等級;Google 稱 high 模式速度比 Gemini 3.8 Flash 快 2.5 倍,虛構説法減少逾 5 倍。

    推薦理由:文中並列 Gemini 4 Hydrogen 相對 Gemini 3.8 Flash 的速度、虛構説法及 Terminal-Bench 變化,並以 Artificial Analysis Intelligence Index 分數對照 Argon。

  18. Unite.AI48

    Scale AI 與 IMDA 推出新加坡法律推理基準 SG-LegalClarify

    Scale AI 與新加坡資訊通信媒體發展管理局(IMDA)推出 SG-LegalClarify,評測語言模型對新加坡法律的推理及識別缺失事實的能力。基準涵蓋 19 個模型、1,860 個情境及 10 個法律領域;閉卷測試由 Claude Fable 5 以 69.8% 領先,加入網頁搜尋後則由 Kimi K3 以 77.8% 領先。閉卷情境中,約 39% 有缺失事實的個案未獲模型追問。

  19. The Decoder81

    Google Gemini 4 Hydrogen 評分超越發佈僅四週的更大型 Argon

    Google 發佈 Gemini 4 Hydrogen,模型在預設 high 思考級別的 Artificial Analysis Intelligence Index 得分為 51,高於 Gemini 4 Argon 的 50;xhigh 級別得分為 54。

    推薦理由:文中並列 Google 公佈的基準成績與 Artificial Analysis 的獨立評測,呈現 Hydrogen 在能力分數、終端任務表現及不同思考級別成本上的差異。

  20. Newcomer 新聞長文57

    Newcomer 與 Bessemer Venture Partners 公佈 AI 100 非上市 AI 公司榜,Anthropic 排名第一

    Newcomer 與 Bessemer Venture Partners 公佈首份 AI 100,列出 100 家非上市 AI 公司,Anthropic 排名第一、OpenAI 第二。大型模型研究公司只佔榜單 9%,卻佔合計估值 55%;100 家公司的合計估值約為 $3.5 trillion。排名考慮收入、估值和市場份額等量化因素,也納入人才與文化等較難量化的因素。

  21. LMSYS Blog56

    LMSYS Org 成立 SGLang Consortium,聯同 NVIDIA 等推進開源 AI 推理

    LMSYS Org 宣佈成立 SGLang Consortium,聯同產業成員推進開源 AI 推理。創始成員包括 NVIDIA、AMD、Intel、Google、Meta、Cloudflare、Modal 和 RadixArk,工作重點涵蓋前沿模型支援、推理及多模態工作負載、分散式推理和硬件優化。成員每年參加兩次路線圖會議;SGLang 維護者仍負責技術決策和程式碼接納,項目繼續向整個社羣開放。

  22. IT之家80

    Google 發佈 Gemini 4 Hydrogen 模型,主打日常編碼與智能體工作流,輸入每百萬 Token 1.5 美元

    Google 推出 Gemini 4 Hydrogen,面向日常編碼及智能體工作流,支援最高 100 萬 Token 輸入及輸出。輸入每百萬 Token 收費 1.50 美元、輸出 7.50 美元,並設 low、medium、high(預設)及 xhigh 四檔思考深度。

    推薦理由:材料並列收費、思考檔位和 Orchestrator 基準數據,亦與 Gemini 3.8 Flash 比較速度與錯誤率,呈現其日常編碼定位的成本及效能參考。