Nvidia 數據中心收入按年增長 110%,披露最高 $118 billion 財務擔保
Nvidia 公佈第三季數據中心收入為 $107.6 billion,按年增長 110%,並披露與 AI 基建項目相關、最高達 $118 billion 的財務擔保。
推薦理由:Nvidia 的擔保與長期供應承諾顯示,AI 基建擴張不只受晶片供應制約,也牽涉供電設施融資及記憶體、封裝等產能。
把模型跑起來的工程實踐:推理優化、顯存與成本、Serving 架構與基礎設施選型。
Nvidia 公佈第三季數據中心收入為 $107.6 billion,按年增長 110%,並披露與 AI 基建項目相關、最高達 $118 billion 的財務擔保。
推薦理由:Nvidia 的擔保與長期供應承諾顯示,AI 基建擴張不只受晶片供應制約,也牽涉供電設施融資及記憶體、封裝等產能。
Salesforce 將 Amazon SageMaker AI 跨區域推理路由接入 Internal Gateway,讓流量可在多個區域及帳戶中已部署的端點間轉送,並由路由層處理健康判斷與故障切換。
推薦理由:文章以 Salesforce 的實作説明如何將跨區路由接入既有閘道、保留資料駐留限制,並以回應欄位和 CloudWatch 指標追蹤流量切換。
AWS 提出一種 Amazon Bedrock AgentCore Gateway 私有 API 接入架構,將 VPC Lattice 資源閘道放在網絡帳戶的專用 VPC,並由其子網經 Transit Gateway 路由,使資源閘道與私有後端之間的請求及回覆經中央防火牆。
推薦理由:文章梳理資源閘道部署、跨帳戶設定與防火牆路由,並附驗證檢查,為企業在網絡集中管控下接入私有 Agent 工具提供具體架構參考。
OpenAI 表示,其 AI 模型令 AMD 旗艦 GPU 設計的功耗、效能與面積指標改善最高 14%,部分改動已用於送交製造的晶片。模型改寫描述晶片電路的程式碼,並以 Synopsys 軟件檢查改動;OpenAI 稱這相當於不足五個月取得約一年的進展。
推薦理由:部分 AMD 旗艦 GPU 設計改動已進入製造,文章亦交代模型改寫電路描述程式碼並用 Synopsys 軟件逐項檢查,具體呈現 AI 參與晶片設計的流程。
OpenAI 詳解 Codex 沙盒如何透過作業系統的隔離機制,在用戶現有環境中限制命令對檔案系統及網絡的存取。內建 :workspace 權限設定允許工作區內寫入、廣泛讀取檔案並預設停用網絡,用戶亦可自訂權限設定檔,或透過 codex sandbox 將沙盒執行整合到其他工具。
推薦理由:文章串連權限設定、網絡代理與 macOS、Linux、Windows 的隔離實作,説明 Codex 如何在沿用本機開發環境時約束命令存取。
OpenAI 表示,其模型已用於改進自研 Jalapeño、AMD GPU IP 及開源 RISC-V 核心的晶片設計,並提升 RISC-V 評測中的吞吐量。在 AMD 旗艦 GPU IP 上,相較高度優化基線,PPA 改善最高達 14%;Jalapeño warp engine 和 matrix unit 的標準單元面積則分別減少約 13% 和 10%。
推薦理由:文章並列量產設計中的 PPA 改善與兩款開源 RISC-V 核心評測,亦交代功能取捨和物理綜合檢查等限制,可對照模型測試分數與實際晶片設計要求。
Transformers 的 MoE 專家串流實作在 32GB Mac M5 上運行 Qwen3.8-Flash-Next,200-token 解碼達 13.9 tok/s,與 Strata 的 14.8 tok/s 相差約 6%。
推薦理由:文章以同一台 M5 和相同提示詞比較 Transformers 與 Strata,呈現專家串流優化後短文本解碼差距約 6%,並指出剩餘效能瓶頸。
Mastra 推出開源軟件工廠 Mastra Factory 的多項新能力,涵蓋雲端編碼智能體、可自訂工作流程、Slack 原生協作及跨工作階段持續運作的雲端工作區。
推薦理由:文章以 Mastra 團隊的內部數據比較 Factory 使用前後的交付速度與工單分流時間,並呈現其逐步建立團隊信任的做法。
Wiz Research 等團隊揭露 NGINX 兩項漏洞,HTTP/2 啟用時可導致未經驗證的遠端程式碼執行。漏洞編號為 CVE-2026-123633 和 CVE-2026-123007,均評為 Critical,CVSS 4.0 評分為 9.2;其中 CVE-2026-123007 在提供普通靜態檔案時也可觸發,無需後端應用程式或第三方模組。
推薦理由:文章拆解兩個 HTTP/2 記憶體安全漏洞導致遠端程式碼執行的路徑,並交代觸發條件及其對 NGINX 所服務網站與 API 的風險。
ASUS、Dell 和 MSI 的 NVIDIA RTX Spark 緊湊型桌上電腦現已開售,支援本機 AI 智能體、圖像及影片生成,以及模型微調。系統配備 20 核心 NVIDIA Grace CPU、具 6,144 個 CUDA 核心的 NVIDIA Blackwell RTX GPU,統一記憶體最高 128GB,AI 效能最高達 1 petaflop。
推薦理由:文章交代 RTX Spark 桌上型電腦的本機 AI 用途、硬件規格與創作軟件支援,呈現其面向開發者和創作者的工作流程範圍。
攻擊者劫持 Microsoft 官方 Agent Framework 的 PyPI 套件,植入竊取雲端 token 與 CI/CD 憑證的惡意程式。惡意版本 1.26.1 和 1.26.2 於 11 月 17 日在 PyPI 出現,存續不足一小時;程式會在 Python 啟動時自動執行,即使沒有匯入套件,而正版框架程式碼仍讓應用程式繼續運作。
推薦理由:兩個惡意版本雖在 PyPI 存續不足一小時,CI 快取、容器映像和 lockfile 仍可能留有受感染版本,説明排查範圍不止已下架套件。
Nvidia 公佈 2027 財年第三季營收 $115.8 billion、GAAP 營業利潤 $77.52 billion,業績整體高於市場預期及公司上一季預測。
推薦理由:營收較市場預期高出 $6.8 billion,數據中心業務按年增長 110% 並帶動整體增長,第四季指引提供了後續比較基準。
Calif 公佈 OpenJDK Base64 解碼器漏洞 Java4Shell(CVE-2026-114938),在支援 AVX-512 VBMI 的 x86-64 處理器上,輸入 64 個 A 後接 = 可觸發堆記憶體越界寫入;舊版 OpenJDK 17 的觸發字串則需要 128 個 A。
推薦理由:文章連結了漏洞觸發條件、AVX-512 VBMI 硬件限制,以及伺服器和用戶端的攻擊案例,提供界定排查範圍所需的資訊。
英偉達董事會一致接受黃仁勳辭職,明確表示無意恢復其 CEO 職務,令仍在等待融資的 AI 雲端初創公司關注後續資金支持。臨時 CEO 科萊特·克雷斯表示,英偉達將審慎評估新增投資、融資承諾及擔保,並審查客戶實力和數據中心計劃。截至10月25日,英偉達提供的擔保總額已達1180億美元,其中1050億美元與 OpenAI 在俄亥俄州的數據中心項目有關。
推薦理由:文章梳理英偉達投資與融資支持轉趨審慎的變化,呈現 AI 雲端初創公司的資金前景如何連繫客戶付費能力。
Anthropic 團隊在 Claude Docs 上線前,讓 Claude Code 在 staging 環境持續進行大規模壓測,並依遙測資料反覆修正服務。Claude Docs 於 9 月 16 日上線;截至 9 月 22 日,用戶已建立超過 4.6 million 份文件,服務處理 2 billion 次請求僅出現 60 次伺服器錯誤,且未曾回滾。
推薦理由:文章呈現以持續壓測、遙測診斷和明確技術不變條件組成的智能體迴圈,並説明 Claude 如何在 staging 反覆定位及修正服務問題。
AWS 為 Amazon SageMaker HyperPod Inference 加入 NVIDIA Dynamo 託管支援,涵蓋多節點部署、分離式 prefill 與 decode 推理。
推薦理由:文章對照兩種部署路徑,並以 Qwen3-235B 基準呈現分離式 prefill 與 decode 在指定服務門檻下,最高吞吐量達聚合式的 2.05×。
Amazon Bedrock AgentCore 的三項優化策略,令處理 20 MB+ JSON 資料的生產智能體在代表性 23 MB payload 基準測試中,token 用量最多下降 71%,平均延遲最多降低 80%。
推薦理由:文章把狀態外置、列表分頁與字典摘要整合成可組合方案,並以 23 MB 資料測試呈現 token 用量及延遲的變化。
NVIDIA 公佈截至 2026 年 10 月 25 日的第三季收入為 $115.8 billion,按季增長 20%、按年增長 103%。資料中心收入為 $107.6 billion,按季增長 21%、按年增長 110%。公司預計 2027 財政年度第四季收入為 $130.0 billion,正負 3%,並未將中國資料中心運算收入納入預測。
推薦理由:NVIDIA 第三季收入按年增長 103%,資料中心收入為 $107.6 billion;下一季 $130.0 billion 的收入指引,呈現公司對短期增長的預期。
Amazon SageMaker AI 即時端點新增 KV-aware routing,根據模型容器回報的 KV cache 狀態,把請求路由至持有最長匹配快取且負載未過高的實例。
推薦理由:文章比較 KV-aware routing 與 prefix-aware routing 的路由依據,並以長對話工作負載的測試呈現延遲、吞吐量及快取命中率變化。
AWS Machine Learning Blog提出工作流程的模型呼叫分流方法:規則交由確定性程式碼,固定選項使用受限決策呼叫,開放式任務則使用符合要求的 Amazon Bedrock 模型。
推薦理由:文章整理出規則、固定選項與開放式生成的分流方法,並以 AWS 元件示範如何減少不必要的模型呼叫。