跳到正文

部署工程

把模型跑起來的工程實踐:推理優化、顯存與成本、Serving 架構與基礎設施選型。

408條精選相關主題開源生態數據與訓練端側 AI

最新精選

第 141–160 條 · 共 408 條
11月4日週三
  1. OpenAI News62

    OpenAI 分享模型協助工程師設計及製造實體產品的進展

    OpenAI 分享其模型支援工程師設計、模擬及製造實體產品的進展,涵蓋機械、電子工程與端到端系統設計。兩名團隊成員以副項目形式在不足一週內與 Astra 設計可供用戶與 Codex 對話的裝置,合約製造商不足一個月便製作出小批原型,但投產前仍須多輪審核和修改。

    推薦理由:文章以硬件團隊使用、Astra 裝置原型及業界合作為例,交代模型可介入的工程流程,以及投產前仍須審核和反覆修改的環節。

  2. AWS Machine Learning Blog66

    Amazon Bedrock AgentCore Gateway 如何設定 ServiceNow 的 OBO token exchange

    AWS 示範如何設定 Amazon Bedrock AgentCore Gateway,透過 Microsoft Entra ID 的 OBO token exchange,讓 AI agent 呼叫 ServiceNow REST API 時保留原用戶身份。

    推薦理由:文章依次交代 Microsoft Entra ID、ServiceNow 與 AgentCore Gateway 的設定,呈現 OBO token 交換如何保留用戶身份並套用 ServiceNow 權限。

  3. Unite.AI83

    Binance 説明假招聘面試及內部 AI 工具遭入侵與約 $6.34 billion 資產失竊的關聯

    Binance 表示,假招聘面試、惡意軟件及遭入侵的內部 AI 工具與 2026 年 10 月 29 日約 $6.34 billion 數字資產失竊有關。Binance 稱會自行承擔損失,已預留超過所需補償金額的資金;截至 2026 年 10 月 31 日已補足 98% 受影響代幣資產,並凍結或攔截約 $2.85 billion。

    推薦理由:事件顯示,攻擊者取得錢包團隊存取權後,鏈上委託授權仍可繞過提款基建,令撤銷權限成為不同於停用服務的處置難題。

11月3日週二
  1. DEV Community80

    GLM 5.3 利用 Firefox 修補間隙構建漏洞利用鏈,文章分析軟件發佈延遲風險

    Epoch AI 測試顯示,GLM 5.3 能利用尚未隨正式版推出的 Firefox 安全修補,為六個 Firefox 版本構建可在單次造訪時讀取本機檔案的漏洞利用鏈。

    推薦理由:文章把 Firefox 漏洞測試放回一般軟件發佈流程,説明安全修補公開後可能成為攻擊線索,並整理出縮短修補交付時間、私下處理修補及保留縱深防禦等工程做法。

  2. IT之家83

    Marvell 同意收購 Lumentum,獲 NVIDIA 黃仁勳支持

    Marvell 同意以全股票方式收購 Lumentum,交易總規模連同債務為 1,150 億美元,並獲 NVIDIA CEO 黃仁勳支持。收購完成後,Marvell 的定製晶片業務將與 Lumentum 的光器件業務合併,使 Marvell 成為整合程度更高的高速互聯設備供應商。

    推薦理由:這宗交易把定製晶片與光器件業務納入同一供應商,呈現大型 AI 數據中心的高速光互聯需求如何推動供應鏈整合。

  3. Hugging Face Blog69

    Hugging Face 提出 transformers-mic 模型整合測試契約標準

    Hugging Face 提出 transformers-mic,將縮小版模型、可執行的使用路徑及人工審核基線組成 Model Integration Contract,用於在 PR 中檢查模型整合回歸。

    推薦理由:文章交代如何以縮小版模型、可執行的使用路徑及人工審核基線建立測試契約,並展示其在 CPU 上重現 UMT5 回歸的過程。

  4. 新浪科技83

    Marvell 擬以 1150 億美元收購 Lumentum,合併後潛在市場規模達 5500 億美元

    Marvell 已達成協議,擬以全股票方式收購 Lumentum,交易對 Lumentum 的企業估值為 1150 億美元,合併後整體潛在市場規模預計擴至 5500 億美元。

    推薦理由:報道把交易放在 AI 基建由銅互聯轉向光互聯的背景下,並梳理雙方產品與製造能力的互補,呈現這宗收購的產業邏輯。

  5. OpenAI News63

    OpenAI 詳解 Pando 如何擴展 Git monorepo

    OpenAI 建成 Pando,作為 Git 倉庫的新後端,現已支援 OpenAI monorepo 的全部開發工作。Pando 保留 Git 協議和用戶端相容性,透過分支級並行更新及重用 packfile 擴展寫入和讀取能力。官方表示,Pando 將中位數推送延遲降低近 80%,每日可傳輸近一 petabyte Git 數據。

    推薦理由:文章拆解 Pando 如何以分支級因果一致性及重用 packfile 支援並行寫入與大規模讀取,並交代放寬全倉庫一致性的取捨。

  6. AWS Machine Learning Blog60

    Circle K 如何利用 Amazon Bedrock 將 DevOps 事故排查縮短至 15 分鐘內

    Circle K 使用 Amazon Bedrock 建立自動化 DevOps 事故排查系統,將平均排查時間由 45–60 分鐘縮短至 15 分鐘內。系統整合 AWS 資源、OpenSearch 日誌、GitHub 程式碼及知識庫資料,並將結構化摘要送到 Slack;按團隊內部事故應對指標,排查時間減少 67–75 percent。

    推薦理由:文章呈現 Circle K 將事故排查由 Amazon Bedrock Flows 遷移至 AgentCore Runtime 的架構調整,並整理日誌預查詢、按線索縮窄程式碼搜尋等實作方法。

11月2日週一
  1. DEV Community83

    Marvell 與 Lumentum 簽署 115 billion 美元全股票合併協議,擬打造 AI 連接領域領導者

    Marvell 與 Lumentum 於 2026 年 11 月 2 日簽署全股票合併協議,交易隱含企業價值為 115 billion 美元,目標是打造 AI 連接領域領導者。

    推薦理由:協議預計於 2028 年上半年完成,完成前兩家公司仍各自維持路線圖、定價及支援渠道,為基建團隊安排現有採購與架構規劃提供了明確時間界線。

  2. DoNews83

    邁威爾科技(Marvell)宣佈以全股票交易收購光通訊設備商 Lumentum

    邁威爾科技(Marvell)宣佈以全股票交易收購光通訊設備製造商 Lumentum,交易隱含企業價值約 1,150 億美元。按協議,Lumentum 股東每持有 1 股可獲 4.5 股 Marvell 普通股;交易預計於 2028 年上半年完成,仍待雙方股東及監管機構批准。兩家公司預計合併後每年可實現超過 10 億美元成本協同效應,並整合 AI 基礎設施連接技術。

    推薦理由:交易方案擬整合邁威爾的互連、網絡交換及客製化 XPU 技術,與 Lumentum 的激光器、光收發器及 OCS 能力,呈現雙方在 AI 基礎設施連接領域的整合方向。

  3. 新浪科技77

    Marvell 宣佈以全股票交易收購 Lumentum,拓展 AI 光互連佈局

    Marvell 與 Lumentum 達成最終收購協議,Marvell 將以全股票交易收購 Lumentum,Lumentum 股東每持有 1 股可獲 4.5 股 Marvell 普通股;交易完成後,Marvell 現有股東及 Lumentum 股東將分別持有合併公司約 67% 及 33% 股份。

    推薦理由:這宗交易把 Marvell 的電氣及光互連、網絡交換與定製 XPU 技術,和 Lumentum 的激光器、光收發器及 OCS 能力放在同一版圖,呈現雙方在 AI 基礎設施連接上的互補佈局。

  4. DEV Community79

    Mistral Large 4 如何在本地運行

    Mistral Large 4 開放權重可從 Hugging Face 下載,並以 vLLM、SGLang、Transformers 或 llama.cpp 在本地部署。

    推薦理由:文章並列 Mistral Large 4 的 API、託管與自架路徑,交代硬件需求、下載規模和授權界線,便於比較不同部署方式。

11月1日週日
  1. DEV Community82

    Linux 核心修補 CVE-2026-98432 TCP UAF 漏洞,Ubuntu 和 RHEL 仍受影響

    Linux 穩定版核心已發佈 CVE-2026-98432 的修補程式,修復可經 TCP 遠端利用的 use-after-free 漏洞。截至 10 月 31 日,Ubuntu 所有受支援版本及 RHEL 8、9、10 仍未有修補程式,漏洞 CVSS 3.1 評分為 9.8。

    推薦理由:文章對照 Linux 發行版的修補狀態,並説明容器共用主機核心、Go 程式預設開啟 MPTCP listener 如何擴大漏洞的實際暴露範圍。

  2. DEV Community77

    Apple Intelligence 在中國接入千問(Qwen):iOS 27.3 前開發者需測試的項目

    阿里巴巴於 2026 年 10 月 31 日宣佈,千問(Qwen)將為中國用戶的 Apple Intelligence 提供模型支援;相關功能將於 11 月 4 日起在 iOS 開發者測試版測試,並於 12 月隨 iOS 27.3 推出。

    推薦理由:文章把地區路由、用戶是否啟用及資料流檢查整理成測試方法,並提出以模型切換接點應對不同市場的本地模型差異。

  3. IT之家76

    AI 基建掀起軍備競賽:微軟、谷歌、甲骨文等巨頭承諾投入超 3 萬億美元

    Alphabet、Meta、Microsoft、Amazon 和 Oracle 承諾未來數年在數據中心等領域投入逾 3 萬億美元。Alphabet 的相關合同承諾逾 1 萬億美元,Meta 的未來支出承諾逾 8,000 億美元。五家公司的租賃付款承諾合計 1.3 萬億美元,其他採購承諾合計 1.9 萬億美元;各公司披露口徑不一,支出亦並非全數用於數據中心。

    推薦理由:文章列出 Alphabet 與 Meta 的承諾規模,並交代各公司披露口徑不一、部分支出並非用於數據中心,有助理解總額比較的限制。

10月31日週六
  1. AWS Machine Learning Blog67

    Amazon Bedrock 成本管理:FinOps 與平台團隊的端到端實務指南

    AWS Machine Learning Blog 的作者提出 Amazon Bedrock 成本管理五階段運作模式,涵蓋成本歸因、請求觀測、預算管控、平台最佳化及定期檢視。

    推薦理由:五階段流程將帳單歸因、請求觀測、預算執行與平台最佳化串成閉環,並交代 FinOps 與平台團隊的分工及階段依賴。