跳到正文

部署工程

把模型跑起來的工程實踐:推理優化、顯存與成本、Serving 架構與基礎設施選型。

408條精選相關主題開源生態數據與訓練端側 AI

最新精選

第 121–140 條 · 共 408 條
11月6日週五
  1. 虎嗅78

    AI數據中心擴張遭社區反彈與選票制約

    2026年美國中期選舉及地方公投限制措施,使 AI 數據中心擴張面臨更大政治阻力,市場亦重新評估算力需求前景。全美45項涉及數據中心的市級公投中,33項通過限制措施;賓大安嫩伯格公共政策中心調查中,反對在住所附近興建數據中心的比例由春季49%升至夏季61%。文章指出,數據中心對電價的影響仍有爭議,但社區支持、成本分攤和電網承載能力已成為基建投資的重要制約。

    推薦理由:文章把選舉結果、地方限制措施與電網成本放在同一脈絡,呈現社區同意如何由地方議題轉為 AI 基建擴張的政治約束。

  2. Cursor:Changelog77

    Cursor 支援構建可上線運行的應用程式

    Cursor 現已支援用戶透過雲端智能體構建可上線運行的網頁應用程式,並配置資料庫、身份驗證及部署,再以連結分享。應用程式可從 Cursor Origin 或 GitHub 上的新建或現有程式碼庫部署;發布前會經確定性檢查及智能體式安全檢查,並須由用戶明確發布。所有已啟用雲端智能體的付費方案均可使用此功能;應用程式可分享給指定人員、羣組或整個團隊,個人方案亦可公開分享。

    推薦理由:這項能力把應用程式構建、資料庫與身份驗證設定、部署和團隊分享連在同一流程,並列明發布前檢查及管理員控制方式。

  3. Unite.AI82

    Binance 失竊案始於虛構求職面試,權限範圍決定攻擊代價

    Binance 於 10 月 29 日遭攻擊者從錢包轉走約 $6.34 billion,事件起於工程師參與虛構公司的求職面試,並在工作電腦執行含惡意程式的編碼測試。攻擊者其後透過內部 AI 工具控制另外兩名工程師的電腦,再利用具備容器部署權限的 token 和被盜憑證部署容器,啟動竊取行動。文章建議以一次性虛擬機隔離不可信程式碼、限制部署憑證的權限和有效期,並要求高風險操作獨立審批。

    推薦理由:案例呈現受感染開發者電腦如何經內部 AI 工具與部署憑證觸及錢包系統,並提供隔離不可信程式碼及要求獨立審批等防護做法。

11月5日週四
  1. Mistral AI70

    Mistral Studio 新增託管智能體與應用功能,配合 Le Chonk 建置企業 AI

    Mistral 擴展 Mistral Studio,新增託管智能體和應用等功能,讓團隊可用 Mistral Large 4(Le Chonk)建置企業 AI 系統。更新亦加入工作流程、企業上下文、智能體可觀測性及評估功能;平台可部署於雲端、VPC 或本地環境,並支援權限控制和人工審批。文中舉例,產品營運團隊的工作流程每週節省約 35 小時,事故調查智能體則每月為團隊節省數百小時。

    推薦理由:文章具體拆解智能體、工作流程與應用如何共用 Studio 基礎設施,並把權限、人工審批及追蹤評估納入企業部署流程。

  2. TNW82

    美國選民在 41 項地方公投中有 40 項反對 AI 數據中心

    美國選民在分佈於 10 個州的 41 項地方公投中,有 40 項投票反對 AI 數據中心建設。反對數據中心擴建的民主黨人亦贏得德州、俄亥俄州和佐治亞州州長選舉;德州州長當選人 Gina Hinojosa 曾主張暫停興建數據中心。NBC News 出口民調顯示,76% 選民表示會反對在所屬社區興建新數據中心,56% 稱 AI 和數據中心是其國會選舉投票的重要或主要考量。

    推薦理由:文章把 41 項地方公投結果,與德州、俄亥俄州的暫停建設主張及國會電網成本法案並列,呈現選舉如何牽動數據中心政策。

  3. 虎嗅77

    亞馬遜、Alphabet、微軟、Meta、甲骨文開始借貸,AI 資本開支超過經營現金流

    亞馬遜、Alphabet、微軟、Meta 和甲骨文在 2026 年開始借貸,前九個月 AI 資本開支首次超過經營現金流。五家資本開支合計 5569 億美元,經營現金流合計 5429 億美元;合計自由現金流則由去年同期盈餘 1435 億美元轉為赤字 140 億美元。穆迪估算五家表外義務合計約 2.8 萬億美元,主要包括尚未起租的數據中心租約、晶片與服務採購及合資項目擔保。

    推薦理由:文章把資本開支、現金流、債券利差與表外承諾並置,呈現 AI 基建投資如何加重大型科技公司的長期融資壓力。

  4. DEV Community77

    OpenAI 在 Linux 上生成 948 個本機提權漏洞利用程式,API 伺服器是否已修補?

    OpenAI 的流程在 Linux 上生成 948 個獨特的本機權限提升(LPE)漏洞利用程式,按 API 額度計算每個成本為 1,279 美元。這些漏洞須在攻擊者已取得系統內低權限執行據點後才能利用,並非可直接遠端攻擊;OpenAI 未公佈受影響版本清單,亦未報告利用這批漏洞的實際攻擊案例。文章建議安裝發行版安全更新、重新啟動至新核心,並限制服務帳戶權限及隔離高風險工作負載。

    推薦理由:文章把本機提權漏洞與 API 伺服器的初始入侵路徑連結起來,並整理核心修補、重新啟動及容器隔離等實務核查方法。

  5. DEV Community85

    OpenAI 的 AI 找出 948 種 Linux 本機提權漏洞利用方式,文章整理 API 伺服器修補要點

    OpenAI 的 AI 流程在 Linux 上生成 948 個獨特的本機權限提升(LPE)漏洞利用程式,每個成本為 1279 美元 API 額度。這些漏洞不能單靠遠端請求利用,攻擊者須先取得低權限執行位置;OpenAI 未公佈受影響版本清單。文章建議安裝發行版的最新安全更新並重新啟動至新核心,並指出容器共用主機核心,更新容器映像不能修補主機核心。

    推薦理由:文章把 948 個本機提權漏洞利用方式連結到 API 伺服器的初始入侵風險,並整理核心更新、重啟及容器隔離的檢查方法。

  6. DEV Community78

    OpenAI 的 AI 找出 948 個 Linux 本地提權漏洞利用程式,API 伺服器如何檢查修補狀態?

    OpenAI 的自動化流程在 Linux 核心掃描中生成 948 個獨立的本地權限提升(LPE)漏洞利用程式,API 總成本為 1.213.430 USD。這些利用程式屬於本地漏洞,攻擊者須先取得低權限下的程式碼執行能力;OpenAI 沒有公佈受影響版本,報告亦未記錄利用這批漏洞的實際攻擊。文章建議安裝發行版的安全更新並重啟載入新核心,亦提醒容器共用主機核心,更新容器映像檔不能修補主機核心。

    推薦理由:文章釐清本地提權漏洞利用程式仍須先有初始入侵條件,並整理核心更新、重啟及容器隔離的檢查方法。

  7. 新浪科技77

    PHP2Shell 漏洞事後復盤:核心缺陷 2024 年已被發現,修復工作未啟動

    PHP 基金會事後分析指出,PHP2Shell 兩個漏洞的核心缺陷早在 2024 年已被發現,但因當時未能證明可利用,修復工作沒有啟動。

    推薦理由:復盤串起漏洞早期被發現卻未修復、AI 輔助審計構造利用鏈的過程,並指出仍有約 73% PHP 安裝使用已停止支援的版本。

  8. DEV Community84

    如何在 2 分鐘內檢查 Node.js 版本是否受 Brotli RCE 漏洞 CVE-2026-111497 影響

    作者整理了檢查 Node.js 是否受 Brotli 解碼器 RCE 漏洞 CVE-2026-111497 影響的方法,並列出 22.x、24.x、26.x 的修補門檻,分別為 22.23.4、24.22.1 和 26.12.1。

    推薦理由:文章對照 `node -v`、Brotli 常數及 `process.versions.brotli` 的檢查限制,並整理更新 runtime、重建容器映像和重啟程序的修補流程。

  9. DEV Community78

    PHP2Shell 解讀:兩項嚴重 PHP 漏洞對伺服器的影響

    PHP2Shell 涉及 PHP 的兩項漏洞,可導致未經身份驗證的遠端程式碼執行;PHP 於 21 October 2026 發佈修補版本。修補版本為 PHP 8.5.12、8.4.27、8.3.36 和 8.2.35;更新 WordPress、外掛或佈景主題不能修復 PHP 執行環境。

    推薦理由:文章提供核查網頁伺服器實際執行的 PHP 版本、辨認廠商回補版本及重啟舊工作程序的實務步驟。

  10. AWS Machine Learning Blog62

    生產環境 AI 智能體的四層上下文工程:Deep Insight 如何以實際程式碼實踐

    AWS 團隊以 Deep Insight 示範生產環境 AI 智能體的四層上下文工程,涵蓋架構隔離、提示詞控制、檔案外置及獨立驗證。

    推薦理由:文章將生產環境智能體的上下文管理整理為四層,並用 Deep Insight 的程式示例展示隔離、提示詞控制、檔案外置及獨立驗證如何互相補足。

11月4日週三
  1. DEV Community77

    刪除檔案未能撤銷金鑰:LiteLLM 1.107.0 如何被植入惡意軟件並發佈

    LiteLLM 的 litellm==1.107.0 套件及 Docker 映像於 10 月 21 日遭攻擊者植入惡意軟件並發佈。攻擊始於 5 月 27 日公開 Git 歷史中的管理金鑰;檔案雖約三小時後刪除,金鑰仍有效逾四個月,受感染產物約公開兩小時,Wiz 估計該時段有約 49,000 次下載。

    推薦理由:文章梳理未撤銷管理金鑰如何一路導致套件遭植入惡意軟件,並整理先撤銷憑證、限制自動化權限等防護做法。

  2. 創業邦80

    Anthropic披露8954億美元算力承諾,並研究改造舊燃煤發電廠作數據中心

    Anthropic在更新後招股書披露,截至9月底,採購及租賃形成的累計支出承諾達8954億美元,主要涉及算力和基礎設施。約4475億美元預計在2030年12月31日前兑現,未來12個月到期約698億美元;這些承諾不等同有息債務,也不代表須立即全額付款。公司亦直接採購晶片和冷卻系統,並研究把舊燃煤發電廠及工業設施改建為數據中心,以擴大算力資源。

    推薦理由:文章把 8954 億美元的多年期算力承諾與現金及短期投資、未來一年到期額對照,呈現擴張計劃背後的付款責任與履約風險。

  3. DEV Community77

    Binance 案件後,如何安全執行帶回家編碼測試並識別假招聘者警號

    Renan Santos 整理了安全處理帶回家編碼測試的指南,建議先核實招聘者、檢查程式碼庫,並只在隔離環境中執行。Binance 在 11 月 3 日的報告稱,2026 年 9 月一名工程師在假招聘面試中下載的作業於設定時執行惡意程式;該公司將失竊金額估計為 $6.3 to $6.4 billion。文中另列出檢查安裝腳本與依賴套件、避免提供真實憑證,以及發現已執行惡意程式後的處置建議。

    推薦理由:文章將假招聘者核實、程式碼庫檢查、隔離執行及事後處理整理為一套安全流程,涵蓋從下載測試到發現已執行惡意程式的應對。

  4. The Next Platform79

    Marvell 宣佈以 $80 billion 股票收購 Lumentum,交易企業價值達 $115 billion

    Marvell 宣佈以 $80 billion 股票收購 Lumentum,並承擔其債務,使交易企業價值達 $115 billion。文章指出,數據中心光子激光訂單已排滿至 2029 年初,收購有助 Marvell 佈局光互連及客戶定製 CPU、XPU 業務。交易預計於 2028 年上半年完成,文章亦提及中國反壟斷審查及歐洲監管介入的可能性。

    推薦理由:文章以數據中心光互連的激光供應瓶頸為背景,分析 Marvell 收購 Lumentum 與其客戶定製晶片業務及光互連佈局的關係。

  5. SemiAnalysis 長文 RSS78

    SpaceX 將成為全球最大 AI 雲端平台

    SemiAnalysis 指,SpaceX 多個新舊據點目前有 3.6GW 數據中心容量正在施工,並將 2027 年容量估算上調至約 13GW;作者認為目標可行,並已識別逾 9GW 容量。報告梳理 Colossus 2 和 Starbase 的擴建及供電方案,並認為 TeraFab 可能設有數據中心。Colossus 2 正安裝 5.9GWh BESS。

    推薦理由:文章將各站點施工進度、電力方案與容量估算並列,呈現 SpaceX 推進 2027 年大規模數據中心建設的規模及關鍵約束。