Runway Model Router 成本與品質評測
Runway以250個圖生影片提示詞評估 Model Router,品質優先設定的可用率為77%、每段成本為$1.28,Seedance 2.5 基準則為78%及$1.80。設置每次生成$1.00上限後,可用率為74%、每段成本為$0.61;成本優先設定則為38%和$0.30。
Runway以250個圖生影片提示詞評估 Model Router,品質優先設定的可用率為77%、每段成本為$1.28,Seedance 2.5 基準則為78%及$1.80。設置每次生成$1.00上限後,可用率為74%、每段成本為$0.61;成本優先設定則為38%和$0.30。
Microsoft 宣佈 Physical AI Toolchain 新增機械人推理卸載功能,支援透過 Kubernetes 工具把 AI 工作負載分配至機械人、邊緣 GPU 和雲端。
推薦理由:文章將實機工作負載的效能、電池續航與算力配置放在同一脈絡比較,並介紹以 Kubernetes 分配推理的工具,呈現卸載方案的收益與代價。
GPT-6 改進提示詞快取,提升快取命中率,並加入新診斷功能、明確斷點,以及可降低延遲和成本的控制項。
Hugging Face 為 Transformers 加入 GGUF 支援,讓用户可透過熟悉的 Transformers API 在本機載入量化檢查點並生成內容。
推薦理由:文章示範透過 Transformers API 從 Hub 載入 GGUF 量化檢查點,並以 Q4_K_M 等選項説明檔案大小與精度的取捨。
Runway 推出統一定價,讓已購買的 credits 可在網頁版應用程式及 Runway Dev 共用,企業管理員亦可在同一處管理 credits 和用戶。新企業在 2026-12-31 前簽約可獲額外 10% credits;現有企業推薦合適的 AI 應用產品負責人並在限期前完成購買,可獲 5,000 credits 及 1 天 Applied AI Architect 支援。
博智感知交互研究中心(CPII)連續第三年與香港電台合作,在2026年《施政報告》現場直播中部署升級版「即時語音轉摘要會議助手」,即時提供字幕、分節逐字稿及政策摘要。新版本以經錯字修正的完整句子生成摘要,並擴展日語、俄語、印地語、法語、韓語、西班牙語及葡萄牙語支援。
Runway 為即時影片生成設計並測試了同步審核系統,模型生成畫面時會同步送交審核,發現有問題的內容便會停止串流。系統採用 Zentropi 的 CoPE-B,建基於 Gemma-4-26B-A4B-it 的 LoRA adapter,每次推理啟用 3.8B 參數;安全審核目前平均耗時少於 0.5 秒。影片可供下載或分享前,Runway 仍會進行最終安全檢查。
Mistral 與 Cloudera 建立合作,將 Mistral 模型整合至 Cloudera 混合數據平台,讓企業可在自有環境部署推理,並以專有數據訓練自訂模型。模型可部署於私有及公有雲、本地端及完全隔離環境,企業亦可保有數據與所生成智能的控制權。模型可按企業需求調整並基於開放權重持有,訓練和推理可在客户選定的基礎設施及司法管轄區內進行。
Mistral 宣佈完成 €3 billion D 輪融資,投後估值超過 €21 billion,並將藉此擴大前沿研究、訓練算力及基礎設施。本輪由 Samsung Electronics 領投,Scaleup Europe Fund(由 EQT 管理)與現有投資者 PSG Equity 共同領投;Mistral 稱這是歐洲科技公司完成過的最大股權融資。
推薦理由:融資不只用於前沿研究和訓練算力,也涵蓋基礎設施與商業拓展,呈現 Mistral 主權 AI 全棧路線的擴張重點。
Hugging Face 推出開源工具 funes,讓 Claude Code、Codex、pi 和 Hermes 共用可檢索的持久記憶。funes 預設在本機索引、嵌入及重排工作記錄,檢索時返回原文並標示智能體、時間戳、工作階段和回合;記憶亦可發布至預設私有的 Hugging Face 資料集,供其他機器使用。
推薦理由:funes 將不同編碼智能體的工作記錄轉為本機可檢索記憶,並保留原始片段及來源脈絡,展示跨會話延續決策依據的實作方式。
Gilbert + Tobin 律師事務所以 CEO 主導的承諾、嚴謹治理及人類問責,將 ChatGPT Enterprise 與 Codex 擴展至全所。內容聚焦於這些做法如何支持 AI 規模化。
Hugging Face 推出 @huggingface/kernels JavaScript loader,並在 Hub 發布首批 207 個 WebGPU kernels。
推薦理由:文章將 207 個 WebGPU kernels 的版本化操作契約、正確性測試與基準案例一併呈現,並提供 Apple M4 上與 ORT WebGPU 的比較數據。
Polimill 建構日本新一代公共 AI 基礎設施。該公司運用 OpenAI GPT 模型及 Codex,協助地方自治體搜尋和運用行政知識,並加快開發。
OpenAI CFO Sarah Friar 闡述晶片、算力、模型與產品的進步如何相互疊加,帶來更實用、規模更大且成本更低的智能。
Jalapeño 是 OpenAI 自研的 AI 推理晶片,首批結果顯示其推理速度與能效領先業界。它為現代模型提供更快、能效更高的 AI 推理,並帶來更高吞吐量與更低延遲。
Gradio 內置的 gr.Workflow 可把 AI 工作流表示為由帶類型節點組成的圖,並提供可拖放、逐節點執行及查看中間結果的畫布。節點可執行 Python 函數、調用 Hugging Face Inference Providers 模型或其他 Gradio Space,也可處理 Hub 數據集資料。
推薦理由:文章以多個可執行示例展示如何把模型、Python 函數與 Gradio Space 串成工作流,並讓節點輸出直接成為 API。
Mistral AI 與 HUMAIN 宣佈戰略合作,將在沙特阿拉伯及區域內推進 AI 基礎設施、先進模型開發和 AI 解決方案部署。雙方將開發並本地化先進 AI 模型,初期聚焦網絡安全和語音,並計劃開發阿拉伯語表現出色的前沿模型;合作規模達數億歐元。Mistral AI 將探討使用 HUMAIN 的數據中心基礎設施,雙方亦計劃在沙特制定面向受監管行業的共同市場策略。
Hugging Face 以 Inference Endpoints、Jobs 和 Storage Buckets 建立 Papers with Code 混合搜尋系統,為來自 arXiv 和 Daily Papers 的超過 110,000 篇論文維護嵌入向量。
推薦理由:文章拆解離線批次建向量與線上查詢的分工,並説明端點冷啟動時如何回退全文檢索,呈現混合搜尋進入生產環境的工程取捨。
Sentence Transformers v6.0 新增 MultiVectorEncoder,支援 ColBERT 式多向量檢索。文中示範載入 PyLate 與 Stanford-NLP ColBERT checkpoint、接入檢索索引,以及以同一 API 執行 ColPali 視覺文件檢索。
推薦理由:文章對照 LateOn 與 DenseOn 在 NanoBEIR 13 個資料集的結果,並以索引體積數據呈現多向量檢索表現與儲存成本的取捨。
數字政策辦公室舉辦「『AI+』政務:業界如何助力政府重塑公共服務思維」交流活動,邀請立法會議員及業界代表探討 AI 在政務環節的應用、項目落地及公共服務創新。AI效能提升組已促成及落實首批涉及13個部門共30個效能提升項目,務求於今明兩年陸續落實應用。
RingCentral 使用 ChatGPT Work 和 Codex 加速 AI 產品開發,並集中工程與營運部門的營運情報。相關應用涵蓋工程至營運。
OpenAI 致函德州州長 Greg Abbott,闡述其對在德州負責任地發展 AI 基礎設施的承諾。信中支持可靠、透明且惠及德州居民的增長。
HSP GRUPPE 使用 ChatGPT Enterprise 提升生產力和工作質素,並為税務諮詢及客户服務創造更多容量。
AI 電郵回覆可透過提供來郵內容、回覆重點及語言語調等資料,生成更切合情境的草稿,並由人手審閲後發送。SleekFlow 提供共享收件箱、AI 草稿、自動分流及跨渠道客戶紀錄;使用 AI 處理客戶個人資料時,企業亦須留意數據安全及私隱合規。
Paramount 首席技術官 Phil Wiser 主張以 AI 拉近創意願景與作品呈現的距離,推動員工先體驗新能力,而非先講技術。Paramount 兩三年前已讓有意使用 Runway 的員工使用,並配合培訓和內部交流社羣。評估成效應看業務成果,而非 token 用量或登入次數。
Runway 推出 Runway Media Router,為 Runway Dev 的每項請求自動選擇合適的影片、圖像或音訊模型,並按設定的成本、品質和延遲偏好,在符合條件的模型中進行路由。
生成式 AI 可按用戶輸入生成文字、圖像、音頻或程式碼,SleekFlow 的 AgentFlow 則讓 B2C 企業在多個通訊渠道部署經品牌知識庫訓練的 AI Agent。AgentFlow 原生整合 Shopify、HubSpot 及 Salesforce;SleekFlow 客戶數據顯示,導入 AI Agent 自動化流程的企業平均轉化率提升 6 倍,回覆速度改善達 95%。
Diffusers 現已原生支援 Nunchaku Lite 的 4-bit 擴散模型推理,預量化檢查點可用 `from_pretrained()` 載入,無須獨立推理引擎或本機編譯 CUDA。
推薦理由:文章説明 Nunchaku Lite 在 Diffusers 的原生載入方式,並以 RTX PRO 6000 基準量化呈現延遲與顯存變化。
Google 在 DOE Genesis Mission Summit 2026 宣佈,將提供 $40 million 的 AI tokens 和雲端額度,支持 Genesis Mission 研究人員。
推薦理由:承諾同時涵蓋科學 AI 工具與 Gemini for Government 一年使用權,並附有顯微鏡校準時間及手動步驟的前後數據,可見資源投入如何落到實驗室工作流程。
NTT DATA Group 使用 ChatGPT Enterprise 和 Codex,協助 9,000 名員工自動化工作,並將事故分析縮短至 30 分鐘。該集團亦擴大安全採用 AI 的規模。
HKT 計劃推出超低延遲 3.2Tbps AI 數據中心互連(DCI)超級高速公路,連接香港多個數據中心的運算資源,支援 AI 訓練和推理。服務由現有的 800Gbps AI Superhighway 升級,採用中空芯光纖,延遲較傳統光纖低約 30%。首階段連接落馬洲河套區至將軍澳,目標於 2026 年底完成。
Deutsche Telekom 正與 OpenAI 推進轉型,邁向 AI 原生電訊商,並重塑客户服務、員工工作流程和網絡營運。這項轉型亦關乎語音的未來。
Hugging Face Blog 的《PyTorch 效能分析》第 3 篇以 profiler traces 對照手寫注意力與 PyTorch SDPA 各後端的執行情況。
推薦理由:文章對照 CPU 與 GPU trace,展示如何從 kernel 數量、資料搬移及 CPU 開銷,辨認注意力實作的效能收益與成本。
Runway 開源 AVTensor,一款以 Rust 編寫的媒體解碼器,可在單次解封裝中同步解碼音訊和影片,讓兩條串流共用時間起點。在訓練數據載入基準中,以直接從物件儲存串流取代先下載再解碼,令 100 batches 的處理時間由 176 秒降至 122 秒,約快 30%;生產音訊與影片模型訓練的 MFU 則較 torchcodec 流程高約 1.8 個百分點。
Hugging Face 更新 vLLM 的 Transformers 建模後端,令多種相容 LLM 架構的推理吞吐量達到或超過 vLLM 手寫原生實作。測試涵蓋 Qwen3-4B 單 GPU、Qwen3-32B 張量並行,以及 Qwen3-235B-A22B-FP8 MoE 在同一 8×H100 節點上的數據並行與專家並行,三者均達到或超越原生實作吞吐量。
推薦理由:文章以三種不同規模及並行配置的 Qwen3 模型對照 vLLM 手寫實作,並説明 torch.fx 分析與運行時融合如何使相容模型達到原生推理速度。
Hugging Face 與 Amazon SageMaker AI 推出深連結整合,讓開發者可從受支援的模型頁面一鍵進入 SageMaker Studio 的微調或部署流程,並預載所選模型。新流程會在數秒內自動建立已配置權限的 Studio 網域;Studio 亦會顯示 G5、G6 GPU 配額的可用情況。
Hugging Face 與 Microsoft 將每週更新的精選開放權重模型目錄加入 Microsoft Foundry Model Catalog,並可一鍵部署至 Foundry Managed Compute。
推薦理由:文章梳理模型篩選、權重預置和執行環境掃描的上架流程,説明企業如何在私有網絡內部署而毋須連出 Hugging Face Hub。
MUFG 使用 ChatGPT Enterprise 建設 AI 原生組織,改善工作流程,並大規模提供 AI 驅動的金融服務。
Hugging Face Storage 現已成為 SkyPilot 的一級儲存後端,可透過 hf:// URL 將 Bucket 或 Hub 倉庫接入跨雲任務。
推薦理由:這項整合把模型與數據集的存放位置和 GPU 雲端選擇分開,並明確呈現讀取不收 egress 費與跨雲寫回仍需付費的成本差異。
Hugging Face 為 Kernels 項目推出重大更新,新增 Hub 的 kernel 倉庫類型(https://huggingface.co/kernels),並加入可信發佈者及程式碼簽署機制。