跳到正文
目前篩選:一手
7月2日週四
  1. Runway:News(網頁)54

    Runway 如何將夜間閒置推理 GPU 調配至研究集羣

    Runway 建立名為 deckard 的容量控制器,按預先計算的時間窗口,在非繁忙時段將閒置推理 GPU 從生產集羣調配至研究集羣,並在早上需求高峯前調回。控制器使用過去 7 天每分鐘的 SQS 請求到達數,透過邊際收益分配 GPU,並以離散事件模擬檢查各工作負載的 p98 等待時間目標。

7月1日週三
6月30日週二
  1. SleekFlow · 香港 AI 應用30

    AI Sales 智慧銷售攻略:香港企業如何打造 24/7 全自動銷售架構

    香港企業可透過以 WhatsApp 為核心的 AI Sales 架構,自動處理入站資格篩選、行為觸發跟進、銷售對話分析、資料同步及對話內付款。文章建議按 B2C 零售或 B2B 專業服務配置 SleekFlow、HubSpot、Make.com 等工具,並由 AI 負責標準流程、人工處理高價值判斷與客戶關係。原文指出,約 24% 的 B2B 企業已部署具工作流驅動能力的 AI 系統。

  2. SleekFlow · 香港 AI 應用39

    AI CRM 系統:企業客戶關係管理轉型指南

    AI CRM 系統結合預測分析、生成式 AI 和自動化,協助企業識別高意向潛客、預警客戶流失,並生成情境化跟進內容。SleekFlow 作為 AI 智能通訊層,支援 WhatsApp 與 HubSpot 或 Salesforce 雙向同步,並提供對話摘要、情境化回覆及多代理架構。

6月27日週六
  1. Google Research61

    Google Research 為凍結權重的 Gemini Nano v3 加入 Multi-Token Prediction,加速 Pixel 端生成

    Google Research 已將 Multi-Token Prediction(MTP)架構部署至 Pixel 9 和 10 系列的 Gemini Nano v3,透過凍結主模型權重加快裝置端文字生成。

    推薦理由:文章對照整合式 MTP head 與獨立草稿模型,説明直接利用主模型狀態如何提升候選 token 準確度,並改善 Pixel 端的速度與記憶體效率。

6月26日週五
  1. Hugging Face Blog68

    用一條命令在 HF Jobs 上執行 vLLM 伺服器

    Hugging Face Blog 示範用一條命令在 HF Jobs 上以 vLLM 啟動私有、OpenAI-compatible 的 LLM 端點。內容提供 curl 和 Python OpenAI client 呼叫範例,並示範以 SSH、Gradio 及 Pi 延伸使用;每次請求須附上具該 Job 讀取權限的 HF token。

    推薦理由:文章把 HF Jobs、vLLM 與 OpenAI-compatible API 的部署、驗證和停止流程串成可複用命令,並説明私有端點的 token 權限與成本控制。

6月25日週四
  1. Google Research47

    以線性彈性快取優化雲端經濟效益

    Google Research 提出線性彈性快取,將頁面淘汰建模為 ski rental 問題,按即時工作負載動態調整快取容量,以降低快取管理的總擁有成本。在 Spanner 生產環境測試中,記憶體用量減少 15.5%,快取未命中僅增加 5.5%,總擁有成本約降低 5%,實際 I/O 成本影響僅 0.5%。

6月24日週三
  1. Mistral AI62

    Mistral AI 為 Connectors 新增管理、安全及除錯功能

    Mistral AI 為 Connectors 推出多項管理與安全功能,涵蓋工作區及組織層級的存取控制、具 connector scope 的 API keys、多帳户連接器,以及 MCP 連線除錯。

    推薦理由:這次更新把企業連接器的權限、執行身份與故障定位納入同一套控制,呈現智能體投入組織日常工作所需的治理環節。

6月23日週二
  1. Mistral AI60

    Mistral OCR 4 發佈,新增文件區塊定位、分類與信心分數

    Mistral AI 發佈文件解析模型 Mistral OCR 4,除提取文字外亦輸出邊界框、區塊類型和信心分數,並支援 170 種語言、10 個語言組別。獨立人工偏好評估的平均勝率為 72%,模型在 OlmOCRBench 得分 85.20;官方提醒自動基準存在評分侷限,建議以自有文件評估。

    推薦理由:文章列明 OCR 4 的結構化輸出和自動基準評分侷限,為企業按自身文件評估解析、檢索及資料管線提供具體參照。

6月19日週五
6月16日週二
  1. 香港科技園 · AI 產業及應用54

    香港科技園公司與SenseTime合作建設香港最大本地AI數據中心,目標2030年前達40,000P+算力

    香港科技園公司與SenseTime簽署合作備忘錄,分階段建設香港最大本地AI數據中心,目標在2030年前達到40,000P+算力。首期預計於今年年底完成,中心將配備多種國產GPU計算集羣,支援模型訓練、推理及大規模應用部署。合作亦計劃為金融、教育、醫療及城市治理等領域提供算力支援。

6月15日週一
6月11日週四
6月10日週三
6月9日週二
6月5日週五
  1. Hugging Face Blog62

    NVIDIA 發佈 Nemotron 3.5 Content Safety,整合多模態安全判定與自訂政策

    NVIDIA 發佈 Nemotron 3.5 Content Safety,將多模態輸入、多語言覆蓋、自訂企業政策與可審計推理整合至單一 4B 模型。模型基於 Google Gemma 3 4B IT,明確訓練覆蓋 12 種語言,並承接其約 140 種語言的 zero-shot 泛化;可選 THINK mode 會輸出推理軌跡。

    推薦理由:Nemotron 3.5 將多模態判定、自訂政策和可審計推理整合於 4B 模型,並附訓練資料集,提供企業安全審核的部署參考。

6月2日週二
  1. Hugging Face Blog63

    Holo3.1 系列發佈,擴展電腦操作至手機並提供本地量化權重

    H Company 發佈 Holo3.1 電腦操作模型系列,擴展至網頁、桌面及手機環境,並提供本地推理量化權重。AndroidWorld 上,35B-A3B 模型的分數由 67% 升至 79.3%,4B 和 9B 版本由 58% 升至 72%。

    推薦理由:文章同時列出不同尺寸、量化格式,以及 AndroidWorld 和 DGX Spark 數據,讀者可據此比較本地部署的性能與速度取捨。

6月1日週一
  1. OpenAI News68

    OpenAI 前沿模型與 Codex 現已在 AWS 正式提供

    OpenAI 宣佈,其前沿模型與 Codex 現已在 AWS 正式提供,為企業提供透過既有 AWS 環境使用 OpenAI 的途徑。企業可沿用熟悉的 AWS 控制措施及採購流程,並加快由評估走向生產。

    推薦理由:這項可用性變化讓企業沿用既有 AWS 環境、控制措施及採購流程接入 OpenAI,並加快由評估推進至生產。

5月29日週五
5月28日週四
  1. Google Research46

    Google 透過零信任聚合實現私隱分析

    Google將新型密碼學聚合協定與可信執行環境(TEE)結合,為私隱分析建立零信任防護,確保Google只能取得匿名化的羣體彙總洞察。新協定讓裝置以單一訊息提交資料,免須在多輪互動期間持續在線;密碼學層確保個人原始資料不會在任何伺服器記憶體中暴露或重建。

5月25日週一
  1. Hugging Face Blog60

    AI 智能體中的 Harness、Scaffold 等術語解析

    Hugging Face 梳理 AI 智能體常見術語,解釋 Model、Scaffolding、Harness、Agent 等概念及其區別。文中將 Harness 定義為調用模型、處理工具調用及決定何時停止的執行層,Scaffolding 則涵蓋系統提示詞、工具描述、回應解析和上下文管理等行為定義層。

    推薦理由:文章以模型、Scaffolding、Harness 與 Agent 的分工建立實用心智模型,並把這套脈絡延伸至訓練術語,便於理解智能體系統的組成與相關討論。

5月18日週一
  1. Runway:News(網頁)50

    DTensor 為何令分散式訓練困難:正確性與抽象成本

    Runway 分析 DTensor 在分散式訓練中的取捨,指出它以張量放置資訊和自動重新分佈保障梯度正確性,但也帶來執行時開銷。同一訓練堆疊中,一次注意力模組重構令某次訓練的 MFU 下跌約 8 個百分點;穩定初期吞吐量波動達 ±22%,最差工作負載在編譯穩定期間 GPU 閒置 18% 至 27%。

5月13日週三
5月11日週一
5月8日週五
5月5日週二
5月4日週一
  1. Runway:News(網頁)58

    Runway 以 NCCLBack 將模型冷啟動加速 60 倍

    Runway 以 NCCLBack 讓 GPU 推理工作節點從已載入權重的對等節點接收模型權重,將冷啟動時間由數分鐘縮至數秒,快 60 倍。系統每天節省 347TB 傳輸量及 6,500min 推理時間。它透過 Redis 尋找並確認對等節點,再以 NCCL 廣播權重、抽樣雜湊驗證完整性;文章亦整理了生產環境中的失敗模式及回退處理。

4月29日週三
4月27日週一
  1. Mistral AI66

    Mistral AI 開放 Workflows 公開預覽,提供企業 AI 編排層

    Mistral AI 開放企業 AI 編排層 Workflows 公開預覽,讓開發者以 Python 編寫流程,並可發佈至 Le Chat 供組織成員觸發。Workflows 提供持久執行、Studio 逐步追蹤及人工審批暫停與恢復,並支援將 workers 和資料處理部署在企業自有環境。

    推薦理由:Workflows 將持久執行、Studio 追蹤與人工審批整合,並支援 workers 在企業自有環境運行,呈現企業 AI 流程走向生產的部署設計。