跳到正文

產品更新

AI 產品與應用的功能上新、改版與商業化動態——誰家的產品變強了、變貴了、能用了。

382條精選相關主題模型發佈行業動態AI 編碼

最新精選

第 321–340 條 · 共 382 條
2024年7月18日週四
  1. Hugging Face Blog63

    Hugging Face TGI 推出 Multi-LoRA 服務,部署一次即可服務 30 個模型

    Hugging Face 的 TGI 推出 Multi-LoRA serving,讓單一基礎模型可按請求動態選用不同 LoRA adapter,以一個部署服務多個微調模型。文中以 mistralai/Mistral-7B-v0.1 示範,載入 30 個 adapter 時 VRAM 增幅為 3%;實際可載入數量取決於 GPU 資源和所部署模型。

    推薦理由:文章以 TGI 的部署及調用示例,展示單一基礎模型按請求選用不同 LoRA adapter 的做法,並比較多模型部署的成本與擴展管理。

2024年7月10日週三
  1. Hugging Face Blog65

    Hugging Face 與 KerasHub 宣佈共用模型保存格式

    Hugging Face 與 KerasHub 宣佈共用模型保存格式,讓 Hugging Face Hub 上部分 Transformers 模型可直接載入 KerasHub。首批涵蓋 Gemma 1、Gemma 2、Llama 3 和 PaliGemma;KerasHub 可透過 TensorFlow、JAX 或 PyTorch 後端運行這些模型。

    推薦理由:共享模型保存格式讓受支援架構的 Transformers 模型可直接載入 KerasHub,並透過 TensorFlow、JAX 或 PyTorch 後端運行,呈現跨框架使用的實際路徑。

2024年6月12日週三
  1. Hugging Face Blog63

    Hugging Face 在 TRL 推出 RLOO Trainer,作為 PPO 的線上 RLHF 替代方案

    Hugging Face 在 TRL 引入 RLOO Trainer,這是一種較 PPO 更易實作、較省 GPU 記憶體的線上 RLHF 訓練方法。測試顯示,RLOO 約比 PPO 少用 50–70% vRAM,1B 模型快 2 倍、6.9B 模型最高快 3 倍;6.9B checkpoint 的 GPT4 評審偏好率為 78.7%(k=2)。

    推薦理由:文章對照 RLOO 與 PPO 的 GPU 記憶體用量、訓練速度及回答勝率,並披露 bf16 下 RLOO 有較多批次資料的梯度被清零。

2024年6月6日週四
  1. Hugging Face Blog64

    Artificial Analysis 推出文生圖模型排行榜與 Image Arena

    Artificial Analysis 推出文生圖模型排行榜與 Image Arena,以超過 45,000 次人類圖像偏好計算模型 ELO 排名。排行榜收錄 Midjourney、DALL·E、Stable Diffusion、Playground 等開源及專有模型,評測為每個模型生成超過 700 張圖像。用户可在 Image Arena 投票,投滿 30 票後查看個人化模型排名。

    推薦理由:排行榜以超過 45,000 次人類圖像偏好計算 ELO,並涵蓋開源與專有模型,為比較不同文生圖模型提供同一參照。

2024年6月5日週三
  1. Mistral AI67

    Mistral AI 推出模型客製化方案,提供三種微調入口

    Mistral AI 在 la Plateforme 推出模型客製化方案,提供自有基礎設施微調 SDK、無伺服器微調服務和客製訓練三種入口。開源工具 mistral-finetune 採用 LoRA 訓練範式;平台微調服務目前支援 Mistral 7B 和 Mistral Small,並使用 LoRA adapters,以保留基礎模型知識及提升服務效率。

    推薦理由:Mistral AI 同時提供開源微調 SDK、la Plateforme 無伺服器微調服務及客製訓練,呈現不同基礎設施與資料需求下的模型調整途徑。

2024年5月21日週二
2024年5月16日週四
2024年5月13日週一
  1. Hugging Face Blog70

    Hugging Face 發佈 Transformers Agents 2.0,新增兩種可迭代的智能體

    Hugging Face 發佈 Transformers Agents 2.0,新增 ReactCodeAgent 和 ReactJsonAgent,能根據過往觀察迭代。框架以簡潔、模組化,以及工具和提示詞透明為設計目標。使用 Llama-3-70B-Instruct 的智能體在完整 GAIA 基準中排名第 4,超越多個基於 GPT-4 的智能體。

    推薦理由:文中比較 Code 與 JSON 智能體在不同模型上的表現,並展示 Llama-3-70B-Instruct 智能體於 GAIA 的名次,可作為評估 Agent 架構與模型搭配的具體參照。

2024年5月3日週五
2024年4月24日週三
  1. OpenAI News77

    GPT-4 API 正式開放,OpenAI 公佈 Completions API 舊模型棄用計劃

    OpenAI 宣佈 GPT-4 API 正式開放使用,並表示 GPT-3.5 Turbo、DALL·E 和 Whisper APIs 亦已正式開放。OpenAI 同時公佈 Completions API 舊模型的棄用計劃,稱相關舊模型將於 2024 年初退役。

    推薦理由:公告並列 GPT-4 API 等服務的正式可用狀態與 Completions API 舊模型退役安排,讀者可據此辨識不同 API 的變更範圍。

2024年4月10日週三
  1. Hugging Face Blog64

    Hugging Face 推出 Deploy on Google Cloud,讓開放模型可部署至 Vertex AI 和 GKE

    Hugging Face 推出 Deploy on Google Cloud 整合,讓用户可把 Hub 上的開放模型部署至 Vertex AI 或 GKE。所有帶有「text-generation-inference」標籤的模型均獲支援;Vertex Model Garden 提供數百個熱門開放 LLM 的即用測試硬件配置。

    推薦理由:這項整合串起 Hugging Face 模型探索與 Google Cloud 部署,並為數百個熱門開放 LLM 提供測試硬件配置,呈現更直接的雲端部署流程。

2024年4月1日週一
  1. OpenAI News71

    OpenAI 讓用户無須註冊即可開始使用 ChatGPT

    OpenAI 讓用户無須註冊即可開始使用 ChatGPT。此舉旨在讓更多人更容易體驗 AI 帶來的益處。

    推薦理由:這項免註冊安排聚焦 ChatGPT 的使用入口,呈現 OpenAI 如何降低初次體驗 AI 的前置門檻,並讓更多人更容易接觸產品。

2024年2月19日週一
2024年2月13日週二
2024年2月8日週四
2024年1月10日週三
2023年12月11日週一
2023年11月6日週一
2023年9月25日週一