最新精選 第 321–340 條 · 共 382 條 2024年7月18日 週四
2024年 7月18日 星期四
08:00 Hugging Face Blog · 08:00 精選AI 評分 63 63 Hugging Face 的 TGI 推出 Multi-LoRA serving,讓單一基礎模型可按請求動態選用不同 LoRA adapter,以一個部署服務多個微調模型。文中以 mistralai/Mistral-7B-v0.1 示範,載入 30 個 adapter 時 VRAM 增幅為 3%;實際可載入數量取決於 GPU 資源和所部署模型。
推薦理由:文章以 TGI 的部署及調用示例,展示單一基礎模型按請求選用不同 LoRA adapter 的做法,並比較多模型部署的成本與擴展管理。
2024年7月10日 週三
2024年 7月10日 星期三
08:00 Hugging Face Blog · 08:00 精選AI 評分 65 65 Hugging Face 與 KerasHub 宣佈共用模型保存格式,讓 Hugging Face Hub 上部分 Transformers 模型可直接載入 KerasHub。首批涵蓋 Gemma 1、Gemma 2、Llama 3 和 PaliGemma;KerasHub 可透過 TensorFlow、JAX 或 PyTorch 後端運行這些模型。
推薦理由:共享模型保存格式讓受支援架構的 Transformers 模型可直接載入 KerasHub,並透過 TensorFlow、JAX 或 PyTorch 後端運行,呈現跨框架使用的實際路徑。
2024年6月12日 週三
2024年 6月12日 星期三
08:00 Hugging Face Blog · 08:00 精選AI 評分 63 63 Hugging Face 在 TRL 引入 RLOO Trainer,這是一種較 PPO 更易實作、較省 GPU 記憶體的線上 RLHF 訓練方法。測試顯示,RLOO 約比 PPO 少用 50–70% vRAM,1B 模型快 2 倍、6.9B 模型最高快 3 倍;6.9B checkpoint 的 GPT4 評審偏好率為 78.7%(k=2)。
推薦理由:文章對照 RLOO 與 PPO 的 GPU 記憶體用量、訓練速度及回答勝率,並披露 bf16 下 RLOO 有較多批次資料的梯度被清零。
08:00 Hugging Face Blog · 08:00 精選AI 評分 64 64 Artificial Analysis 推出文生圖模型排行榜與 Image Arena,以超過 45,000 次人類圖像偏好計算模型 ELO 排名。排行榜收錄 Midjourney、DALL·E、Stable Diffusion、Playground 等開源及專有模型,評測為每個模型生成超過 700 張圖像。用户可在 Image Arena 投票,投滿 30 票後查看個人化模型排名。
推薦理由:排行榜以超過 45,000 次人類圖像偏好計算 ELO,並涵蓋開源與專有模型,為比較不同文生圖模型提供同一參照。
17:00 Mistral AI · 17:00 精選AI 評分 67 67 Mistral AI 在 la Plateforme 推出模型客製化方案,提供自有基礎設施微調 SDK、無伺服器微調服務和客製訓練三種入口。開源工具 mistral-finetune 採用 LoRA 訓練範式;平台微調服務目前支援 Mistral 7B 和 Mistral Small,並使用 LoRA adapters,以保留基礎模型知識及提升服務效率。
推薦理由:Mistral AI 同時提供開源微調 SDK、la Plateforme 無伺服器微調服務及客製訓練,呈現不同基礎設施與資料需求下的模型調整途徑。
2024年5月21日 週二
2024年 5月21日 星期二
08:00 Hugging Face Blog · 08:00 精選AI 評分 66 66 Hugging Face 宣佈把 AMD Instinct MI300 整合至平台,透過 Transformers、text-generation-inference 等工具部署模型時無需改動程式碼。
推薦理由:文章比較 Azure MI300X 與 MI250 執行 Llama 3 70B 推理和微調的結果,並公開基準程式碼,便於核對性能差異及復現測試。
2024年5月16日 週四
2024年 5月16日 星期四
23:00 OpenAI News · 23:00 精選AI 評分 66 66 OpenAI 改進 ChatGPT 數據分析功能,加入表格和圖表互動能力。用户可直接從 Google Drive 和 Microsoft OneDrive 添加檔案。
推薦理由:更新將表格與圖表互動、直接從 Google Drive 和 Microsoft OneDrive 添加檔案納入 ChatGPT 數據分析,呈現這次功能改進涵蓋的操作範圍。
2024年5月13日 週一
2024年 5月13日 星期一
08:00 Hugging Face Blog · 08:00 精選AI 評分 70 70 Hugging Face 發佈 Transformers Agents 2.0,新增 ReactCodeAgent 和 ReactJsonAgent,能根據過往觀察迭代。框架以簡潔、模組化,以及工具和提示詞透明為設計目標。使用 Llama-3-70B-Instruct 的智能體在完整 GAIA 基準中排名第 4,超越多個基於 GPT-4 的智能體。
推薦理由:文中比較 Code 與 JSON 智能體在不同模型上的表現,並展示 Llama-3-70B-Instruct 智能體於 GAIA 的名次,可作為評估 Agent 架構與模型搭配的具體參照。
08:00 Hugging Face Blog · 08:00 精選AI 評分 65 65 Hugging Face 引入 Artificial Analysis LLM Performance Leaderboard,集中比較逾 100 個無伺服器 LLM API 端點的品質、價格與速度。
推薦理由:榜單把逾 100 個無伺服器 LLM API 端點的品質、價格與速度指標集中呈現,並以多種提示長度和並行查詢組合供工程師比較。
2024年4月24日 週三
2024年 4月24日 星期三
08:00 OpenAI News · 08:00 精選AI 評分 77 77 OpenAI 推出 ChatGPT API 和 Whisper API。
08:00 OpenAI News · 08:00 精選AI 評分 77 77 OpenAI 宣佈 GPT-4 API 正式開放使用,並表示 GPT-3.5 Turbo、DALL·E 和 Whisper APIs 亦已正式開放。OpenAI 同時公佈 Completions API 舊模型的棄用計劃,稱相關舊模型將於 2024 年初退役。
推薦理由:公告並列 GPT-4 API 等服務的正式可用狀態與 Completions API 舊模型退役安排,讀者可據此辨識不同 API 的變更範圍。
2024年4月10日 週三
2024年 4月10日 星期三
08:00 Hugging Face Blog · 08:00 精選AI 評分 64 64 Hugging Face 推出 Deploy on Google Cloud 整合,讓用户可把 Hub 上的開放模型部署至 Vertex AI 或 GKE。所有帶有「text-generation-inference」標籤的模型均獲支援;Vertex Model Garden 提供數百個熱門開放 LLM 的即用測試硬件配置。
推薦理由:這項整合串起 Hugging Face 模型探索與 Google Cloud 部署,並為數百個熱門開放 LLM 提供測試硬件配置,呈現更直接的雲端部署流程。
08:00 OpenAI News · 08:00 精選AI 評分 71 71 OpenAI 讓用户無須註冊即可開始使用 ChatGPT。此舉旨在讓更多人更容易體驗 AI 帶來的益處。
推薦理由:這項免註冊安排聚焦 ChatGPT 的使用入口,呈現 OpenAI 如何降低初次體驗 AI 的前置門檻,並讓更多人更容易接觸產品。
2024年2月19日 週一
2024年 2月19日 星期一
08:00 Hugging Face Blog · 08:00 精選AI 評分 60 60 Hugging Face 的 PEFT 新增多種面向 LoRA adapter 的合併方法,使用者可透過 `add_weighted_adapter()` 試驗不同組合。
推薦理由:文章逐項比較 cat、linear、SVD、TIES 與 DARE 等 LoRA 合併方法,並整理 rank、density 和 GPU 記憶體需求對實作選擇的影響。
2024年2月13日 週二
2024年 2月13日 星期二
08:00 OpenAI News · 08:00 精選AI 評分 61 61 OpenAI 正測試 ChatGPT 記住使用者對話內容的能力,讓未來對話更有幫助。OpenAI 表示,使用者可以控制 ChatGPT 的記憶。
推薦理由:公告説明 ChatGPT 記憶功能的測試用途,並指出使用者可以控制記憶,呈現功能目標與控制權安排。
08:00 Hugging Face Blog · 08:00 精選AI 評分 63 63 Hugging Face 宣佈 TGI 自 1.4.0 起提供兼容 OpenAI Chat Completion API 的 Messages API,並將其提供於 Inference Endpoints。
推薦理由:文中以 Python、JavaScript、LangChain 和 LlamaIndex 示範如何沿用 OpenAI 相容介面接入開放模型,並交代 function calling 等限制。
2024年1月10日 週三
2024年 1月10日 星期三
16:00 OpenAI News · 16:00 精選AI 評分 71 71 OpenAI 介紹 GPT Store。
2023年12月11日 週一
2023年 12月11日 星期一
15:00 Mistral AI · 15:00 精選AI 評分 72 72 Mistral AI 開放 La Plateforme 首批平台服務的 Beta,提供三個文字生成聊天端點及一個嵌入端點,並支援透過 API 呼叫。
推薦理由:平台把不同成本與效能取捨的生成端點,連同嵌入服務及 API 接入放在同一入口,呈現其面向開發者部署的服務組合。
2023年11月6日 週一
2023年 11月6日 星期一
16:00 OpenAI News · 16:00 精選AI 評分 80 80 OpenAI 推出 GPTs,用户現在可以建立結合指令、額外知識與任意技能組合的自訂版 ChatGPT。
推薦理由:原文把 GPTs 的自訂方式拆為指令、額外知識與技能組合,讓讀者掌握建立自訂版 ChatGPT 的主要配置維度。
2023年9月25日 週一
2023年 9月25日 星期一
15:00 OpenAI News · 15:00 精選AI 評分 77 77 ChatGPT 現可看、聽及説話。
上一頁 1 … 15 16 17 18 19 20 下一頁