跳到正文
Mistral AI·· 2024-06-05精選AI 評分67

Mistral AI 推出模型客製化方案,提供三種微調入口

My Tailor is Mistral

AI 導讀

Mistral AI 在 la Plateforme 推出模型客製化方案,提供自有基礎設施微調 SDK、無伺服器微調服務和客製訓練三種入口。開源工具 mistral-finetune 採用 LoRA 訓練範式;平台微調服務目前支援 Mistral 7B 和 Mistral Small,並使用 LoRA adapters,以保留基礎模型知識及提升服務效率。

推薦理由

Mistral AI 同時提供開源微調 SDK、la Plateforme 無伺服器微調服務及客製訓練,呈現不同基礎設施與資料需求下的模型調整途徑。

正文 · 繁體中文

今天,我們在 la Plateforme 推出模型客製化服務,讓你的 AI 應用程式具備更佳效能、更快速度和細緻的編輯控制。現在,你可以輕鬆有效地調整 Mistral AI 模型以配合特定需求,減少大規模客製生成式 AI 模型所需的成本和專業知識。無論你想在自己的基礎設施上微調 Mistral AI 模型,還是使用我們專有的微調技術和代管微調服務,我們都能滿足你的需要。

微調是客製模型並提升大型語言模型(LLM)效能的強大技術,可為特定應用帶來更佳回覆、靈活度和效率。把較小型模型調整至適合特定領域或用途,便有機會媲美大型模型的表現,同時降低部署成本並提升應用程式速度。

在本機、la Plateforme 和團隊協作中客製 Mistral 模型

我們很高興宣佈,現在有三種方式可用來專門調整 Mistral AI 模型。

適用於 Mistral 模型的開源微調 SDK

對於想在自有基礎設施上微調 Mistral 開源模型的開發者,我們已推出 mistral-finetune,這是一套輕巧高效的微調程式碼。

我們的程式碼採用 LoRA 訓練方式,讓微調更省記憶體且效能出色。使用 mistral-finetune,你可在自己的基礎設施上微調我們所有開源模型,同時保留效能和記憶體效率。

la Plateforme 上的無伺服器微調服務

為了讓微調更容易,毋須處理基礎設施問題,我們在 la Plateforme 推出全新微調服務。服務採用 Mistral 獨有、經大量研發改良的微調技術,讓模型能快速且具成本效益地調整,並有效部署微調後的模型。這是我們向 AI 應用開發者提供先進科學方法使命的新一步。我們在底層使用 LoRA adapter,避免模型遺忘基礎模型的知識,同時支援高效服務。

圖 1:Mistral LoRA 微調比完整微調更有效率,同時在 Mistral 7B 和 Mistral Small 上取得相近表現。評估指標是經正規化的內部基準測試,與 MTBench 評估非常相似(以 1 作為 Mistral Small 完整微調的參考值)。

過去,企業微調模型需要投入大量資源。憑藉我們在這方面的專業知識,可以高效地提供微調服務,降低訓練和推論服務兩方面的成本。

目前,我們的微調服務支援 Mistral 7B 和 Mistral Small。使用其中一款模型的用戶可立即透過 API 有效地客製模型,以滿足特定需求。未來幾週,我們會在微調服務中加入新模型。

先到 la Plateforme 註冊即可開始,並參閲我們的指南和教學,瞭解如何以自訂 LLM 建立應用程式。

客製化訓練服務

我們的客製化訓練服務會使用客戶的專有資料,按其特定應用微調 Mistral AI 模型,從而建立高度專門化、經最佳化的模型,適用於客戶所在領域。我們亦提供持續預訓練等進階技術,把專有知識納入模型權重本身。

這些客製化訓練服務只提供予部分客戶,並會按其特定需求調整。歡迎聯絡我們的銷售團隊瞭解詳情。

加入我們的建構者社羣

如果你想深入瞭解並試驗我們全新的微調 API,歡迎參加 Mistral Fine-Tuning Hackathon,活動於 2024 年 6 月 5 日至 30 日舉行。按此瞭解更多黑客松詳情。

來源:Mistral AI · mistral.ai