OpenAI 推出 ChatGPT 和 Whisper API
Introducing ChatGPT and Whisper APIs
OpenAI 推出 ChatGPT API 和 Whisper API。
更新(April 24, 2024):ChatGPT API 這個名稱已停用。本文中提及的 ChatGPT API 均指 GPT‑3.5 Turbo API。
ChatGPT 和 Whisper 模型現已在我們的 API 上提供,讓開發者能使用尖端的語言能力(不只是聊天!)及語音轉文字功能。透過一系列全系統最佳化措施,自 December 以來,我們已將 ChatGPT 的成本降低 90%;現在我們把這些節省回饋給 API 用戶。開發者現在可以透過 API 使用我們的開源 Whisper large-v2 模型,取得速度快得多且更具成本效益的結果。GPT‑3.5 API 用戶可以期待模型持續改進,並可選擇專用運算容量,以更深入地控制模型。我們亦仔細聆聽開發者的意見,並修訂 API 服務條款,更好地滿足他們的需要。
GPT-3.5 Turbo 和 Whisper API 的早期用戶
Snap Inc(於新視窗開啟)., Snapchat 的創作者,本週推出 Snapchat+ 的 My AI。這項實驗功能採用 GPT‑3.5 API。My AI 為 Snapchat 用戶提供親切、可自訂的聊天機械人,方便用戶隨時使用;它不但會提供推薦,甚至能在幾秒內為朋友寫一首俳句。Snapchat 是一個日常用作溝通和傳訊的平台,每月活躍用戶達 750 million 人:
Snapchat+ 版 My AI
Quizlet(於新視窗開啟) 是一個全球學習平台,超過 60 million 名學生使用它來研習、練習並精通他們正在學習的內容。Quizlet 過去三年一直與 OpenAI 合作,運用 GPT‑3 處理多種用途,包括詞彙學習和練習測驗。隨著 GPT‑3.5 API 推出,Quizlet 正推出 Q-Chat,這是一位完全自適應的 AI 導師,透過有趣的聊天體驗,根據相關學習材料向學生提出自適應問題:
Quizlet Q-Chat
Instacart(於新視窗開啟) 正擴充 Instacart 應用程式,讓顧客能詢問食物相關問題,並獲得具啟發性、附有可購買商品的答案。這項功能結合 ChatGPT、Instacart 自家的 AI,以及來自其 75,000+ 個零售合作夥伴門市的產品資料,協助顧客為開放式購物需求尋找靈感,例如「如何做出美味的魚肉塔可餅?」或「有甚麼健康的午餐適合我的孩子?」Instacart 計劃於今年稍後推出「Ask Instacart」:
Instacart 的 Ask Instacart
Shop(於新視窗開啟) 是 Shopify 的消費者應用程式,有 100 million 名購物者使用它尋找並與他們喜愛的產品和品牌互動。 GPT‑3.5 API 為 Shop 全新的購物助理提供支援。購物者搜尋產品時,購物助理會根據他們的要求提供個人化推薦。Shop 全新的 AI 購物助理會掃描數以百萬計的產品,迅速找出買家要找的商品,或協助他們探索新產品,讓應用程式內購物流程更順暢:
Shopify 的 Shop 應用程式
Speak(於新視窗開啟) 是一款由 AI 驅動的語言學習應用程式,專注於為口語流利度打造最佳學習途徑。Speak 是南韓增長最快的英語學習應用程式,現已使用 Whisper API 為全新的 AI 口說夥伴產品提供支援,並迅速將其推廣至世界各地。Whisper 對各程度語言學習者都達到媲美人類的準確度,開啟真正開放式的對話練習和高度準確的回饋:
Speak 應用程式
GPT-3.5 API
模型:我們今天推出的 ChatGPT 模型系列 gpt-3.5-turbo,正是 ChatGPT 產品所使用的模型。每 1k tokens 收費 $0.002,較我們現有的 GPT‑3.5 模型便宜 10x。它亦是我們在許多非聊天用途上的最佳模型——我們看到早期測試者由 text-davinci-003 遷移至 gpt-3.5-turbo,提示詞只需稍作調整。
API:傳統上,GPT 模型會讀取非結構化文字,並將其表示為一連串 “tokens” 供模型使用。ChatGPT 模型則會讀取一連串訊息及其 metadata。(好奇的讀者可能會想知道:在底層,輸入仍會以一連串 “tokens” 的形式呈現給模型使用;模型所用的原始格式是一種名為 Chat Markup Language(於新視窗開啟)(“ChatML”)的新格式。)
我們建立了一個新的端點,供用戶與 ChatGPT 模型互動:
ChatGPT 模型升級
我們一直在改進 ChatGPT 模型,亦希望開發者能使用這些改進。使用 gpt-3.5-turbo 模型的開發者,將一直取得我們建議的穩定模型,同時仍可靈活選用特定模型版本。舉例來說,我們今天推出 gpt-3.5-turbo-0301,至少會支援至 June 1st;而我們會在 April 將 gpt-3.5-turbo 更新至新的穩定版本。切換更新會公布於 模型頁面(於新視窗開啟)。
專用執行個體
我們現亦為希望更深入控制特定模型版本和系統效能的用戶提供專用執行個體。預設情況下,請求會在與其他按請求付費的用戶共用的運算基礎設施上執行。我們的 API 在 Azure 上運行;使用專用執行個體時,開發者會按時段支付費用,以取得一份保留用於處理其請求的運算基礎設施配額。
開發者可完全控制執行個體的負載(較高負載能提高吞吐量,但會令每個請求的處理速度變慢),可選擇啟用較長的上下文限制等功能,亦能固定模型快照版本。
每日處理量超過 ~450M tokens 的開發者,使用專用執行個體在經濟上可能划算。此外,這可讓開發者直接 針對 硬件效能最佳化其工作負載,相較於共用基礎設施,可大幅降低成本。如欲查詢專用執行個體,請 聯絡我們。
Whisper API
Whisper,我們於 September 2022 開源的語音轉文字模型,深受開發者社群讚譽,但 也可能難以運行。現在,我們已透過 API 提供 large-v2 模型,讓用戶能方便地按需存取,價格為 $0.006 / minute。此外,我們高度最佳化的服務架構確保效能較其他服務更快。
Whisper API 可透過我們的 transcriptions(以來源語言轉錄)或 translations(轉錄為英文)端點使用,並接受多種格式(m4a, mp3, mp4, mpeg, mpga, wav, webm):
聚焦開發者
過去六個月,我們一直收集 API 客戶的意見,以了解如何更好地為他們服務。我們已採取具體措施,例如:
除非機構選擇加入,否則不再使用透過 API 提交的資料來改善服務(包括訓練模型)
為 API 用戶提供預設為 30-day 的資料保留政策,並按用戶需要提供更嚴格的保留選項。
取消推出前審查(透過改善自動化監察而得以實現)
改善開發者文件
簡化我們的 服務條款及使用政策(於新視窗開啟),包括資料所有權條款:用戶擁有模型的輸入和輸出。
過去兩個月,我們的服務正常運行時間未達到我們自身及用戶的期望。目前,我們工程團隊的首要任務是確保正式環境使用案例的穩定性——我們深知,要確保 AI 惠及全人類,就必須成為可靠的服務供應商。未來幾個月,請監督我們改善服務正常運行時間!
我們相信 AI 能為每個人帶來非凡機遇和經濟賦權,而最佳實現方式就是讓所有人都能運用 AI 進行創作。我們希望今天宣佈的改變能帶來許多人人受惠的應用程式。立即開始打造由 ChatGPT & Whisper 驅動的新一代應用程式。
作者
Greg Brockman, Atty Eleti, Elie Georges, Joanne Jang, Logan Kilpatrick, Rachel Lim, Luke Miller, Michelle Pokrass
貢獻者
Jeff Belgum, Jake Berdine, Trevor Cai, Alexander Carney, Brooke Chan, Che Chang, Derek Chen, Ruby Chen, Aidan Clark, Thomas Degry, Steve Dowling, Sheila Dunning, Liam Fedus, Vik Goel, Scott Gray, Aurelia Guy, Jeff Harris, Peter Hoeschele, Angela Jiang, Denny Jin, Jong Wook Kim, Yongjik Kim, Michael Lampe, Daniel Levy, Brad Lightcap, Patricia Lue, Bianca Martin, Christine McLeavey, Luke Metz, Andrey Mishchenko, Vinnie Monaco, Evan Morikawa, Mira Murati, Rohan Nuttall, Alex Paino, Ashley Pantuliano, Mikhail Pavlov, Andrew Peng, Henrique Ponde de Oliveira Pinto, Alec Radford, Kendra Rimbach, Aliisa Rosenthal, Nick Ryder, Ted Sanders, Heather Schmidt, John Schulman, Zarina Stanik, Felipe Such, Nick Turley, Carroll Wainwright, Peter Welinder, Clemens Winter, Sherwin Wu, Tao Xu, Qiming Yuan, Barret Zoph
來源:OpenAI News · openai.com