跳到正文
OpenAI News·· 2026-01-14精選AI 評分70

OpenAI 與 Cerebras 合作增加 750MW 高速 AI 算力,以降低推理延遲

OpenAI partners with Cerebras

AI 導讀

OpenAI 與 Cerebras 合作增加 750MW 高速 AI 算力,以降低推理延遲,並讓 ChatGPT 在即時 AI 工作負載下更快。

推薦理由

這項合作把 750MW 高速算力與降低推理延遲、提升 ChatGPT 即時 AI 工作負載速度連結起來,交代新增算力的服務用途。

正文 · 繁體中文

Cerebras 專門打造 AI 系統,以加快 AI 模型生成長篇內容。其獨特速度源自將龐大的運算能力、記憶體和頻寬整合到單一大型晶片上,並消除令傳統硬件推理速度變慢的瓶頸。 

 將 Cerebras 納入我們的運算方案組合,目的就是讓我們的 AI 回應快得多。當你提出難題、生成程式碼、創作圖像或執行 AI 代理時,幕後會有一個循環:你發送請求,模型進行思考,然後傳回結果。當 AI 即時回應時,使用者會更多地使用它、停留更久,並執行價值更高的工作負載。

我們將分階段把這項低延遲運算能力整合至推理技術堆疊,並擴展至不同工作負載。  

“OpenAI 的運算策略是建立具韌性的方案組合,讓合適的系統配合合適的工作負載。Cerebras 為我們的平台增添專用的低延遲推理解決方案。這代表回應速度更快、互動更自然,並為將即時 AI 擴展至更多人奠定更穩固的基礎,”OpenAI 的 Sachin Katti 表示。

“我們很高興與 OpenAI 合作,將全球領先的 AI 模型帶到全球最快的 AI 處理器上。正如寬頻改變了互聯網,即時推理將改變 AI,讓人們能以全新方式建構 AI 模型並與之互動,”Cerebras 聯合創辦人兼行政總裁 Andrew Feldman 表示。 

這項運算能力將分多批陸續上線,直至 2028 年。

來源:OpenAI News · openai.com