跳到正文
新浪科技·· 11 小時前AI 評分46

羣聯展示內置 NPU 和 64GB 記憶體、可本地運行 AI 模型的計算型 SSD

群联展示计算型SSD:内置NPU+64GB内存 硬盘本地运行AI模型

AI 導讀

羣聯在 SC26 大會展示兩款面向 AI 場景的企業級 SSD,其中一款內置 NPU 和 64GB 記憶體,可直接在硬碟上運行 AI 模型。該款 SSD 頻寬達 130GB/s,支援 PyTorch、vLLM、OpenVINO 和 llama.cpp;羣聯稱,特定工作負載下數據傳輸量有望減少 10 至 100 倍。

正文

快科技11月22日消息,科技媒体Tom's Hardware报道,群联在SC26大会上展示了两款专为AI场景设计的企业级固态硬盘,其中一款甚至内置NPU和64GB内存,可直接运行AI模型。

其中一款SSD内置NPU(神经网络引擎)和64GB内存,带宽达到130GB/s,支持直接在硬盘上运行PyTorch、vLLM、OpenVINO和llama.cpp等AI框架及推理工具。

该产品的设计思路是将部分计算任务从服务器转移至SSD,让设备直接处理存储的数据,仅向主机返回结果,无需完整传输数据集。

群联表示,该方案在特定工作负载下有望将数据传输量减少10至100倍,从而降低主机CPU的负载。

另一款产品采用全新的Mixed Media混合介质设计,将高耐久性的pSLC缓存与大容量QLC闪存整合在同一块SSD中,并通过一颗16通道主控进行管理。

该方案将部分QLC闪存切换至SLC工作模式,以牺牲部分存储容量为代价,提升写入性能和耐久性。两个存储区域分别分配独立命名空间,主机可根据数据类型选择对应存储区域,无需额外安装专用软件。

群联称,这种方案能够减少对独立缓存盘的依赖。在包含24块SSD的系统中,如果其中一块硬盘发生故障,缓存损失比例仅为4%;而采用4块独立缓存盘的传统方案可能损失25%的缓存容量。

【本文结束】如需转载请务必注明出处:快科技

责任编辑:鹿角

新浪众测 新浪众测

新浪科技公众号

新浪科技公众号

“掌”握科技鲜闻 (微信搜索techsina或扫描左侧二维码关注)

科学大家

新浪科技

新浪科技为你带来最新鲜的科技资讯

苹果汇

苹果汇为你带来最新鲜的苹果产品新闻

新浪众测

新酷产品第一时间免费试玩

新浪探索

提供最新的科学家新闻,精彩的震撼图片

來源:新浪科技 · finance.sina.com.cn