跳到正文
新浪科技·· 25 天前AI 評分50

Liquid AI 發佈 LFM3 模型家族,首批六款模型均基於 LFM3-1.7B-Base

Liquid AI 发布 LFM3 模型家族,首批多款均基于 LFM3-1.7B-Base

AI 導讀

Liquid AI 發佈 LFM3 模型家族,首批六款模型均基於 LFM3-1.7B-Base。該系列採用全新的三混合層架構,並在 22T tokens 上預訓練。LFM-1.7B 擁有 256K 上下文窗口,使用的參數減少 35%,性能仍優於上一代 LFM2.5-2.6B。

正文

IT之家 10 月 28 日消息,人工智能实验室 Liquid AI 当地时间 27 日发布了 LFM3 模型家族。其基于全新的三混合层架构,在 22T 词元上预训练而成,在保持高效的同时具备更为出色的表现。

LFM3 的首批产品包括 LFM-1.7B(文本)、LFM3-VL-2B(视觉)、d1-2B(决策)、LFM3-Audio(音频)、LFM3-Omni-2B(全能)、d1-Omni-2B(全能决策),这些模型均基于 LFM3-1.7B-Base。

Liquid AI 表示,LFM-1.7B 拥有 256K 上下文窗口,其在使用的参数减少 35% 的同时性能优于上代的 LFM2.5-2.6B。

参考

新浪众测 新浪众测

新浪科技公众号

新浪科技公众号

“掌”握科技鲜闻 (微信搜索techsina或扫描左侧二维码关注)

科学大家

新浪科技

新浪科技为你带来最新鲜的科技资讯

苹果汇

苹果汇为你带来最新鲜的苹果产品新闻

新浪众测

新酷产品第一时间免费试玩

新浪探索

提供最新的科学家新闻,精彩的震撼图片

來源:新浪科技 · finance.sina.com.cn