Kimi K4 預計明年第二季問世,參數規模達5.4萬億
国产AI直奔Mythos/Fable级别:Kimi K4明年二季度问世、参数5.4万亿
月之暗面計劃於明年第二季推出 Kimi K4,參數規模達5.4萬億,發布時間較遲或延至第三季。Kimi K4 的規模約為 Kimi K3 的兩倍,有望挑戰 Mythos/Fable 級別;月之暗面目前重點放在自蒸餾及後訓練,以提升模型能力。
快科技11月7日消息,AI的性能上限依然要看参数规模,国产大模型目前只追到了3万亿级别,而公认最强的Mythos/Fable被认为是5万亿以上参数量,月之暗面下一代的K4明年能做到5.4万亿规模。
月之暗面今年的大模型路线图中,旗舰级产品中已经出了Kimi K3及K3.1 Pro,都是2.8万亿参数量的,后续还有Kimi K3.5,参数量略微提升到3万亿,K3.5的后训练数据量会提升到10万亿规模,预计2027年问世,有可能是明年春节前后。
再往后的旗舰产品就是Kimi K4了,参数量进一步扩大,5.4万亿的规模差不多是之前K3的2倍大了,这个爆料也跟之前野村证券公布的5-6万亿参数量相符。

到了这个级别,国产AI的性能上限应该有机会真正碰一碰Mythos/Fable级别了,发布时间是2027年Q2季度,晚一点就是Q3季度,时间点上晚了大约一年,毕竟国产AI训练面临的算力瓶颈及数据量都有更高的挑战。
在K4及K3.5之前,月之暗面还会继续扩展轻量级大模型,有Kimi K3 Flash在年内上市,应该会接替当前的Kimi K2.8,就是不知道性能、价格是否可以跟DeepSeek V4.1 Flash相媲美,毕竟年底的时候V4.2甚至V5.0 Flash都有可能问世了。
从爆料来看,月之暗面目前的算力是够用的,能支撑当前研发,只是上限有些不足,可以通过压缩技术来应对,当前的重心放在了自蒸馏及后训练上,把模型能力提升上去。

【本文结束】如需转载请务必注明出处:快科技
责任编辑:宪瑞
新浪科技公众号
“掌”握科技鲜闻 (微信搜索techsina或扫描左侧二维码关注)
科学大家

新浪科技
新浪科技为你带来最新鲜的科技资讯

苹果汇
苹果汇为你带来最新鲜的苹果产品新闻

新浪众测
新酷产品第一时间免费试玩

新浪探索
提供最新的科学家新闻,精彩的震撼图片
來源:新浪科技 · finance.sina.com.cn