快科技7月22日消息 ,7月17日凌晨,月之暗面推出2.8万亿参数大模型Kimi K3。该模型以1679分登顶 Frontend Code Arena 榜单,成为史上首款在该前端编程榜单超越一众闭源模型的开源大模型,一经发布迅速引爆全球AI行业舆论。
亮眼成绩引来特斯拉CEO马斯克关注,他在相关评测内容下留言 “Impressive(令人印象深刻)”。
这是马斯克继今年3月点赞 Kimi 底层架构技术报告之后,第二次公开认可这支中国AI团队。马斯克在预告自家新模型Grok 4.6 期间,更是直接将 Kimi K3 列为对标参照目标。
与此同时,围绕 Kimi K3的各类争议持续发酵。网络出现传言,质疑K3属于蒸馏美国模型。
针对外界广为流传的 “K3 是蒸馏小模型” 猜测,7月21日上午,月之暗面企业业务负责人黄震昕在媒体采访中正面予以否认。
黄震昕明确表示,Kimi K3性能实现跨越式提升,核心依托底层原创架构创新,并非对任何现有模型进行蒸馏复刻。
据官方介绍,Kimi K3 搭载自研 Kimi Delta Attention(KDA)混合线性注意力机制与 Attention Residuals(AttnRes)注意力残差技术。
在MoE 混合专家架构设计上,模型总计设置896个专家,单次推理激活16个专家单元。依托这一系列结构性革新,Kimi K3对比前代 K2 模型,整体扩展效率提升大约 2.5 倍。
值得一提的是,月之暗面强调将继续坚持开源路线,核心底层技术与论文均对外公开,对行业保持开放姿态,未来也不会改变这一策略。


