3月16日晚,特斯拉CEO马斯克在社交平台上公开点赞中国AI公司月之暗面(Kimi)团队的最新研究成果,称这项工作“令人印象深刻”,一下子把这款国产大模型的前沿技术推到了聚光灯下。

随着技术论文一同公开,第一作者 Guangyu Chen(陈广宇)迅速引发全网关注——这位核心贡献者竟是一名年仅17岁的深圳高中生。

根据论文附录信息,陈广宇与张宇、苏剑林三人被列为同等贡献的共同第一作者,其余34位作者均未获得这一标注。其中,张宇是Kimi高效模型架构的核心研发者,苏剑林则是旋转位置编码(RoPE)的提出者。

值得注意的是,陈广宇真正接触AI领域才刚满一年。起步阶段,他靠自学前沿论文、追踪GitHub开源项目,快速打下了扎实的理论和实践基础。去年暑假,他远赴旧金山完成了为期7周的实习;回国后,于去年11月正式加入Kimi团队实习。

论文发布后,他在朋友圈低调复盘,特别感谢了另外两位同等贡献作者以及负责模型扩展和基础设施搭建的同事们,并强调:“这是团队成果,别造神。”

据了解,Kimi团队此次发布的报告提出了一种全新的“Attention Residuals”(注意力残差)机制,对深度学习领域沿用了近十年的传统残差连接方式进行了颠覆性重构。

简单来说,这项创新相当于给AI装上了一个“智能筛选器”:它把Transformer中的注意力机制从序列维度迁移到模型的深度维度,让每一层都能动态识别并保留之前有用的信息,同时抑制冗余内容,从而大幅提升信息传递效率。