梦晨 西风 发自 凹非寺量子位 | 公众号 QbitAI欧洲杯体育

DeepSeek-v3大模子横空出世，以1/11算力进修出向上Llama 3 405B的开源模子，震荡了系数这个词AI圈。

紧接着，“雷军开千万年薪挖DeepSeek斟酌员罗福莉”的听说，也使得东谈主们把眼神聚焦向DeepSeek的东谈主才

这下不单科技圈，全网都在好奇，连小红书上都有东谈主发帖商量，这究竟是一奈何的团队？

国外上，也有东谈主把首创东谈主梁文锋的访谈翻译成英语，还加了注目，试图从中寻找这家公司崛起的蛛丝马迹。

量子位整理各式贵府发现，DeepSeek团队最大的特色等于年青

应届生、在读生，尽头是来自清北的应届生在其中格外活跃。

他们中的一些东谈主，2024年一边在DeepSeek搞斟酌，另一边崭新热乎的博士学位论文刚评上奖。

他们中有的参与了从DeepSeek LLM v1到DeepSeek-v3的全程，有的仅仅实习了一段时刻也作念出紧迫后果。

为DeepSeek提议MLA新式防范力、GRPO强化学习对皆算法等关键革命的，险些都是年青东谈主。

DeepSeek中枢成员揭秘

2024年5月发布的DeepSeek-V2，是以至这家大模子公司破圈的关键一环。

其中最紧迫的革命是提议了一种新式防范力，在Transformer架构的基础上，用MLA（Multi-head Latent Attention）替代了传统的多头防范力，大幅减少了计较量和推理显存。

在一众孝敬者中，高华佐曾旺丁为MLA架构作念出了关键革命。

高华佐格外低调，现时只知谈是北大物理系毕业。

另外，在“大模子创业六小强”之一阶跃星辰的专利信息中也不错看到这个名字，暂不笃定是否是吞并东谈主。

而曾旺丁来自北邮，斟酌生导师是北邮东谈主工智能与汇注搜索教研中心主任张洪刚。

DeepSeek-V2使命中还触及到了另一项关键后果——GRPO

DeepSeek-V2发布前三个月，DeepSeek-Math问世，其中提议了GRPO（Group Relative Policy Optimization）。

GRPO是PPO的一种变体RL算法，毁灭了critic模子，而是从群体得分中估算baseline，显耀减少了进修资源的需求。

GRPO在圈内得到平庸柔顺，另一家国内开源大模子阿里Qwen 2.5的本事讲明中也走漏用到了GRPO。

DeepSeekMath有三位中枢作家是在DeepSeek实习时间完成的使命。

中枢作家之一邵智宏是清华交互式东谈主工智能（CoAI）课题组博士生，师从黄民烈素质。

他的斟酌规模包括、深度学习，尽头对怎样能构建一个正经且可彭胀的AI系统感神往，这个AI系统能运用各样化的手段整合异构信息，并能准确回话各式复杂的当然谈话问题。

邵智宏之前还曾在微软斟酌院使命过。

DeepSeekMath之后，他还参与了DeepSeek-Prover、DeepSeek-Coder-v2、DeepSeek-R1等形势。

另一位中枢作家朱琪豪是北大计较机学院软件斟酌所2024届博士毕业生，受熊英飞副素质和张路素质带领，斟酌标的为深度代码学习。

据北大计较机学院官方先容，朱琪豪曾发表CCF-A类论文16篇。在ASE和ESEC/FSE上分辩赢得ACM SIGSOFT隆起论文奖一次，提名一次。一篇论文干预ESEC/FSE会议同庚的援用前三名。

在DeepSeek团队，朱琪豪还基于他的博士论文使命，主导诞生了DeepSeek-Coder-V1。

其博士论文《谈话界说感知的深度代码学习本事及应用》也入选了2024CCF软件工程专科委员会博士学位论文激励计算。

△图源：北京大学计较机学院公众号

还有一位中枢作家雷同来自北大。

北大博士生Peiyi Wang，受北京大学计较谈话学辅助部重心践诺室穗志方素质带领。

除了DeepSeek-V2 MLA、DeepSeekMath GRPO这两项关键破圈后果，值得一提的是，还有一些成员从v1就加入其中，一直到v3。

代表东谈主物之一代达劢，2024年博士毕业于北京大学计较机学院计较谈话所，导师雷同是穗志方素质。

△图源：北京大学计较机学院公众号

代达劢学术后果颇丰，曾获EMNLP 2023最好长论文奖、CCL 2021最好汉文论文奖，在各大顶会发表学术论文20篇+。

2024年中国汉文信息学会“博士学位论文激励计算”共入选10篇来自中国大陆高校的博士毕业论文，其中就有他的《学问挂牵的机理分析及智商增强关键本事斟酌》。

以及北大元培学院的王炳宣

王炳宣来自山东烟台，2017年干预北大。

硕士毕业加入DeepSeek，参与了从DeepSeek LLM v1启动的一系列紧迫使命。

清华这边的代表东谈主物还有赵成钢

赵成钢此前是衡水中学信息学竞赛班成员，CCF NOI2016银牌得主。

之后赵成钢干预清华，大二时成为清华学生超算团队崇敬成员，三次赢得寰宇大学生超算竞赛冠军。

赵成钢在DeepSeek担任进修/推理基础架构工程师，有英伟达实习履历。

△图源：清华新闻网

DeepSeek是一支奈何的团队

这些水灵的个体，足以激发东谈主们的赞美。

但还不及以回话领先的问题，DeepSeek到底是一支奈何的团队？有奈何的组织架构？

谜底好像还要从首创东谈主梁文锋身上找。

早在2023年5月，DeepSeek刚刚告示下场作念大模子，还没发布后果的时候，梁文锋在接管36氪旗下「暗涌」采访时走漏过招东谈主圭臬。

看智商，而不是看警戒。咱们的中枢本事岗亭，基本以应届和毕业一两年的东谈主为主。

从后头一年多赓续发表的论文孝敬名单中也不错看出，确乎如斯，博士在读、应届以及毕业一两年的成员占很大一部分。

即使是团队leader级别也偏年青化，以毕业4-6年的为主。

举例领导DeepSeek的后进修团队的吴俣，2019年北航博士毕业、在微软MSRA参与过小冰和必应百科形势。

吴俣博士时波折受北航李舟军素质和MSRA前副院长周明博士的纠合培养。

与他师出半个同门的是郭达雅，中山大学印鉴素质与MSRA周明博士纠合培养，2023年博士毕业。

2024年7月他加入DeepSeek，主要参与了一系列数学和代码大模子的使命。

郭达雅上学时间还有一项行状，本科时间在MSRA实习一年里发表两篇顶会论文，他笑称“在刚入学的第三天，就完成了中大博士生的毕业条目。”

除了团队成员年青化以外，DeepSeek在国内AI公司中了得的特色：格外醉心模子算法和硬件工程的配合。

DeepSeek v3论文统共200位作家，并不都是负责AI算法或数据。

有这么一批东谈主从早期的DeepSeek LLM v1到v3一直都在参与，他们更多偏向算力的部分，负责优化硬件。

他们以DeepSeek AI的样式发表了论文《Fire-Flyer AI-HPC》，通过软硬件协同打算裁汰进修资本，处分传统超算架构在AI进修需求上的不及。

Fire-Flyer也等于幻方AI搭建的萤火2号万卡集群，使用英伟达A100 GPU，却作念到比拟英伟达官方的DGX-A100作事器有资本和能耗的上风。

这支团队中有的东谈主在英伟达使命或实习过，有的来自同在杭州的阿里云，也有很多东谈主从幻方AI借调又或干脆转岗到DeepSeek，参与了每一项大模子使命。

而如斯醉心软硬件协同的后果，就所以Llama 3 405B的1/11算力，进修出性能更高的DeepSeek-v3了。

临了，咱们还发现DeepSeek开源形势中有一个尽头的存在，不是谈话模子商量使命，却是3D生成商量。

这项后果由清华博士生孙景翔在DeepSeek实习时间，与导师刘烨斌以及DeepSeek成员勾通完成。

像这么实习生在DeepSeek作念出紧迫后果的还有中山大学逻辑学专科的辛华剑

他在DeepSeek实习时间参与了用大模子讲授数学定理的DeepSeek-Prover，当今在爱丁堡大学读博士。

看过这些例子，再一次回到梁文锋的访谈，好像更能意会这只团队的运作结构。

不作念前置的岗亭单干，而是当然单干每个东谈主关于卡和东谈主的调遣是不设上限的，每个东谈主不错随时调用进修集群，惟有几个东谈主都有神往就不错启动一个形势当一个idea夸耀出后劲，也会从上至下地去调配资源。

这不免让东谈主念念起AI界另一家弗成疏远的力量，没错等于OpenAI

雷同的用东谈主不看警戒，本科生、辍学生惟有有智商照样招进来。

雷同的重用新东谈主，应届生与00后不错调遣资源从无到有斟酌Sora。

雷同的濒临后劲标的，系数这个词公司从顶层启动打算布局和资源鞭策。

DeepSeek，可能是组织形态上最像OpenAI的一家中国AI公司了。

[1]https://mp.weixin.qq.com/s/Cajwfve7f-z2Blk9lnD0hA[2]https://mp.weixin.qq.com/s/r9zZaEgqAa_lml_fOEZmjg[3]https://mp.weixin.qq.com/s/9AV6Qrm_1HAK1V3t1MZXOw[4]https://mp.weixin.qq.com/s/y4QwknL7e2Xcnk19LocR4A[5]https://mp.weixin.qq.com/s/C9sYYQc6e0EAPegLMd_LVQ