北京AI破壁之路 端侧小模型跑出大能量

1个月前 来源:北京日报 观看:50

QFM即热新闻——关注每天科技社会生活新变化gihot.com

在清华科技园科建大厦3楼,面壁智能联合创始人、CEO李大海的办公室中央挂着一幅大型拼图,一艘船在风雨中劈波斩浪。QFM即热新闻——关注每天科技社会生活新变化gihot.com

今年已是李大海来到中关村的第23年。QFM即热新闻——关注每天科技社会生活新变化gihot.com

2006年,从北京大学数学系毕业后,李大海加入谷歌中国,成为创始员工之一。后来他又参与了云云网、豌豆荚、知乎的创业。2023年,一场大模型掀起的技术风暴席卷而来,时任知乎CTO的李大海决定投身其中。当年4月,在李大海的推动下,知乎完成了对面壁智能的独家天使轮投资。QFM即热新闻——关注每天科技社会生活新变化gihot.com

李大海看好面壁智能,是因为其创始人、青年科学家刘知远是国内首批开展大模型研究的研究者之一。2020年12月,刘知远团队发布了全球第一个中文开源大模型“CPM”,这一项目也是后来中国奠基性大模型“悟道”的前身。两年后,刘知远发起成立面壁智能。QFM即热新闻——关注每天科技社会生活新变化gihot.com

投资一家优秀的大模型企业,对李大海来说绝非终点。大模型掀起的汹涌浪潮让他兴奋得难以入睡。“这是一场堪比蒸汽机改变世界的大变革!”一次次在深夜爬起来看代码、追踪大模型前沿进展的李大海,决定从大厂高管转身,再次创业。2023年6月,李大海出任面壁智能CEO。QFM即热新闻——关注每天科技社会生活新变化gihot.com

彼时,大模型领域激战正酣,一场前所未有的“百模大战”正在上演。与此同时,随着大模型迅猛发展,作为大模型“燃料”的算力告急,行业内出现GPU“一卡难求”“排队预定”的局面。如何才能从白热化的竞争中杀出重围?QFM即热新闻——关注每天科技社会生活新变化gihot.com

高效——是李大海与团队给出的答案。“与其盲目地把模型做大,不如花更多精力让模型变好,以同样的模型参数量实现更高的智能与知识密度。”基于对大模型本质规律的观察,他们提出了大模型的密度定律(DensingLaw):大模型知识密度每3.3个月翻一番,大模型将变得越来越“小”,同时能力越来越强。QFM即热新闻——关注每天科技社会生活新变化gihot.com

基于这一理念,团队选择避开同质化严重的对话式AI聊天机器人,将视野转向了一个在当时看来不算热门的方向——端侧大模型。李大海认为,人们的生活早已离不开手机、平板、汽车等各种各样的硬件终端设备,而在不久的将来,这些智能终端都将拥有具备自主思考能力的“超级大脑”。QFM即热新闻——关注每天科技社会生活新变化gihot.com

“我们要让小模型跑出大能量,让本地模型能力满足日常绝大多数的智能需求。”李大海坚信,相比于时下最火热的跑在“云”上,并且需要大量算力的千亿级超大模型,在“断网、弱网”环境下,仍然能让各种智能终端具备自主思考能力的端侧大模型,将成为面壁独特的竞争力。QFM即热新闻——关注每天科技社会生活新变化gihot.com

用更小的参数、更高的效率、更低的成本,实现更好的智能——达到这个目标,并不容易。“模型能力日新月异,但模型效率的领先如同芯片制程一般,须形成比较硬的相对优势。我们要攻克的,就好比大模型行业的‘光刻机’。”李大海说。QFM即热新闻——关注每天科技社会生活新变化gihot.com

拿算法来说,过去,由于模型训练过程中充满不确定性,传统的大模型训练被业界戏称为“炼丹”。而面壁研发团队通过上千次模型沙盒实验,在算法的各种细节上摸索出了一系列最优配置,大幅优化了模型效果。QFM即热新闻——关注每天科技社会生活新变化gihot.com

为了打磨大模型“光刻机”,从高质量的数据原材料,到模型训练与调校,一个个环环相扣的细节,研发人员都细细打磨。2024年初,面壁推出了端侧大模型MiniCPM,用仅仅24亿参数实现了超过百亿参数大模型的性能。QFM即热新闻——关注每天科技社会生活新变化gihot.com

“超级大脑”仍在不断进化。今年1月,面壁智能发布MiniCPM-o2,这也是全球首个达到OpenAI公司GPT-4o水平的端侧多模态大模型。这款仅有80亿参数量的模型,能够实时流式处理文本、图像、音频和视频信息,“视、听、说”都很伶俐。QFM即热新闻——关注每天科技社会生活新变化gihot.com

在今年中关村论坛年会期间,面壁又发布了一项领先业界的成果——首个纯端侧超级智能助手,可应用于汽车智能座舱。在端侧大模型的支撑下,即便车辆没有网络,超级智能助手也能随时“在线”,实现从车外到车内的各种感知并执行任务。QFM即热新闻——关注每天科技社会生活新变化gihot.com

由于在安全性、实时性等方面的巨大优势,面壁的端侧模型一经推出就很快获得了法律、消费电子等行业用户的认可。就在上月,面壁与合作伙伴发布了首个纯端侧大模型量产车型。QFM即热新闻——关注每天科技社会生活新变化gihot.com

“2026年,装上面壁端侧模型的设备数将达2025年的10倍。”放眼未来,李大海的眼中是更广阔的星辰大海——未来全球将有400亿的设备终端,它们都有望装上一个个“超级大脑”。QFM即热新闻——关注每天科技社会生活新变化gihot.com

独角兽“秘笈”QFM即热新闻——关注每天科技社会生活新变化gihot.com

冷静取舍 以小博大QFM即热新闻——关注每天科技社会生活新变化gihot.com

智谱、月之暗面、百川智能、零一万物、面壁智能……在今年年初第三方机构公布的国内大模型独角兽排行榜中,多家北京企业赫然在列,显示出创新资源高度集聚的效应。QFM即热新闻——关注每天科技社会生活新变化gihot.com

在被人们称为“宇宙中心”的五道口一带,办公租金并不便宜,李大海坦言,背靠五道口周边极强的人才优势,是成立仅三年的面壁得以迅猛发展的重要原因。QFM即热新闻——关注每天科技社会生活新变化gihot.com

身处北京,依靠全国领先的AI人才资源和“AI第一城”的创新生态,与行业巨头凭借巨额资金和海量算力投入“大力出奇迹”的发展路径不同,以面壁为代表的北京人工智能初创企业,向世界展现出高效创新、“以小博大”的创新范式。QFM即热新闻——关注每天科技社会生活新变化gihot.com

“对创业公司来说,‘不做什么’和‘做什么’都很重要,‘不做什么’甚至更重要。”李大海说。面对巨大机遇,创业公司需要注意的是“专注一个点做透”,并在此过程中不断辨别哪些是应勇于“取”的机遇,哪些是要勇于“舍”的诱惑。在“大炼模型”的风潮下,面壁就曾先后做出不做AI聊天机器人、放弃大模型基础设施等重要决策,专注打磨端侧模型,提升模型效率与知识密度,“以小博大”。QFM即热新闻——关注每天科技社会生活新变化gihot.com

蛇年春节,DeepSeek旋风席卷全球。以低成本实现高性能,正是DeepSeek一鸣惊人之处。《麻省理工科技评论》随后刊发了一篇题为《关注DeepSeek之外的四家中国人工智能初创公司》的报道,点赞中国“四剑客”,其中就有面壁智能。QFM即热新闻——关注每天科技社会生活新变化gihot.com

勇于面壁,方能破壁——Deep-Seek和面壁智能,都在用实际行动印证着一个道理,不盲目跟风,勇于探索新路径,即便在有限的资源环境下也能激发、倒逼出无限的创新潜力。QFM即热新闻——关注每天科技社会生活新变化gihot.com

QFM即热新闻——关注每天科技社会生活新变化gihot.com

在清华科技园科建大厦3楼,面壁智能联合创始人、CEO李大海的办公室中央挂着一幅大型拼图,一艘船在风雨中劈波斩浪。QFM即热新闻——关注每天科技社会生活新变化gihot.com

今年已是李大海来到中关村的第23年。QFM即热新闻——关注每天科技社会生活新变化gihot.com

2006年,从北京大学数学系毕业后,李大海加入谷歌中国,成为创始员工之一。后来他又参与了云云网、豌豆荚、知乎的创业。2023年,一场大模型掀起的技术风暴席卷而来,时任知乎CTO的李大海决定投身其中。当年4月,在李大海的推动下,知乎完成了对面壁智能的独家天使轮投资。QFM即热新闻——关注每天科技社会生活新变化gihot.com

李大海看好面壁智能,是因为其创始人、青年科学家刘知远是国内首批开展大模型研究的研究者之一。2020年12月,刘知远团队发布了全球第一个中文开源大模型“CPM”,这一项目也是后来中国奠基性大模型“悟道”的前身。两年后,刘知远发起成立面壁智能。QFM即热新闻——关注每天科技社会生活新变化gihot.com

投资一家优秀的大模型企业,对李大海来说绝非终点。大模型掀起的汹涌浪潮让他兴奋得难以入睡。“这是一场堪比蒸汽机改变世界的大变革!”一次次在深夜爬起来看代码、追踪大模型前沿进展的李大海,决定从大厂高管转身,再次创业。2023年6月,李大海出任面壁智能CEO。QFM即热新闻——关注每天科技社会生活新变化gihot.com

彼时,大模型领域激战正酣,一场前所未有的“百模大战”正在上演。与此同时,随着大模型迅猛发展,作为大模型“燃料”的算力告急,行业内出现GPU“一卡难求”“排队预定”的局面。如何才能从白热化的竞争中杀出重围?QFM即热新闻——关注每天科技社会生活新变化gihot.com

高效——是李大海与团队给出的答案。“与其盲目地把模型做大,不如花更多精力让模型变好,以同样的模型参数量实现更高的智能与知识密度。”基于对大模型本质规律的观察,他们提出了大模型的密度定律(DensingLaw):大模型知识密度每3.3个月翻一番,大模型将变得越来越“小”,同时能力越来越强。QFM即热新闻——关注每天科技社会生活新变化gihot.com

基于这一理念,团队选择避开同质化严重的对话式AI聊天机器人,将视野转向了一个在当时看来不算热门的方向——端侧大模型。李大海认为,人们的生活早已离不开手机、平板、汽车等各种各样的硬件终端设备,而在不久的将来,这些智能终端都将拥有具备自主思考能力的“超级大脑”。QFM即热新闻——关注每天科技社会生活新变化gihot.com

“我们要让小模型跑出大能量,让本地模型能力满足日常绝大多数的智能需求。”李大海坚信,相比于时下最火热的跑在“云”上,并且需要大量算力的千亿级超大模型,在“断网、弱网”环境下,仍然能让各种智能终端具备自主思考能力的端侧大模型,将成为面壁独特的竞争力。QFM即热新闻——关注每天科技社会生活新变化gihot.com

用更小的参数、更高的效率、更低的成本,实现更好的智能——达到这个目标,并不容易。“模型能力日新月异,但模型效率的领先如同芯片制程一般,须形成比较硬的相对优势。我们要攻克的,就好比大模型行业的‘光刻机’。”李大海说。QFM即热新闻——关注每天科技社会生活新变化gihot.com

拿算法来说,过去,由于模型训练过程中充满不确定性,传统的大模型训练被业界戏称为“炼丹”。而面壁研发团队通过上千次模型沙盒实验,在算法的各种细节上摸索出了一系列最优配置,大幅优化了模型效果。QFM即热新闻——关注每天科技社会生活新变化gihot.com

为了打磨大模型“光刻机”,从高质量的数据原材料,到模型训练与调校,一个个环环相扣的细节,研发人员都细细打磨。2024年初,面壁推出了端侧大模型MiniCPM,用仅仅24亿参数实现了超过百亿参数大模型的性能。QFM即热新闻——关注每天科技社会生活新变化gihot.com

“超级大脑”仍在不断进化。今年1月,面壁智能发布MiniCPM-o2,这也是全球首个达到OpenAI公司GPT-4o水平的端侧多模态大模型。这款仅有80亿参数量的模型,能够实时流式处理文本、图像、音频和视频信息,“视、听、说”都很伶俐。QFM即热新闻——关注每天科技社会生活新变化gihot.com

在今年中关村论坛年会期间,面壁又发布了一项领先业界的成果——首个纯端侧超级智能助手,可应用于汽车智能座舱。在端侧大模型的支撑下,即便车辆没有网络,超级智能助手也能随时“在线”,实现从车外到车内的各种感知并执行任务。QFM即热新闻——关注每天科技社会生活新变化gihot.com

由于在安全性、实时性等方面的巨大优势,面壁的端侧模型一经推出就很快获得了法律、消费电子等行业用户的认可。就在上月,面壁与合作伙伴发布了首个纯端侧大模型量产车型。QFM即热新闻——关注每天科技社会生活新变化gihot.com

“2026年,装上面壁端侧模型的设备数将达2025年的10倍。”放眼未来,李大海的眼中是更广阔的星辰大海——未来全球将有400亿的设备终端,它们都有望装上一个个“超级大脑”。QFM即热新闻——关注每天科技社会生活新变化gihot.com

独角兽“秘笈”QFM即热新闻——关注每天科技社会生活新变化gihot.com

冷静取舍 以小博大QFM即热新闻——关注每天科技社会生活新变化gihot.com

智谱、月之暗面、百川智能、零一万物、面壁智能……在今年年初第三方机构公布的国内大模型独角兽排行榜中,多家北京企业赫然在列,显示出创新资源高度集聚的效应。QFM即热新闻——关注每天科技社会生活新变化gihot.com

在被人们称为“宇宙中心”的五道口一带,办公租金并不便宜,李大海坦言,背靠五道口周边极强的人才优势,是成立仅三年的面壁得以迅猛发展的重要原因。QFM即热新闻——关注每天科技社会生活新变化gihot.com

身处北京,依靠全国领先的AI人才资源和“AI第一城”的创新生态,与行业巨头凭借巨额资金和海量算力投入“大力出奇迹”的发展路径不同,以面壁为代表的北京人工智能初创企业,向世界展现出高效创新、“以小博大”的创新范式。QFM即热新闻——关注每天科技社会生活新变化gihot.com

“对创业公司来说,‘不做什么’和‘做什么’都很重要,‘不做什么’甚至更重要。”李大海说。面对巨大机遇,创业公司需要注意的是“专注一个点做透”,并在此过程中不断辨别哪些是应勇于“取”的机遇,哪些是要勇于“舍”的诱惑。在“大炼模型”的风潮下,面壁就曾先后做出不做AI聊天机器人、放弃大模型基础设施等重要决策,专注打磨端侧模型,提升模型效率与知识密度,“以小博大”。QFM即热新闻——关注每天科技社会生活新变化gihot.com

蛇年春节,DeepSeek旋风席卷全球。以低成本实现高性能,正是DeepSeek一鸣惊人之处。《麻省理工科技评论》随后刊发了一篇题为《关注DeepSeek之外的四家中国人工智能初创公司》的报道,点赞中国“四剑客”,其中就有面壁智能。QFM即热新闻——关注每天科技社会生活新变化gihot.com

勇于面壁,方能破壁——Deep-Seek和面壁智能,都在用实际行动印证着一个道理,不盲目跟风,勇于探索新路径,即便在有限的资源环境下也能激发、倒逼出无限的创新潜力。QFM即热新闻——关注每天科技社会生活新变化gihot.com

本文链接:http://www.gihot.com/news-2-2594-0.html北京AI破壁之路 端侧小模型跑出大能量

声明:本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇:北京市推动人工智能赋能新型工业化

下一篇:借助高科技 “慧眼”识文物

为你推荐
美国物理学家阿瑟·阿什金因光镊操控技术获得2018年获诺贝尔物理学奖,让研究人员在微观世界中也可“抓得着”物体。这一研究为物理、生物和材...
01-21
荷兰特文特大学科学家开发出一种新工艺,能在室温下制造出晶体结构高度有序的半导体材料。他们表示,通过精准控制这种半导体材料的晶体结构,大幅降低了...
01-21
  “今年是我在双台镇过冬的第6年,准备住到5月份再回去。”1月16日一大早,59岁的张贺强就前往辽...
01-21
  1月29日,大年初一。受到持续强降雪的影响,许多要通过高速公路返乡团聚的司机朋友,时刻关注和期待着高...
01-29
  “索要千万逼死丈夫”案的翟欣欣因涉嫌犯敲诈勒索罪,案件将于今日开庭。  苏享茂的哥哥苏享龙此前也曾对外发布消息,说已接法院通知,翟欣欣涉嫌敲诈勒索一案,定于2025...
01-21
有海的城市,好像会更浪漫些。想象一下,坐在海边,感受着轻柔的海风,聆听着海浪拍打礁石的声音;在海水退潮时,踏入浅滩,翻开一块块礁石,寻找...
01-21
1 月 23 日消息,雷丁汽车宣布旗下 2025 款雷丁芒果 Pro 微型车现已经上市,仅提供“220 基础版(实际续航 201 公里)”,指导价为 5.39 万元。该车整体小巧,造型方正,前脸配备...
01-24
在全球汽车产业风起云涌的变革浪潮中,中国汽车品牌正以坚定的步伐和昂扬的姿态,向世界展示着中国力量。1月22日,一场以“心所向,自纵横”为主题的盛会在北京国家会议中心隆重举...
01-24
《余烬之上》那个老警察是谁?《余烬之上》中的老警察有罗斯。罗斯在剧中是一位经历丰富的警官,在最新更新的剧情里,廖思远曾与老警官罗斯有精彩对手戏,廖思远...
02-21
《揽月抱遗珠之八零好日子》是近期热门的电视剧之一,吸引了大量观众。该剧在剧情和演员表现方面都取得了成功,成为一部佳作。这部剧于10:00上线,属于女频穿越...
02-22
  冬天到了,皮肤干痒,后脚跟上又坑坑洼洼结满了死皮。几日前,老王(化姓)来到家门口的足浴店,想对双...
01-23
  即将告别春节假期,你有没有不想上班、不想上学、不想起床?从“假期模式”切换到“工作模式”还不太适应?如何调整?指南请收好↓↓↓  01  什么是“节后综合征”? ...
02-07
  近日,在第三届全球数字贸易博览会上发布了首批全国农村电商“领跑县”典型案例,曹县是山东省唯一上榜者。文化自信是新时代的突出优势,也是新时代文化的鲜明标识。正是...
01-21
2025年1月18日至19日,由东北新闻网主办的“名班主任工作室对标对表结项书撰写指导与成果孵化”培训会在...
01-21
  车险作为财险业的第一大险种,其保费情况备受市场关注。随着险企2024年四季度偿付能力报告陆...
02-13
经济观察网 记者 胡群 在当前的转型和重塑关键时期,中国银行业面对低息差新常态和数字金融的快速发展,如何审慎评估和应对挑战与机遇?2023年,我国商业银行净利润增速放缓,平均资...
02-13
星座一直以来都是人们津津乐道的话题,尤其是在爱情方面。每个星座都有自己独特的性格特...
01-22
双子男是一个善于交际、机智聪明的星座,他们通常能够与人轻松相处并保持积极的态度。然...
01-22
冬季男穿搭? 1、英伦绅士风  英伦风打扮的关键特性就是说精美、修身养性。在严寒的冬天,一套打扮得当的英伦风服装,将你的绅士精美反映得酣畅淋漓。  搭配技巧:英伦绅士风...
02-07
北方模特学校:揭秘T台走秀背后的精彩与挑战走在T台上,灯光璀璨、聚光灯下的一瞬间,模特们如同闪耀的星星。这种华丽的场景,对于许多追逐梦想的年轻人来说,是无比向往的。然而,作为...
02-07
京东也要分一杯羹。京东app近日上线了“国内打车服务”。打开京东app进入首页,搜索“打车”,便出现“国内打车服务”的选项,点击该选项后,页面跳入”易企出行“小程序,用京东账号...
02-18
2月20日消息,天猫商家开年再迎利好,今日,天猫面向新入驻商家的扶持政策“蓝星计划2025”全面升级,加码“商家培育”及“经营激励”政策,帮助新商家快速落地淘宝天猫,打造爆款,实现...
02-21
2月9日消息,文化和旅游部近日公布2024年全国智慧旅游十佳解决方案和2024年全国智慧旅游优秀解决方案名单。“携程入境游景区融合服务平台解决方案”脱颖而出,荣获十佳解决方案...
02-09
3月8日消息,第115个“三八”国际劳动妇女节到来之际,京东互联网医院联合全国三甲医院妇科、皮肤科、精神心理科等领域权威专家,推出一系列健康关爱活动,通过线上线下结合的义诊...
03-09
近年来,浙江晨丰科技股份有限公司(以下简称“晨丰科技”)在复杂多变的市场环境中,凭借敏锐的市场洞察力和果断的战略布局,积极投身新能源领域,成功实现了业务多元化发展,展现出强大...
01-23
2024年末,一位科技创业者火了。作者 | 王思琪来源 | 投资家(ID:touzijias)2024年末,一位科技创业者火了。2025年初,这位创业者再度爆火。近日,中国科技行业因一位85后年轻人现身《...
01-24
在2024年1月,育碧推出了《波斯王子:失落的王冠》,尽管游戏广受好评,但育碧以销量不佳为由将其开发团队解散,开发人员则被分配到了育碧的其他项目中。而最近,通过一名...
02-02
近期微软在Windows 11的更新策略上一直备受争议,尤其是在全新安装或首次设置时,系统会强制联网下载并安装更新,这一过程通常需要花费较长时间。 最新的消息显示...
02-12
极目新闻记者 陈倩摄影记者 刘中灿“我们军工人真不容易。他们(指黄旭华和同事们)是搞水下的,比我们更艰难。”2月9日,在吊唁黄旭华的现场,中船集团701所的退休职工许志同深有感...
02-09
极目新闻记者 康旭阳2月9日消息,阿里云宣布百炼平台全面上线DeepSeek-V3、DeepSeek-R1、DeepSeek-R1-Distill-Qwen-32B等6款全尺寸模型,1元最高可享受200万tokens,即日起,所有用...
02-09
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮