北京AI破壁之路 端侧小模型跑出大能量

4天前 来源:北京日报 观看:18

nx0即热新闻——关注每天科技社会生活新变化gihot.com

在清华科技园科建大厦3楼,面壁智能联合创始人、CEO李大海的办公室中央挂着一幅大型拼图,一艘船在风雨中劈波斩浪。nx0即热新闻——关注每天科技社会生活新变化gihot.com

今年已是李大海来到中关村的第23年。nx0即热新闻——关注每天科技社会生活新变化gihot.com

2006年,从北京大学数学系毕业后,李大海加入谷歌中国,成为创始员工之一。后来他又参与了云云网、豌豆荚、知乎的创业。2023年,一场大模型掀起的技术风暴席卷而来,时任知乎CTO的李大海决定投身其中。当年4月,在李大海的推动下,知乎完成了对面壁智能的独家天使轮投资。nx0即热新闻——关注每天科技社会生活新变化gihot.com

李大海看好面壁智能,是因为其创始人、青年科学家刘知远是国内首批开展大模型研究的研究者之一。2020年12月,刘知远团队发布了全球第一个中文开源大模型“CPM”,这一项目也是后来中国奠基性大模型“悟道”的前身。两年后,刘知远发起成立面壁智能。nx0即热新闻——关注每天科技社会生活新变化gihot.com

投资一家优秀的大模型企业,对李大海来说绝非终点。大模型掀起的汹涌浪潮让他兴奋得难以入睡。“这是一场堪比蒸汽机改变世界的大变革!”一次次在深夜爬起来看代码、追踪大模型前沿进展的李大海,决定从大厂高管转身,再次创业。2023年6月,李大海出任面壁智能CEO。nx0即热新闻——关注每天科技社会生活新变化gihot.com

彼时,大模型领域激战正酣,一场前所未有的“百模大战”正在上演。与此同时,随着大模型迅猛发展,作为大模型“燃料”的算力告急,行业内出现GPU“一卡难求”“排队预定”的局面。如何才能从白热化的竞争中杀出重围?nx0即热新闻——关注每天科技社会生活新变化gihot.com

高效——是李大海与团队给出的答案。“与其盲目地把模型做大,不如花更多精力让模型变好,以同样的模型参数量实现更高的智能与知识密度。”基于对大模型本质规律的观察,他们提出了大模型的密度定律(DensingLaw):大模型知识密度每3.3个月翻一番,大模型将变得越来越“小”,同时能力越来越强。nx0即热新闻——关注每天科技社会生活新变化gihot.com

基于这一理念,团队选择避开同质化严重的对话式AI聊天机器人,将视野转向了一个在当时看来不算热门的方向——端侧大模型。李大海认为,人们的生活早已离不开手机、平板、汽车等各种各样的硬件终端设备,而在不久的将来,这些智能终端都将拥有具备自主思考能力的“超级大脑”。nx0即热新闻——关注每天科技社会生活新变化gihot.com

“我们要让小模型跑出大能量,让本地模型能力满足日常绝大多数的智能需求。”李大海坚信,相比于时下最火热的跑在“云”上,并且需要大量算力的千亿级超大模型,在“断网、弱网”环境下,仍然能让各种智能终端具备自主思考能力的端侧大模型,将成为面壁独特的竞争力。nx0即热新闻——关注每天科技社会生活新变化gihot.com

用更小的参数、更高的效率、更低的成本,实现更好的智能——达到这个目标,并不容易。“模型能力日新月异,但模型效率的领先如同芯片制程一般,须形成比较硬的相对优势。我们要攻克的,就好比大模型行业的‘光刻机’。”李大海说。nx0即热新闻——关注每天科技社会生活新变化gihot.com

拿算法来说,过去,由于模型训练过程中充满不确定性,传统的大模型训练被业界戏称为“炼丹”。而面壁研发团队通过上千次模型沙盒实验,在算法的各种细节上摸索出了一系列最优配置,大幅优化了模型效果。nx0即热新闻——关注每天科技社会生活新变化gihot.com

为了打磨大模型“光刻机”,从高质量的数据原材料,到模型训练与调校,一个个环环相扣的细节,研发人员都细细打磨。2024年初,面壁推出了端侧大模型MiniCPM,用仅仅24亿参数实现了超过百亿参数大模型的性能。nx0即热新闻——关注每天科技社会生活新变化gihot.com

“超级大脑”仍在不断进化。今年1月,面壁智能发布MiniCPM-o2,这也是全球首个达到OpenAI公司GPT-4o水平的端侧多模态大模型。这款仅有80亿参数量的模型,能够实时流式处理文本、图像、音频和视频信息,“视、听、说”都很伶俐。nx0即热新闻——关注每天科技社会生活新变化gihot.com

在今年中关村论坛年会期间,面壁又发布了一项领先业界的成果——首个纯端侧超级智能助手,可应用于汽车智能座舱。在端侧大模型的支撑下,即便车辆没有网络,超级智能助手也能随时“在线”,实现从车外到车内的各种感知并执行任务。nx0即热新闻——关注每天科技社会生活新变化gihot.com

由于在安全性、实时性等方面的巨大优势,面壁的端侧模型一经推出就很快获得了法律、消费电子等行业用户的认可。就在上月,面壁与合作伙伴发布了首个纯端侧大模型量产车型。nx0即热新闻——关注每天科技社会生活新变化gihot.com

“2026年,装上面壁端侧模型的设备数将达2025年的10倍。”放眼未来,李大海的眼中是更广阔的星辰大海——未来全球将有400亿的设备终端,它们都有望装上一个个“超级大脑”。nx0即热新闻——关注每天科技社会生活新变化gihot.com

独角兽“秘笈”nx0即热新闻——关注每天科技社会生活新变化gihot.com

冷静取舍 以小博大nx0即热新闻——关注每天科技社会生活新变化gihot.com

智谱、月之暗面、百川智能、零一万物、面壁智能……在今年年初第三方机构公布的国内大模型独角兽排行榜中,多家北京企业赫然在列,显示出创新资源高度集聚的效应。nx0即热新闻——关注每天科技社会生活新变化gihot.com

在被人们称为“宇宙中心”的五道口一带,办公租金并不便宜,李大海坦言,背靠五道口周边极强的人才优势,是成立仅三年的面壁得以迅猛发展的重要原因。nx0即热新闻——关注每天科技社会生活新变化gihot.com

身处北京,依靠全国领先的AI人才资源和“AI第一城”的创新生态,与行业巨头凭借巨额资金和海量算力投入“大力出奇迹”的发展路径不同,以面壁为代表的北京人工智能初创企业,向世界展现出高效创新、“以小博大”的创新范式。nx0即热新闻——关注每天科技社会生活新变化gihot.com

“对创业公司来说,‘不做什么’和‘做什么’都很重要,‘不做什么’甚至更重要。”李大海说。面对巨大机遇,创业公司需要注意的是“专注一个点做透”,并在此过程中不断辨别哪些是应勇于“取”的机遇,哪些是要勇于“舍”的诱惑。在“大炼模型”的风潮下,面壁就曾先后做出不做AI聊天机器人、放弃大模型基础设施等重要决策,专注打磨端侧模型,提升模型效率与知识密度,“以小博大”。nx0即热新闻——关注每天科技社会生活新变化gihot.com

蛇年春节,DeepSeek旋风席卷全球。以低成本实现高性能,正是DeepSeek一鸣惊人之处。《麻省理工科技评论》随后刊发了一篇题为《关注DeepSeek之外的四家中国人工智能初创公司》的报道,点赞中国“四剑客”,其中就有面壁智能。nx0即热新闻——关注每天科技社会生活新变化gihot.com

勇于面壁,方能破壁——Deep-Seek和面壁智能,都在用实际行动印证着一个道理,不盲目跟风,勇于探索新路径,即便在有限的资源环境下也能激发、倒逼出无限的创新潜力。nx0即热新闻——关注每天科技社会生活新变化gihot.com

nx0即热新闻——关注每天科技社会生活新变化gihot.com

在清华科技园科建大厦3楼,面壁智能联合创始人、CEO李大海的办公室中央挂着一幅大型拼图,一艘船在风雨中劈波斩浪。nx0即热新闻——关注每天科技社会生活新变化gihot.com

今年已是李大海来到中关村的第23年。nx0即热新闻——关注每天科技社会生活新变化gihot.com

2006年,从北京大学数学系毕业后,李大海加入谷歌中国,成为创始员工之一。后来他又参与了云云网、豌豆荚、知乎的创业。2023年,一场大模型掀起的技术风暴席卷而来,时任知乎CTO的李大海决定投身其中。当年4月,在李大海的推动下,知乎完成了对面壁智能的独家天使轮投资。nx0即热新闻——关注每天科技社会生活新变化gihot.com

李大海看好面壁智能,是因为其创始人、青年科学家刘知远是国内首批开展大模型研究的研究者之一。2020年12月,刘知远团队发布了全球第一个中文开源大模型“CPM”,这一项目也是后来中国奠基性大模型“悟道”的前身。两年后,刘知远发起成立面壁智能。nx0即热新闻——关注每天科技社会生活新变化gihot.com

投资一家优秀的大模型企业,对李大海来说绝非终点。大模型掀起的汹涌浪潮让他兴奋得难以入睡。“这是一场堪比蒸汽机改变世界的大变革!”一次次在深夜爬起来看代码、追踪大模型前沿进展的李大海,决定从大厂高管转身,再次创业。2023年6月,李大海出任面壁智能CEO。nx0即热新闻——关注每天科技社会生活新变化gihot.com

彼时,大模型领域激战正酣,一场前所未有的“百模大战”正在上演。与此同时,随着大模型迅猛发展,作为大模型“燃料”的算力告急,行业内出现GPU“一卡难求”“排队预定”的局面。如何才能从白热化的竞争中杀出重围?nx0即热新闻——关注每天科技社会生活新变化gihot.com

高效——是李大海与团队给出的答案。“与其盲目地把模型做大,不如花更多精力让模型变好,以同样的模型参数量实现更高的智能与知识密度。”基于对大模型本质规律的观察,他们提出了大模型的密度定律(DensingLaw):大模型知识密度每3.3个月翻一番,大模型将变得越来越“小”,同时能力越来越强。nx0即热新闻——关注每天科技社会生活新变化gihot.com

基于这一理念,团队选择避开同质化严重的对话式AI聊天机器人,将视野转向了一个在当时看来不算热门的方向——端侧大模型。李大海认为,人们的生活早已离不开手机、平板、汽车等各种各样的硬件终端设备,而在不久的将来,这些智能终端都将拥有具备自主思考能力的“超级大脑”。nx0即热新闻——关注每天科技社会生活新变化gihot.com

“我们要让小模型跑出大能量,让本地模型能力满足日常绝大多数的智能需求。”李大海坚信,相比于时下最火热的跑在“云”上,并且需要大量算力的千亿级超大模型,在“断网、弱网”环境下,仍然能让各种智能终端具备自主思考能力的端侧大模型,将成为面壁独特的竞争力。nx0即热新闻——关注每天科技社会生活新变化gihot.com

用更小的参数、更高的效率、更低的成本,实现更好的智能——达到这个目标,并不容易。“模型能力日新月异,但模型效率的领先如同芯片制程一般,须形成比较硬的相对优势。我们要攻克的,就好比大模型行业的‘光刻机’。”李大海说。nx0即热新闻——关注每天科技社会生活新变化gihot.com

拿算法来说,过去,由于模型训练过程中充满不确定性,传统的大模型训练被业界戏称为“炼丹”。而面壁研发团队通过上千次模型沙盒实验,在算法的各种细节上摸索出了一系列最优配置,大幅优化了模型效果。nx0即热新闻——关注每天科技社会生活新变化gihot.com

为了打磨大模型“光刻机”,从高质量的数据原材料,到模型训练与调校,一个个环环相扣的细节,研发人员都细细打磨。2024年初,面壁推出了端侧大模型MiniCPM,用仅仅24亿参数实现了超过百亿参数大模型的性能。nx0即热新闻——关注每天科技社会生活新变化gihot.com

“超级大脑”仍在不断进化。今年1月,面壁智能发布MiniCPM-o2,这也是全球首个达到OpenAI公司GPT-4o水平的端侧多模态大模型。这款仅有80亿参数量的模型,能够实时流式处理文本、图像、音频和视频信息,“视、听、说”都很伶俐。nx0即热新闻——关注每天科技社会生活新变化gihot.com

在今年中关村论坛年会期间,面壁又发布了一项领先业界的成果——首个纯端侧超级智能助手,可应用于汽车智能座舱。在端侧大模型的支撑下,即便车辆没有网络,超级智能助手也能随时“在线”,实现从车外到车内的各种感知并执行任务。nx0即热新闻——关注每天科技社会生活新变化gihot.com

由于在安全性、实时性等方面的巨大优势,面壁的端侧模型一经推出就很快获得了法律、消费电子等行业用户的认可。就在上月,面壁与合作伙伴发布了首个纯端侧大模型量产车型。nx0即热新闻——关注每天科技社会生活新变化gihot.com

“2026年,装上面壁端侧模型的设备数将达2025年的10倍。”放眼未来,李大海的眼中是更广阔的星辰大海——未来全球将有400亿的设备终端,它们都有望装上一个个“超级大脑”。nx0即热新闻——关注每天科技社会生活新变化gihot.com

独角兽“秘笈”nx0即热新闻——关注每天科技社会生活新变化gihot.com

冷静取舍 以小博大nx0即热新闻——关注每天科技社会生活新变化gihot.com

智谱、月之暗面、百川智能、零一万物、面壁智能……在今年年初第三方机构公布的国内大模型独角兽排行榜中,多家北京企业赫然在列,显示出创新资源高度集聚的效应。nx0即热新闻——关注每天科技社会生活新变化gihot.com

在被人们称为“宇宙中心”的五道口一带,办公租金并不便宜,李大海坦言,背靠五道口周边极强的人才优势,是成立仅三年的面壁得以迅猛发展的重要原因。nx0即热新闻——关注每天科技社会生活新变化gihot.com

身处北京,依靠全国领先的AI人才资源和“AI第一城”的创新生态,与行业巨头凭借巨额资金和海量算力投入“大力出奇迹”的发展路径不同,以面壁为代表的北京人工智能初创企业,向世界展现出高效创新、“以小博大”的创新范式。nx0即热新闻——关注每天科技社会生活新变化gihot.com

“对创业公司来说,‘不做什么’和‘做什么’都很重要,‘不做什么’甚至更重要。”李大海说。面对巨大机遇,创业公司需要注意的是“专注一个点做透”,并在此过程中不断辨别哪些是应勇于“取”的机遇,哪些是要勇于“舍”的诱惑。在“大炼模型”的风潮下,面壁就曾先后做出不做AI聊天机器人、放弃大模型基础设施等重要决策,专注打磨端侧模型,提升模型效率与知识密度,“以小博大”。nx0即热新闻——关注每天科技社会生活新变化gihot.com

蛇年春节,DeepSeek旋风席卷全球。以低成本实现高性能,正是DeepSeek一鸣惊人之处。《麻省理工科技评论》随后刊发了一篇题为《关注DeepSeek之外的四家中国人工智能初创公司》的报道,点赞中国“四剑客”,其中就有面壁智能。nx0即热新闻——关注每天科技社会生活新变化gihot.com

勇于面壁,方能破壁——Deep-Seek和面壁智能,都在用实际行动印证着一个道理,不盲目跟风,勇于探索新路径,即便在有限的资源环境下也能激发、倒逼出无限的创新潜力。nx0即热新闻——关注每天科技社会生活新变化gihot.com

本文链接:http://www.gihot.com/news-2-2594-0.html北京AI破壁之路 端侧小模型跑出大能量

声明:本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇:北京市推动人工智能赋能新型工业化

下一篇:借助高科技 “慧眼”识文物

为你推荐
当下,IP成为了企业品牌发展的主旋律,而创始人IP更是企业品牌营销中常见的一个名词。2024年12月26日至28日,全球创始人IP领袖高峰论坛顺应时势,围绕“创...
01-21
1月15日,记者从中国科学院大连化学物理研究所获悉,该所动力电池与系统研究中心主任陈忠伟团队与双登集团近日对外联合发布了最新一代智能电池管理系...
01-21
  为深入贯彻落实党中央、国务院关于加大保障性住房建设和供给的决策部署,通过收购存量商品房方式增加...
02-06
  新春伊始,丹东港迎来粮食生产“开门红”,粮食船舶接续到港。丹东港散粮码头分公司全力抢船期、保生产...
02-17
新闻记者 曹磊通讯员 王璐 吕巍在手机上登录各大外卖、团购、电商平台,搜索“江城百臻”,就能立即下单,10分钟至30分钟内就能够拿到最地道的武汉地理农产品。1月21日,新闻记者从...
01-21
近日,在泰兴市清扬生态果园葡萄基地,务工人员正热火朝天地修剪葡萄树。该果园葡萄种植面积超八十亩,修剪工作已持续一周。果园业主陶伟介绍,修剪是为了让葡萄来年能长出花果,“不...
01-22
1 月 24 日消息,截至 2024 年 12 月 30 日,理想超充站上线超过 1600 站,其中高速理想超充站 714 座、理想城市超充站 895 座。然而,这距离年初公布的2000 站的建站目标...
01-25
“若前方无路,我便踏出一条路;若天理不容,我便扭转这乾坤。”电影《哪吒2》开年“王炸”,让人看到了哪吒打破命运,勇敢做自己,最终活出自我的过程。新年刚过,国内车市异常“开卷”,...
02-07
《难哄》向朗喜欢钟思乔吗?向朗和钟思乔什么关系?在《难哄》中,向朗不喜欢钟思乔。向朗是温以凡和钟思乔的发小,他与钟思乔只是朋友关系,没有爱情方面的感情。向...
02-19
《香草的每天》近期正在热播,播出后反响良好,网上热度持续上升,在各大论坛上也引发了热烈讨论。观众们尤其关注第19集的剧情。在这一集中,作为点心教室最后的学...
02-20
  近年来,公众对颈动脉斑块的关注度越来越高,有些患者甚至主动要求检查是否存在颈动脉斑块。 ...
02-07
21世纪经济报道记者 韩利明 上海报道随着四大跨国疫苗企业辉瑞、葛兰素史克(GSK)、默沙东、赛诺菲陆续发布2024年业绩,21世纪经济报道记者依...
02-11
  大众网记者 秦瑾 通讯员 李永添 报道  12月24日,德州学院董仲舒书院揭牌开班仪式在厚德楼第二报告厅举行。德州市人民政府原副市长、一级巡视员董绍辉,上海交通大学...
01-21
小朋友们走进小区消防监控中心参观  每逢假期,“谁来带娃”“怎么带娃”,让不少家长犯愁。近日,全国妇联、教育部等16部门联合印发通知,要求各地有关部门创新活动载体、挖掘...
01-21
  眼下,国内农产品价格整体回暖引起了市场关注,其中,玉米表现较为“抢眼”,玉米期货主力合约价格...
01-23
经济观察网 记者 胡群 2024年,全球家族办公室的资产配置出现了哪些新动向?近期发布的《瑞银2024年全球家族办公室报告》显示,与上一年度相比,2024年,全球家族办公室的投资策略出...
02-13
白羊座男生通常被认为是热情、冲动和直率的代表。他们对待感情非常认真,一旦爱上一个人...
01-22
摩羯座是黄道带上的第十个星座,出生于12月22日至1月19日期间。摩羯座的人以稳重、务实...
01-22
蓝色条纹衬衫搭配什么马甲?一、蓝色条纹衬衫搭配什么马甲?搭配蓝色牛仔马甲特别匹配,这样的组合特别统一特别有套装的高级感,搭配黑色水洗布马甲也非常协调,黑色百搭经典有低调大...
02-07
校运会帅气穿搭? 帅气穿搭文案?一、校运会帅气穿搭?首先要选择实用性强的,防风、防雨、吸水性的运动服,运动服对于运动员有着非常重要的辅助性作用,能够激发运动员的内在潜能,充分...
02-17
2月3日消息,上海卓钢链电子商务有限公司近日与河南钢铁集团周口钢铁有限公司签署战略合作协议。卓钢链CFO林子云、周口钢铁副总经理邓杭州代表双方签约。图源:卓钢链公众号根...
02-07
1.阿里开放数百AI招聘岗位阿里的野心彻底暴露了,其正以前所未有的力度抢占人才高地,全面加速在AI To C领域的布局步伐。近期,阿里AI To C业务开启大规模人员招聘,开放招聘岗位达...
02-20
2月16日消息,为进一步挖掘哈尔滨消费潜力,加快商家数字化转型,促进“尔滨”餐饮业快速发展壮大,2024年12月20日以来,饿了么平台联合哈尔滨相关部门共同发起“在尔滨还能饿了么”...
02-17
3月6日消息,京东健康发布2024年全年财报。2024年,京东健康总收入582亿元,同比增长8.6%,非国际财务报告准则指标下(Non-IFRS)净利润达47.9亿元,收入和净利润均超过市场预期。截至202...
03-09
近日,柔性钙钛矿电池研发制造企业湖南炎和科技有限责任公司(简称“炎和科技”)完成千万级天使+轮融资,由朝希资本独家投资。炎和科技是一家专注于钙钛...
02-07
2025年,电影《哪吒2》爆火,一个河南85后成了最大赢家。作者 | 老高来源 | 投资家(ID:touzijias)2025年,电影《哪吒2》爆火,一个河南85后成了最大赢家。近日,“全球领先的潮流文化娱...
02-09
英特尔今天公布了2024年第四季度财报,收入同比下跌,转盈为亏,也延续了上个季度的亏损趋势。同时公布的2024年全年财报未能达到市场的预期,收入和利润双双下跌,同样...
02-03
开发了《英雄连》和《战争40K:战争黎明》等游戏的开发商 RelicEntertainment 去年 5 月与世嘉分道扬镳。公司日前概述了其作为独立工作室的未来计划。 Relic ...
02-12
极目新闻记者 陈凌燕收集整理2月7日晚,第九届亚冬会在哈尔滨开幕。关于这场冰雪盛会,这些“热知识”赶紧分享给你。哈尔滨冰雪大世界园区内的第九届亚冬会会徽冰建景观(新华社...
02-08
2月9日,哈尔滨亚冬会速度滑冰男子5000米决赛,中国队包揽金银铜牌。吴宇夺得金牌,刘瀚彬获得银牌,哈那哈提·木哈买提获得铜牌。...
02-09
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮