视觉模型训练成本一年下降80%,中国AI厂商“掀起”全球算力降价潮

6个月前 来源: 观看:78

  视觉模型训练成本一年下降80%,中国AI厂商“掀起”全球算力降价潮NWe即热新闻——关注每天科技社会生活新变化gihot.com

  2024年过去,AI又走过了狂奔的一年,大模型加速落地的热切、应用场景创新的火热和高投入、商业化缓慢带来的“下牌桌”焦虑同时处在这个行业。NWe即热新闻——关注每天科技社会生活新变化gihot.com

  回过头看来,过往行业共识的一些问题在2024年中被打上了问号,例如智能算力还是否短缺、中国AI企业的“算力焦虑”是必要的吗?Scaling Law(规模法则)还值得信仰吗?NWe即热新闻——关注每天科技社会生活新变化gihot.com

  辞旧迎新之际,中国AI行业的“拐点”时刻更受关注。不再统一的答案背后,值得关注的是,对中国AI企业来说,一些好的变化正在发生,也有更多挑战等待2025年去回答。NWe即热新闻——关注每天科技社会生活新变化gihot.com

  训练成本下降NWe即热新闻——关注每天科技社会生活新变化gihot.com

  2024年12月27日,海外社交媒体平台X被来自中国的大模型DeepSeek-V3刷屏,这一模型能力对标头部模型,但训练的预算却非常低,“2048个GPU、2个月、近600万美元”,相比之下,GPT-4o等模型的训练成本约为1亿美元,至少在万个GPU量级的计算集群上训练。NWe即热新闻——关注每天科技社会生活新变化gihot.com

  这是一项展现了极致性价比的训练成本数据。在已开源的论文中,幻方量化旗下AI公司深度求索(DeepSeek)强调了DeepSeek-V3训练成本较低――通过对算法、框架和硬件的优化协同设计,在预训练阶段,模型每训练1万亿token仅需要18万个GPU小时,即在团队配备2048个H800 GPU的集群上只需3.7天,也就是说,团队的预训练在不到2个月的时间完成。加上后训练,DeepSeek-V3完整训练消耗了278.8万个GPU小时。假设H800 GPU的租用价格为每块GPU 2美元/小时,DeepSeek-V3的全部正式训练成本总计仅为557.6万美元。NWe即热新闻——关注每天科技社会生活新变化gihot.com

  DeepSeek的成功并非个例,值得关注的是,在英伟达显卡等高端算力资源受限的情况下,2024年,许多中国AI企业正在找到降低训练成本的方法。NWe即热新闻——关注每天科技社会生活新变化gihot.com

  极佳科技联合创始人兼首席科学家朱政向第一财经记者透露,过去一年,极佳科技训练大模型的成本也在大规模下降。朱政介绍,之前极佳科技训练一个视觉模型大概需要500万美金,基本上是一个语言模型的1/10,但现在他们已经把这个成本降到了100万美金以下。NWe即热新闻——关注每天科技社会生活新变化gihot.com

  从训练成本的降低来看,朱政表示“方法有很多”,一方面,大模型公司正在关注与云厂商加强合作,通过做一些训练加速、通讯优化、设置优化等降低成本。同时,行业对数据优化也更为重视,之前行业用Scaling Law只是在对数据,但对完数据后并没有做非常多相应的优化,事实上数据优化带来的训练效率提升空间也很大。NWe即热新闻——关注每天科技社会生活新变化gihot.com

  中国AI企业的“抢卡”焦虑也因此有所缓解,朱政表示,例如英伟达最新发布的显卡还是要买,得买最新的架构的显卡,但随着训练效率的提升,需要的规模会下降。他同时表示,来到100万美金以下,未来进一步下探大模型的训练成本将是一件更困难的事情,可能不是一家企业能搞定的事情,可能需要训练框架的支持、编程语言的支持包括显卡算式的支持。NWe即热新闻——关注每天科技社会生活新变化gihot.com

  从全行业的角度来看,蚂蚁集团科技战略与执行部副总经理彭晋对第一财经记者表示,在采购先进算力有些困难的情况下,国内也在推进国产算力的替代,各大公司都在不断采购一些国产算力,从蚂蚁的实践来看,国产算力已经可以支撑很大规模,比如在千亿参数甚至以上规模的模型训练中国产算力是没有问题的。至于到下一步,例如说要建十万卡规模的集群,国产算力能否支撑有待进一步检验。NWe即热新闻——关注每天科技社会生活新变化gihot.com

  “远虑”仍存,但走过2024年,中国企业的“算力焦虑”正在回归理性。NWe即热新闻——关注每天科技社会生活新变化gihot.com

  未来趋势NWe即热新闻——关注每天科技社会生活新变化gihot.com

  2025年,中国AI行业会有哪些变化?NWe即热新闻——关注每天科技社会生活新变化gihot.com

  北京智源人工智能研究院在《2025十大AI技术趋势》报告中指出,从基础设施到产品应用,Scaling Law、基础模型、具身智能、超级应用、AI安全等AI发展的关键方向都可能在2025年迎来新的变化。NWe即热新闻——关注每天科技社会生活新变化gihot.com

NWe即热新闻——关注每天科技社会生活新变化gihot.com

  报告认为,AI4S驱动科学研究范式变革;具身智能领域具身大小脑和本体的协同进化;统一的多模态大模型实现更高效AI;Scaling Law扩展向RL + LLMs,模型泛化从预训练向后训练、推理迁移;世界模型加速发布,有望成为多模态大模型的下一阶段;合成数据成为大模型迭代与应用落地的重要催化剂;推理优化迭代加速,成为AI Native应用落地的必要条件;Agentic AI成为产品落地的重要模式;AI应用将迎来Super APP以及AI安全治理体系的持续完善将成为2025年AI技术发展的十大趋势。NWe即热新闻——关注每天科技社会生活新变化gihot.com

  不少中国自研的技术和产品让业内看到了这些趋势的到来。2024年9月,蚂蚁发布了支小宝、蚂小财等系列AI管家产品,探索更多服务类智能体形态,2024年10月,智源研究院发布了完全自研的基于自回归技术的原生多模态世界模型Emu3,实现了视频、图像、文本三种模态的统一理解和生成,2024年年底,豆包月活跃用户数达到了7116万,成为国内第一、全球第二的AI原生应用。NWe即热新闻——关注每天科技社会生活新变化gihot.com

  智能研究院行业研究组负责人倪贤豪提到,走过2024年全年来看,与2023年相比,国内AI整体的应用热度已明显升温,相比2023年第一季度,他所在的团队调研到,2024年第四季度,整个基础模型的垂直产业链以及其他赛道AI应用的成熟度已有了明显提升,例如AI在3D内容、AI硬件等场景的应用以及医疗文献处理等未来场景的探索中,都有了明显拓展。NWe即热新闻——关注每天科技社会生活新变化gihot.com

  从国内大模型公开中标项目的类型分布来看,2024年10月,大模型应用类项目数量首次超过了算力类项目,应用类大模型招标项目占比已达到56%,国产大模型在垂直行业实现了加速落地,或是在诸多中大型企业扮演中台性质的基础设施。NWe即热新闻——关注每天科技社会生活新变化gihot.com

  AI应用领域的Super APP能否在2025年出现同样受到业内关注。从C端的用户规模、交互频次、停留时长等维度来看,目前,国产AI应用尚未出现爆发式增长,倪贤豪表示,随着大模型推理成本的下降,包括开发工具的适配、框架的创新以及应用安全、决策的可解释性、鲁棒性等问题的解决,未来,推动Agent解决复杂问题的能力提升将变得更有可能也更关键。他认为,从用户视角切入,以需求反推技术或许能撬动AI应用的用户存量和增量市场,Super APP在2025年的诞生值得期待。NWe即热新闻——关注每天科技社会生活新变化gihot.com

  “当前,我们处在人工智能发展的新拐点,大模型的能力涌现加速通用人工智能时代的到来,原生统一多模态、具身智能、AI for Science,将进一步深化人工智能对世界的感知、理解与推理,连接数字世界与物理世界,驱动科学研究创新突破。”智源研究院院长王仲远表示。NWe即热新闻——关注每天科技社会生活新变化gihot.com

本文链接:http://www.gihot.com/news-4-443-0.html视觉模型训练成本一年下降80%,中国AI厂商“掀起”全球算力降价潮

声明:本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇:将于本月内生效!泰国颁布紧急法令打击电信网络诈骗

下一篇:失去始祖鸟代理权 三夫户外自救

为你推荐
中新社香港1月21日电 国泰集团21日公布数据显示,2024年,国泰航空及香港快运全年共载客逾2800万人次,同比上升30.7%;国泰货运全年共运载150万吨货物,同比增长11%。据统计,2024年12...
01-22
  开年A股第一宗并购!紫金矿业137亿元入主藏格矿业  1月16日,备受市场瞩目的2025年A股并购第一单落锤。  1月16日晚间,藏格矿业(000408.SZ)公告,紫金矿业(601899.SH)同步...
01-21
  近日,丰田中国宣布雷克萨斯中国执行副总经理李晖升任总经理,这是丰田入华以来首次由非日本籍...
01-21
1 月 23 日消息,鸿蒙智行昨日宣布推出“新春出行保障”服务,活动时间为 1 月 22 日(小年)-2 月 5 日(初八),活动对象为鸿蒙智行问界、智界、享界全系车主。整理活动内容如...
01-23
SQL Error: select * from ***_ecms_news5 where id in(,230) limit 2
  “当前,全国范围内呼吸道传染病流行情况已经下降,流感样病例占比有所下降,肺炎支原体等阳性率持续下降,新冠病毒等其他呼吸道疾病继续处于低流行水平。”在26日举行的...
01-28
这里是《21健讯Daily》,欢迎与21世纪经济报道新健康团队共同关注医药健康行业最新事件!政策动向国家药监局出台新规支持化妆品原料创新 2月6...
02-07
  大众网记者 杨涛报道  近日,在第十六届山东省大学生科技节——山东省大学生消防安全技能大赛中,青岛港湾职业技术学院应急管理学院23级建筑消防技术与应急救援技术专...
01-21
  大众网记者 杨涛报道  12月10日,山东港口第二届青年志愿服务项目大赛决赛在潍坊市渤海湾航运举行,青岛港湾职业技术学院“德传巷陌 艺润万家”文化惠民志愿服务项目...
01-21
  近日,中国太平保险集团有限公司在香港成功发行了亚洲首只采用双风险、双触发机制的巨灾债券...
01-21
  近日,由元保集团(以下简称“元保”)和清华大学五道口金融学院中国保险与养老金融研究中心联合...
01-22
狮子座男生通常是阳光、自信和热情的代表,当他们喜欢上一个人时,会展现出一系列明显的行...
01-22
狮子座的男生通常都有一颗自信而强大的心,他们喜欢追求并征服那些吸引他们的人。当狮子...
01-22
2017 T台上的风潮:皮裤模特的时尚之旅回顾2017年,时尚界交相辉映,各大品牌在T台上用于展示最新潮流的方式层出不穷。而在这个过程中,皮裤作为一种独特的时尚单品,成功吸引了观众...
02-07
男士衬衫搭配什么颜色的外套好看有图?首先推荐同时容易上身又好打理的单色衬衫一般有,牛津纺衬衫,青年布衬衫和牛仔衬衫。这三种面料够厚实不会软塌塌,单穿外搭都可以。最简单的...
02-17
会员数两年增长十倍。1、1688 PLUS会员数已突破千万没想到,阿里1688会这么猛。根据阿里巴巴1688最新的数据,截至2024年12月底,1688PLUS付费会员数量已突破1000万大关。值得注意...
02-07
京东官宣入局外卖市场。今日下午,京东宣布京东外卖正式启动“品质堂食餐饮商家”招募。京东表示,2025年5月1日前入驻的商家,全年免佣金。对于已签约商户佣金政策是否调整,接近京...
02-12
3月3日消息,2025年第九届亚洲冬季运动会(以下简称“亚冬会”)近日在冰雪之城哈尔滨落下帷幕。在“亚冬会”举办期间,银联商务全力保障“亚冬会”现场和周边服务的支付便利,同时推...
03-04
图片来源:图虫创意 在2025年全国两会期间,全国人大代表、天...
03-09
2024年末,一位科技创业者火了。作者 | 王思琪来源 | 投资家(ID:touzijias)2024年末,一位科技创业者火了。2025年初,这位创业者再度爆火。近日,中国科技行业因一位85后年轻人现身《...
01-24
全球性金融券商集团英国EBC Group平台始终致力于以领先生态,与全球交易者共塑交易的未来。 自第一届交易大赛起,为赤忱的热爱和卓越的才华提供舞台,在全球内寻找交易好手以赋能...
01-24
《异界锁链》监督、《尼尔:机械纪元》设计师田浦贵久似乎已经从白金工作室离职。 上个月,玩家们猜测这位核心创作者可能换了工作,因为他从自己的X(原推特)账号信息...
01-27
《GTA6》发行商Take Two在宣布该作仍计划在2025年秋季发售不会延期后,公司股价大涨,市值终于超过了长期竞争对手EA。目前Take Two市值为373.2亿美元,高于EA(346亿...
02-11
据网络平台数据截至2月5日13时29分2025年春节档上映新片(含春节档结束后)总票房(含点映及预售)突破100亿!截至2月5日9时2025年春节档总观影人次突破1.87亿超2024年春节档总观影人...
02-05
安徽省政协党组成员、副主席周喜安涉嫌严重违纪违法,目前正接受中央纪委国家监委纪律审查和监察调查。(总台央视记者 宋琎)...
02-06
“三国是一个好IP。”在当下中国的游戏市场上,以《西游记》《三国演义》等四大名著为内容IP而衍生开发的游戏,仍然在头部产品中占据...
01-21
不久前,国家卫生健康委、国家中医药局、国家疾控局联合发布《卫生健康行业人工智能应用场景参考指引》,列出药物研发等84种具体应用场景,为人工智能(AI...
01-21
  1月26日起,我省迎来强降雪寒潮大风天气。省住房城乡建设厅根据气象部门预报信息,提前印发通知,要求各...
01-28
  国家移民管理局10日发布公告,即日起,实施东盟国家旅游团入境云南西双版纳免签政策,10个东盟国...
02-11
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮