当红炸子鸡DeepSeek,为何花心思自研存储?

5个月前 来源:央广网 观看:72

这两天DeepSeek开源3FS并行文件系统的消息,犹如向AI基础设施领域投下一枚深水炸弹。3FS每秒能搬运6.6TB数据,相当于1秒钟传输完700部4K高清电影。还能自动调资源,国产芯片用了它,跟国际大牌的差距直接缩小到15%。SdI即热新闻——关注每天科技社会生活新变化gihot.com

这并非简单的技术迭代——当Llama3 70B模型单次训练需吞掉15PB数据(相当于连续播放250万小时4K视频)时,全球AI实验室突然意识到:决定大模型训练效率的不仅是GPU算力,存储系统正成为影响进度的一大瓶颈。SdI即热新闻——关注每天科技社会生活新变化gihot.com

当AI算力狂飙时,存储正在成为隐形战场SdI即热新闻——关注每天科技社会生活新变化gihot.com

2024年,某头部AI公司曾因存储带宽不足,导致2000张A100显卡的算力利用率长期低于40%,单日经济损失超百万美元。这暴露了AI时代的“木桶效应”——当GPU计算速度进入微秒级时,一次突发的存储抖动就可能导致整个训练任务崩溃,让数周的计算成果瞬间蒸发。这或许也是DeepSeek自研存储的原因。SdI即热新闻——关注每天科技社会生活新变化gihot.com

数据显示,存储优化可直接将175B参数模型的训练周期压缩30%,对应百万美元级的成本被填平。而在推理端,当10%的异常请求遭遇存储延迟波动时,P99响应时间会瞬间突破SLA红线,这正是某自动驾驶公司在线服务突发降级的根本诱因。SdI即热新闻——关注每天科技社会生活新变化gihot.com

DeepSeek之所以选择自研3FS的本质,正是发现了存储架构在AI应用中的重要性。《金融行业先进AI存力报告》中提到,在同样的GPU算力规模下,存储性能的高低可能造成模型训练周期数倍的差异。在算力竞赛的背后,一场关于存储性能密度的暗战悄然升级,自研存储显得尤为重要。SdI即热新闻——关注每天科技社会生活新变化gihot.com

5家头部厂商角逐AI存储,国产能否拔得头筹SdI即热新闻——关注每天科技社会生活新变化gihot.com

相比于传统AI的需求,大模型对存力需求场景具有数据量大、参数规模大、训练周期长等特点。SdI即热新闻——关注每天科技社会生活新变化gihot.com

为了提升大模型训练速度,需要对大规模数据集进行快速加载,且一般采用数百甚至上万张GPU构成计算集群进行高效的并行计算,需要高并发输入/输出(I/O)处理,而训练数据集呈现海量小文件的特点,文件量在几亿到几十亿量级,对应的带宽需求可能每秒要达到上TB,这就要求存储系统具备强大的数据管理能力,业界能达到该能力的仅寥寥几家。SdI即热新闻——关注每天科技社会生活新变化gihot.com

从国内外优秀的并行存储产品具体能力对比来看,IBM作为老牌存储品牌,其产品从HPC场景成功向AI场景演进。在全球AI场景得到广泛应用的DDN,多个读、写带宽等关键性能指标上表现突出,但DDN由于技术封闭性、专有化硬件等原因,导致用户建设成本过高。SdI即热新闻——关注每天科技社会生活新变化gihot.com

国产厂商DeepSeek 3FS虽然是开源的新产品,但相对老牌存储也有不错的表现,在读带宽能力上表现优异,单集群6.6TB/s,平均单节点36.7GB/s的读带宽。SdI即热新闻——关注每天科技社会生活新变化gihot.com

另一家国产厂商京东云云海,在这个专业领域同样表现出色,以单节点95GB/s的读带宽、60GB/s的写带宽,进一步拉低了国产存储与国际老牌厂商的差距。相较于DeepSeek的3FS,京东云云海在提供高性能的同时适用性更广,可以同时满足DeepSeek、ChatGPT、LLaMA等20余种主流大模型的存力需求。SdI即热新闻——关注每天科技社会生活新变化gihot.com

综上来看,随着大模型快速向纵深场景演进,对存储的要求也越来越高,DeepSeek 3FS、京东云云海等国产存储,显示出在处理大规模数据集时的优越性能。未来国产存储能否拔得头筹,让我们拭目以待。SdI即热新闻——关注每天科技社会生活新变化gihot.com

这两天DeepSeek开源3FS并行文件系统的消息,犹如向AI基础设施领域投下一枚深水炸弹。3FS每秒能搬运6.6TB数据,相当于1秒钟传输完700部4K高清电影。还能自动调资源,国产芯片用了它,跟国际大牌的差距直接缩小到15%。SdI即热新闻——关注每天科技社会生活新变化gihot.com

这并非简单的技术迭代——当Llama3 70B模型单次训练需吞掉15PB数据(相当于连续播放250万小时4K视频)时,全球AI实验室突然意识到:决定大模型训练效率的不仅是GPU算力,存储系统正成为影响进度的一大瓶颈。SdI即热新闻——关注每天科技社会生活新变化gihot.com

当AI算力狂飙时,存储正在成为隐形战场SdI即热新闻——关注每天科技社会生活新变化gihot.com

2024年,某头部AI公司曾因存储带宽不足,导致2000张A100显卡的算力利用率长期低于40%,单日经济损失超百万美元。这暴露了AI时代的“木桶效应”——当GPU计算速度进入微秒级时,一次突发的存储抖动就可能导致整个训练任务崩溃,让数周的计算成果瞬间蒸发。这或许也是DeepSeek自研存储的原因。SdI即热新闻——关注每天科技社会生活新变化gihot.com

数据显示,存储优化可直接将175B参数模型的训练周期压缩30%,对应百万美元级的成本被填平。而在推理端,当10%的异常请求遭遇存储延迟波动时,P99响应时间会瞬间突破SLA红线,这正是某自动驾驶公司在线服务突发降级的根本诱因。SdI即热新闻——关注每天科技社会生活新变化gihot.com

DeepSeek之所以选择自研3FS的本质,正是发现了存储架构在AI应用中的重要性。《金融行业先进AI存力报告》中提到,在同样的GPU算力规模下,存储性能的高低可能造成模型训练周期数倍的差异。在算力竞赛的背后,一场关于存储性能密度的暗战悄然升级,自研存储显得尤为重要。SdI即热新闻——关注每天科技社会生活新变化gihot.com

5家头部厂商角逐AI存储,国产能否拔得头筹SdI即热新闻——关注每天科技社会生活新变化gihot.com

相比于传统AI的需求,大模型对存力需求场景具有数据量大、参数规模大、训练周期长等特点。SdI即热新闻——关注每天科技社会生活新变化gihot.com

为了提升大模型训练速度,需要对大规模数据集进行快速加载,且一般采用数百甚至上万张GPU构成计算集群进行高效的并行计算,需要高并发输入/输出(I/O)处理,而训练数据集呈现海量小文件的特点,文件量在几亿到几十亿量级,对应的带宽需求可能每秒要达到上TB,这就要求存储系统具备强大的数据管理能力,业界能达到该能力的仅寥寥几家。SdI即热新闻——关注每天科技社会生活新变化gihot.com

从国内外优秀的并行存储产品具体能力对比来看,IBM作为老牌存储品牌,其产品从HPC场景成功向AI场景演进。在全球AI场景得到广泛应用的DDN,多个读、写带宽等关键性能指标上表现突出,但DDN由于技术封闭性、专有化硬件等原因,导致用户建设成本过高。SdI即热新闻——关注每天科技社会生活新变化gihot.com

国产厂商DeepSeek 3FS虽然是开源的新产品,但相对老牌存储也有不错的表现,在读带宽能力上表现优异,单集群6.6TB/s,平均单节点36.7GB/s的读带宽。SdI即热新闻——关注每天科技社会生活新变化gihot.com

另一家国产厂商京东云云海,在这个专业领域同样表现出色,以单节点95GB/s的读带宽、60GB/s的写带宽,进一步拉低了国产存储与国际老牌厂商的差距。相较于DeepSeek的3FS,京东云云海在提供高性能的同时适用性更广,可以同时满足DeepSeek、ChatGPT、LLaMA等20余种主流大模型的存力需求。SdI即热新闻——关注每天科技社会生活新变化gihot.com

综上来看,随着大模型快速向纵深场景演进,对存储的要求也越来越高,DeepSeek 3FS、京东云云海等国产存储,显示出在处理大规模数据集时的优越性能。未来国产存储能否拔得头筹,让我们拭目以待。SdI即热新闻——关注每天科技社会生活新变化gihot.com

本文链接:http://www.gihot.com/news-2-1074-0.html当红炸子鸡DeepSeek,为何花心思自研存储?

声明:本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇:“七星连珠”为何并非“罕见奇观”

下一篇:多地积极布局智慧养老 养老机器人已“上岗”

为你推荐
做企业,实际上是做文化。当员工在面对市场苦寻出路,或在诱惑面前左右摇摆之时,文化将成为指引他们找寻正路、穿越周期的明灯。刚刚过...
01-21
在冰上飞驰,在雪上起舞……近几年,冰雪运动、冰雪旅游不断升温,冰天雪地的“冷资源”摇身一变成为“热产业”。《中国冰雪旅游发展报告(20...
01-23
①不少人聚会喜欢在冬日里围炉煮茶轻轻松松地聊聊天。周玉婷 摄②“上门代厨”满足了消费者在家聚餐解...
01-22
  这几天,我国大部地区迎来寒潮天气。从26日上午开始,辽宁迎来今冬以来范围最广、强度最大的一场降雪。...
01-29
  继“City不City”之后,“周五下班去中国”成为海外游客新潮流,韩国年轻人日渐兴起了“去中国过周末”的citywalk。  免签政策开放以来,越来越多的外国游客亲身体验、...
01-21
在一些学校,毕业后选择工作的本科生越来越少了。过去几周,包括清华大学、北京大学、复旦大学等多所知名高校公布了 2023-2024 学年的本科教学质量报告,披露了包括毕业率、就...
01-21
2 月 7 日消息,在福特 2024 年财报电话会议上,首席执行官吉姆・法利向媒体坦言,全尺寸电动或增程电动汽车并不是拖车的理想选择。他说:“它并不完美。如果你需要拖车,这...
02-07
2 月 7 日消息,在福特 2024 年财报电话会议上,首席执行官吉姆・法利向媒体坦言,全尺寸电动或增程电动汽车并不是拖车的理想选择。他说:“它并不完美。如果你需要拖车,这...
02-07
温以凡桑延是什么小说?温以凡为什么叫温霜降?温以凡和桑延是小说《难哄》中的主要角色。‌这部小说由竹已创作,讲述了温以凡和桑延之间的爱情故事。温以凡回到...
02-19
柏林国际电影节闭幕,《植物学家》荣获新生代Kplus单元大奖在万众瞩目的柏林国际电影节上,一部来自中国的电影力作脱颖而出,成为全场焦点。日前,该电影节正式落下帷幕,并揭晓了各...
02-23
记者:董瑞丰、李恒、徐鹏航、顾天成 制作:潘一景、熊争艳、吴梦桐 新华社国内部出品...
01-21
21世纪经济报道记者 韩利明 上海报道时值呼吸道传染病高发的季节,中国疾控中心最新监测数据(2025年第2周)显示,本周急性呼吸道传染病疫情仍处...
01-24
  大众网记者 张明明 报道  8月26日至30日,第七届全国高校青年教师教学竞赛决赛在上海交通大学举行。山东第一医科大学附属省立医院青年教师李毅荣获医科组二等奖,在31...
01-21
  六月二十三日,我在浐灞参观交警队。  今天我早早的就起床了,因为我今天我要去浐灞参观交警队。我坐上地铁只倒了一辆车就到了。  到了交警队我们第一站就到了个犯人...
01-21
  “我行现与周大生合作推出‘金蛇迎春’贺岁金钞,有限时优惠活动。一张贺岁金钞附赠一张蛇钞,...
01-22
  8起违法违纪案件被通报,累计被罚超5800万,内控合规风险依然突出,营收净利双降的交通银行如何来...
01-24
双鱼男对摩羯女有着特殊的感觉,他们总是不自觉地被摩羯女所吸引。这种吸引力来自于双鱼...
01-22
天蝎座的男生通常都是非常专注和冷静的,但当他们爱上一个女生时,他们也会渴望被她撒娇。...
01-22
日系穿搭特点?一、日系穿搭的特点在穿搭方面日系风简直把休闲做到了极致,要说亚洲潮流文化发祥地,原宿绝对是一大圣地这里除了有常见的时尚大牌,还有亲民的牌子,日系穿搭的主要特...
02-07
世界知名大学?1哈佛大学美国2斯坦福大学美国3牛津大学英国4剑桥大学英国5麻省理工学院美国6东京大学日本7哥伦比亚大学美国8巴黎大学法国9耶鲁大学美国10普林斯顿大学美国11...
02-07
2月15日消息,段永平在美国管理的一个投资账户“H&H International Investment”提交的最新数据显示,截至2024年四季度,段永平持有8只美股,持仓市值145.16亿美元,约合人民币1053亿...
02-16
2月20日消息,随着2025年空调消费旺季提前启动,苏宁易购与美的开启“火三月”大促。双方将依托国家以旧换新补贴政策加码、核心新品矩阵首发及百亿级战略合作资源,打造全年力度...
02-21
听花酒又支棱起来了?近日,多名网友发帖称,看到听花酒投放的电视广告——广告画面简洁,宣传语为“听花酒,装在瓶子里的春天”,并附上咨询...
03-01
3月2日消息,银联-Visa“北京中轴线无障碍支付服务旅游示范区”启动仪式日前在北京坊举行。北京市文化和旅游局将携手中国银联与Visa,合作共建银联-Visa“北京中轴线无障碍支付...
03-03
全球性金融券商集团英国EBC Group平台始终致力于以领先生态,与全球交易者共塑交易的未来。 自第一届交易大赛起,为赤忱的热爱和卓越的才华提供舞台,在全球内寻找交易好手以赋能...
01-24
2月5日,有投资者在投资者互动平台向东峰集团提问:公司公告预计亏损5亿元左右,感觉公司今年在洗澡。国资入主后是否会调整并购策略?未来准备如何提升公司经营业绩?东峰集团在投资...
02-09
2月1日,开发商Tripwire Interactive宣布,恐怖第一人称射击游戏《杀戮空间3》将于 3 月 25 日发售,登陆Steam、Epic、PS5和Xbox Series X|S,游戏预购现已开启,Steam...
02-02
在经历了《质量效应:仙女座》和《圣歌》这两款彻底失败的游戏后,《龙腾世纪:影障守护者》的开发商BioWare亟需这款游戏大获成功。尽管它广受许多玩家喜爱,但最终还...
02-02
极目新闻记者 陈凌燕WTA官方社交平台截图2月6日,郑钦文抵达多哈。WTA1000多哈站是2025赛季首个1000级别赛事,郑钦文的亮相,引发大量球迷关注。眼尖的球迷更发现,郑钦文团队中添...
02-06
近日,山西大同古城某商户因未按要求亮灯,遭多名工作人员撬锁并强制开灯一事,引发广泛关注。2月7日,山西大同平城区古城街道发布致歉信。致歉信称,因古城街道工作方法失当,引起“破...
02-07
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮