当前位置:首页 > 科技  > 芯片

1:1:1,浪潮信息的AIGC新答卷

来源: 责编: 时间:2023-09-11 22:34:48 504观看
导读此前我们说过,AS13000融合存储系统是浪潮信息应对AIGC存储的答卷,针对Token、也好,Checkpoint也好,AS13000通过数控分离架构,减少东西向数据量的转发;通过GDS、RMDA技术缩短I/O路径,通过SPDK、缓存零拷贝技术减少I/O路径上的

此前我们说过,AS13000融合存储系统是浪潮信息应对AIGC存储的答卷,针对Token、也好,Checkpoint也好,AS13000通过数控分离架构,减少东西向数据量的转发;通过GDS、RMDA技术缩短I/O路径,通过SPDK、缓存零拷贝技术减少I/O路径上的数据拷贝,以及基于自研NVMe SSD开发的盘控协同技术,减少I/O访问SSD盘的次数,使存储性能得到进一步释放。AS13000全闪单节点带宽超过50GB/s,IOPS超过50万;此外,创新性地引入双控全闪节点,带宽超100GB/s,IOPS超100万,真正使系统具备千万级IOPS、EB级带宽,充分满足AIGC场景对存储系统的苛刻要求。k1D28资讯网——每日最新资讯28at.com


在8月末,在杭州举行的2023全球闪存峰会期间,浪潮信息重磅发布了高性能分布式存储平台,AS15000G7将AIGC存储又带到了一个新的台阶,与此同时,浪潮信息发布了数据中心算力、全闪、混闪,1:1:1黄金比例建设的原则。k1D28资讯网——每日最新资讯28at.com



浪潮信息存储产品线副总经理刘希猛表示:“当前,各个厂商纷纷投资硬件,训练自己的大模型,国内已发布的生成式AI模型超过了100个,‘百模争秀’的格局初现,云厂商和运营商对IT硬件的投资往往是成千上万节点规模,而行业大厂投资在几百节点规模,在建设布局时考虑到AI大模型对高性能AI服务器、高吞吐并行存储系统、低延迟RDMA网络的严苛需求,将数据中心的算力、全闪、混闪按照1:1:1黄金比例建设,可实现用户整体投入最小化。”k1D28资讯网——每日最新资讯28at.com


“一台8卡最先进GPU服务器后端配置的存储节点写带宽要求20GB/s,读带宽要求40GB/s,通常一台全闪存储节点的写带宽是20GB/s,读带宽接近30GB/s,可得到计算节点与全闪节点的数量比例接近1:1。按着数据使用规律,通常热数据和温冷数据的容量配置约为1:10,即全闪单节点容量为50~100TB,混闪节点容量为500~1000TB,全闪节点与混闪节点的数量比例接近1:1。” 刘希猛说。k1D28资讯网——每日最新资讯28at.com


“我们建议用户整体规划布局,避免在存储扩容、数据迁移和数据管理方面随着业务的增加而力不从心,因此按照算力、全闪、混闪节点数量配比1:1:1来设计规划和部署是目前的最优方案。” 刘希猛继续补充说。k1D28资讯网——每日最新资讯28at.com


分布式存储产品线总经理姜乐果表示:AS15000G7是在AS13000基础上的升级迭代,如果说AS13000的特点是极致融合,那么AS15000G7的特点则是极致性能。k1D28资讯网——每日最新资讯28at.com


AS15000G7采用高吞吐并行存储系统,通过GDS、RDMA技术缩短I/O路径;通过智能元数据管理,提前缓存用户数据和文件系统元数据,显著提升数据访问和检索速度;独有的智能网络优化技术,可实现多个子网与指定目的地通信,每对守护进程之间建立多个TCP连接并通信,显著提升网络端口并发能力,实现传输端口带宽翻数倍,时延缩短50%以上,小文件级传输的时延可降至毫秒级。k1D28资讯网——每日最新资讯28at.com



以GDS(GPU Direct Storage)为例,能够将GPU和外部数据存储的带宽提升2~8倍,当GPU并发度增加的时候,GDS仍然能够保持稳定的低延迟输出,非常适用于AIGC等AI应用场景的应用。通过对于GDS的支持,GPU直接访问存储,从而避免了传统设计应用中,CPU调度带来的访问延迟。可以说,GDS也好,RDMA也好,对于新的访问协议的支持,已经成为了分布式文件系统的基本功,也是追求极致性能的必由之路。k1D28资讯网——每日最新资讯28at.com


AS15000G7提供了自动化的数据分层和迁移的功能,从而为满足AIGC场景应用提供了更好的支持,因为除了高速并行访问能力之外,AIGC训练、推理中的中间结果数据需要存储和保留,很多都是以冷数据形式呈现,也更加适合混闪阵列的定位,这也是浪潮信息提出全闪、混闪1;1的原因。AS15000G7在产品设计上充分考虑到了这一点,提供了通用型、容量型和性能型的产品类型。通过基于闪存、磁盘、磁带、光盘的灵活配置,可最大程度降低用户的整体投入。k1D28资讯网——每日最新资讯28at.com


AS15000G7新品同时搭载了AIStation调度平台和InView数据管理平台,通过对AI服务器、网络、存储的智能运维,提高多租户管理、资源分配、数据管理分析的能力和水平。与此同时,AS15000G7保留了多协议实时互访互通和系统扁平扩展的能力,从而能够实现对于多元异构非结构化数据,如文本、图片、音频、视频等,以及文件、对象、大数据以及视频文件的高效共享。k1D28资讯网——每日最新资讯28at.com


“1:1:1,也许这样配置比较奢侈,很少有用户能够达到这样的配置,那是因为没有考虑到混合模态、多模态训练的需要。” 刘希猛说。k1D28资讯网——每日最新资讯28at.com


icspec【芯片求购】https://www.icspec.com/inquiry/index/1/0

本文链接:http://www.28at.com/showinfo-27-9194-0.html1:1:1,浪潮信息的AIGC新答卷

声明:本网页内容旨在传播知识,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。邮件:2376512515@qq.com

上一篇: 充电?换电?未来补能谁说得算

下一篇: 英特尔宣布与高塔半导体达成新代工协议

标签:
  • 热门焦点
  • 俄罗斯:将审查iPhone等外国公司设备 保数据安全

    iPhone和特斯拉都属于在各自领域领头羊的品牌,推出的产品也也都是数一数二的,但对于一些国家而言,它们的产品可靠性和安全性还是在限制范围内。近日,俄罗斯联邦通信、信息技术
  • 中兴AX5400Pro+上手体验:再升级 双2.5G网口+USB 3.0这次全都有

    2021年11月的时候,中兴先后发布了两款路由器产品,中兴AX5400和中兴AX5400 Pro,从产品命名上就不难看出这是隶属于同一系列的,但在外观设计上这两款产品可以说是完全没一点关系
  • 摸鱼心法第一章——和配置文件说拜拜

    为了能摸鱼我们团队做了容器化,但是带来的问题是服务配置文件很麻烦,然后大家在群里进行了“亲切友好”的沟通图片图片图片图片对比就对比,简单对比下独立配置中心和k8s作为配
  • 这款新兴工具平台,让你的电脑效率翻倍

    随着信息技术的发展,我们获取信息的渠道越来越多,但是处理信息的效率却成为一个瓶颈。于是各种工具应运而生,都在争相解决我们的工作效率问题。今天我要给大家介绍一款效率
  • WebRTC.Net库开发进阶,教你实现屏幕共享和多路复用!

    WebRTC.Net库:让你的应用更亲民友好,实现视频通话无痛接入! 除了基本用法外,还有一些进阶用法可以更好地利用该库。自定义 STUN/TURN 服务器配置WebRTC.Net 默认使用 Google 的
  • 大厂卷向扁平化

    来源:新熵作者丨南枝 编辑丨月见大厂职级不香了。俗话说,兵无常势,水无常形,互联网企业调整职级体系并不稀奇。7月13日,淘宝天猫集团启动了近年来最大的人力制度改革,目前已形成一
  • 阿里大调整

    来源:产品刘有媒体报道称,近期淘宝天猫集团启动了近年来最大的人力制度改革,涉及员工绩效、层级体系等多个核心事项,目前已形成一个初步的“征求意见版”:1、取消P序列
  • 四年持续更迭坚持探索行业无人之境,HarmonyOS 4带来五大升级多项创新

    除了华为每年新发布的旗舰手机系列,上亿花粉更加期待鸿蒙系统每次的跨版本大更新。8月4日,HarmonyOS 4于HDC 2023正式发布,这也是该系统历经四年的再
  • 联想的ThinkBook Plus下一版曝光,键盘旁边塞个平板

    ThinkBook Plus 是联想的一个特殊笔记本类别,它在封面放入了一块墨水屏,也给人留下了较为深刻的印象。据有人爆料,联想的下一款 ThinkBook Plus 可能更特殊,它
Top