当前位置:首页 > 科技  > 芯片

国内AI算力租赁需求激增,NVIDIA加速卡涨价成常态

来源: 责编: 时间:2023-12-05 17:11:27 360观看
导读由于国内大型语言模型(LLM)的爆发式增长,AI算力基础硬件设施无法满足需求,导致国内科技大厂如腾讯、阿里巴巴、华为等纷纷向算力租赁业者求助。其中,国内网络安全厂商也跨界提供GPU算力租赁服务。据报道,由于NVIDIA多款高端

由于国内大型语言模型(LLM)的爆发式增长,AI算力基础硬件设施无法满足需求,导致国内科技大厂如腾讯、阿里巴巴、华为等纷纷向算力租赁业者求助。其中,国内网络安全厂商也跨界提供GPU算力租赁服务。msp28资讯网——每日最新资讯28at.com


msp28资讯网——每日最新资讯28at.com

据报道,由于NVIDIA多款高端人工智能(AI)GPU芯片出口受限,国内科技大厂在AI算力告急的情况下,不得不向国内算力租赁业者求助。国内算力租赁大厂汇纳科技公告称,由于算力需求大幅增加、算力资源持续紧张,该公司内建NVIDIA A100芯片的高消能服务器算力供应,收费将上调100%。msp28资讯网——每日最新资讯28at.com


msp28资讯网——每日最新资讯28at.com

在市场涌现出的强大需求下,拥有GPU资源的企业也纷纷下海,跨界布局算力租赁。一家网络安全一线大厂相关人士向媒体表示,该公司也在做算力租赁,主要以NVIDIA的A100/A800加速卡为主。msp28资讯网——每日最新资讯28at.com


msp28资讯网——每日最新资讯28at.com

由于ChatGPT引发的大型语言模型(LLM)风潮横扫国内市场,LLM训练的参数量与训练时的数据量双双提升后,亟需更大的算力布局。但当AI推论情境和需求成长后,国内的算力基础硬件设施无法跟上LLM的需求爆发。msp28资讯网——每日最新资讯28at.com


msp28资讯网——每日最新资讯28at.com

由于NVIDIA高端AI GPU遭到美国政府断供,再加上新一代国内特供版芯片还不确定,在当前国内的AI算力告急下,厂商瞄准多元算力,表示国内本土芯片已在不断升级中,将和国产高端芯片业者保持密切联系。msp28资讯网——每日最新资讯28at.com


msp28资讯网——每日最新资讯28at.com

尽管包括华为昇腾、壁仞科技、摩尔线程等国内本土芯片业者陆续获得厂商采用测试的机会,但对于国内AI服务器发展熟稔的浪潮信息资深副总裁刘军,日前在“2023年人工智能计算大会”(AICC 2023)上坦承,要实现多元算力的挑战不小。刘军指出,全球高端AI训练芯片目前已经超过40款左右,但因为每家厂商在开发过程中采用的技术路线不一样,所以在接口互连等方面还存在较多不兼容之处,这也使得AI算力系统整个开发配置周期拉长、定制化开发投资过大、从既有厂商迁移到国内本土方案的转换时间过久等挑战。msp28资讯网——每日最新资讯28at.com


msp28资讯网——每日最新资讯28at.com

本文链接:http://www.28at.com/showinfo-27-38260-0.html国内AI算力租赁需求激增,NVIDIA加速卡涨价成常态

声明:本网页内容旨在传播知识,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。邮件:2376512515@qq.com

上一篇: 国内AI需求飙升,打破单芯片效能瓶颈成未来要务

下一篇: AMD利用PyTorch与ROCm,为显示卡注入AI研发新动力

标签:
  • 热门焦点
  • MIX Fold3包装盒泄露 新机本月登场

    小米的全新折叠屏旗舰MIX Fold3将于本月发布,近日该机的真机包装盒在网上泄露。从图上来看,新的MIX Fold3包装盒在外观设计方面延续了之前的方案,变化不大,这也是目前小米旗舰
  • 六大权益!华为8月服务日开启:手机免费贴膜、维修免人工费

    8月5日消息,一年一度的华为开发者大会2023(Together)日前在松山湖拉开帷幕,与此同时,华为8月服务日也式开启,到店可享六大专属权益。华为用户可在华为商城Ap
  • Rust中的高吞吐量流处理

    作者 | Noz编译 | 王瑞平本篇文章主要介绍了Rust中流处理的概念、方法和优化。作者不仅介绍了流处理的基本概念以及Rust中常用的流处理库,还使用这些库实现了一个流处理程序
  • 使用AIGC工具提升安全工作效率

    在日常工作中,安全人员可能会涉及各种各样的安全任务,包括但不限于:开发某些安全工具的插件,满足自己特定的安全需求;自定义github搜索工具,快速查找所需的安全资料、漏洞poc、exp
  • 品牌洞察丨服务本地,美团直播成效几何?

    来源:17PR7月11日,美团App首页推荐位出现“美团直播”的固定入口。在直播聚合页面,外卖“神枪手”直播间、美团旅行直播间、美团买菜直播间等均已上线,同时
  • 大厂卷向扁平化

    来源:新熵作者丨南枝 编辑丨月见大厂职级不香了。俗话说,兵无常势,水无常形,互联网企业调整职级体系并不稀奇。7月13日,淘宝天猫集团启动了近年来最大的人力制度改革,目前已形成一
  • 年轻人的“职场羞耻感”,无处不在

    作者:冯晓亭 陶 淘 李 欣 张 琳 马舒叶来源:燃次元“人在职场,应该选择什么样的着装?”近日,在网络上,一个与着装相关的帖子引发关注,在该帖子里,一位在高级写字楼亚洲金
  • AI芯片初创公司Tenstorrent获三星和现代1亿美元投资

    Tenstorrent是一家由芯片行业资深人士Jim Keller领导的加拿大初创公司,专注于开发人工智能芯片,该公司周三表示,已经从现代汽车集团和三星投资基金等
  • 外交部:美方应停止在网络安全问题上不负责任地指责他国

      中国外交部今天(16日)举行例行记者会。会上,有记者问,美国情报官员称,他们正在阻拦来自中国以及其他国家的黑客获取相关科研成果。 中方对此有何评论?对此
Top