当前位置:首页 > 科技  > 数码

CPU、GPU的互连从1米飙至100米 英特尔:你相信光吗?

来源: 责编: 时间:2024-07-27 15:21:47 374观看
导读 英特尔用“光”,突破了大模型时代棘手的算力难题——推出业界首款全集成OCI(光学计算互连)芯片。△图源:英特尔要知道,在AI大模型遵循Scaling Law发展的当下,为了取得更好的效果,要么模型规模

英特尔用“光”,突破了大模型时代棘手的算力难题——1Vd28资讯网——每日最新资讯28at.com

推出业界首款全集成OCI(光学计算互连)芯片。1Vd28资讯网——每日最新资讯28at.com

CPU、GPU的互连从1米飙至100米 英特尔:你相信光吗?△图源:英特尔1Vd28资讯网——每日最新资讯28at.com

要知道,在AI大模型遵循Scaling Law发展的当下,为了取得更好的效果,要么模型规模、要么数据规模,都在往更大的趋势发展。1Vd28资讯网——每日最新资讯28at.com

这就会导致AI大模型在算力层面上,对整个计算、存储,包括中间I/O通信等提出更高的要求。1Vd28资讯网——每日最新资讯28at.com

而英特尔此次的突破口,正是I/O通信:1Vd28资讯网——每日最新资讯28at.com

在CPU和GPU中,用光学I/O取代电气I/O进行数据传输。1Vd28资讯网——每日最新资讯28at.com

有什么用?1Vd28资讯网——每日最新资讯28at.com

一言蔽之,数据传输距离远多了,量大了,功耗低了——更适合AI大模型的“体质”了。1Vd28资讯网——每日最新资讯28at.com

CPU、GPU的互连从1米飙至100米 英特尔:你相信光吗?△图源:英特尔1Vd28资讯网——每日最新资讯28at.com

那么英特尔为什么要用到“光”?具体又是如何实现的?1Vd28资讯网——每日最新资讯28at.com

用上了“光”,从马车变卡车1Vd28资讯网——每日最新资讯28at.com

传统采用电气I/O的方式(铜线连接)固然有它的优势,例如支持高带宽密度和低功耗,但致命的问题就是传输距离比较短(不到1米)。1Vd28资讯网——每日最新资讯28at.com

这要放在一个机架里倒也是没有问题,但AI大模型在算力上往往标配都是服务器集群这个量级。1Vd28资讯网——每日最新资讯28at.com

不仅占地面积大,还跨N多个机架,线都是需要几十米甚至上百米的长度,功耗那是相当的高;它会吃掉所有供给机架的电源,以至于没有足够的电去做计算和存储芯片的读写操作。1Vd28资讯网——每日最新资讯28at.com

除此之外,存算比方面,也正是因为大模型“大”的特点,由原来读取一次做上百次计算的比例,到现在直接变成了接近1:1。1Vd28资讯网——每日最新资讯28at.com

CPU、GPU的互连从1米飙至100米 英特尔:你相信光吗?△图源:英特尔1Vd28资讯网——每日最新资讯28at.com

这就需要一种新的办法,可以在提高算力和存储密度的同时降低功耗、缩小体积,从而在一个有限的空间里,放进更多的计算和存储。1Vd28资讯网——每日最新资讯28at.com

而用上了光学I/O,问题便迎刃而解了:1Vd28资讯网——每日最新资讯28at.com

可在长100米的光纤上,单向支持64个32Gbps通道。1Vd28资讯网——每日最新资讯28at.com

一个形象的比喻就是,就好比从使用马车(容量和距离有限)到使用小汽车和卡车来配送货物(数量更大、距离更远)。1Vd28资讯网——每日最新资讯28at.com

不仅如此,即使是在相对较近的距离去完成一些更高密度、更灵活的数据传输工作,OCI这种方式则可以类比成摩托车,速度更快且更灵活。1Vd28资讯网——每日最新资讯28at.com

CPU、GPU的互连从1米飙至100米 英特尔:你相信光吗?1Vd28资讯网——每日最新资讯28at.com

值得一提的是,这种OCI的方法不是停留在理论的那种。1Vd28资讯网——每日最新资讯28at.com

据英特尔介绍,他们已经利用了实际验证的硅光子技术,集成了包含片上激光器的硅光子集成电路(PIC)、光放大器和电子集成电路。1Vd28资讯网——每日最新资讯28at.com

并且在此前也展示了与自家CPU封装在一起的OCI芯粒,还能与下一代CPU、GPU、IPU等SOC(系统级芯片)集成。1Vd28资讯网——每日最新资讯28at.com

还没完,英特尔也已经出货了超过800万个硅光子集成电路,其中超过3200万个现已投入使用的激光器。1Vd28资讯网——每日最新资讯28at.com

CPU、GPU的互连从1米飙至100米 英特尔:你相信光吗?△图源:英特尔1Vd28资讯网——每日最新资讯28at.com

那么接下来的一个问题是:1Vd28资讯网——每日最新资讯28at.com

英特尔的OCI是如何“炼”成的?1Vd28资讯网——每日最新资讯28at.com

英特尔研究院副总裁、英特尔中国研究院院长宋继强的交流过程中,他对这个问题做了深入的剖析和解读。1Vd28资讯网——每日最新资讯28at.com

CPU、GPU的互连从1米飙至100米 英特尔:你相信光吗?△英特尔研究院副总裁、英特尔中国研究院院长,宋继强1Vd28资讯网——每日最新资讯28at.com

硅光子技术集合了20世纪两项重要的发明:硅集成电路和半导体激光。1Vd28资讯网——每日最新资讯28at.com

与传统电子产品相比,它支持在较远的距离内更快的数据传输速度,同时利用英特尔高容量硅产品制造的效率。1Vd28资讯网——每日最新资讯28at.com

CPU、GPU的互连从1米飙至100米 英特尔:你相信光吗?1Vd28资讯网——每日最新资讯28at.com

英特尔这一次发布的硅光集成技术,OCI芯粒达到了光电共封装的层面。1Vd28资讯网——每日最新资讯28at.com

这个光电共封装是把一个硅光子集成电路(PIC),和一个电子集成电路(EIC),放在一个基板上组成了一个OCI芯粒,作为一个集成性连接的部件。1Vd28资讯网——每日最新资讯28at.com

这就意味着xPU,包括CPU,未来的GPU都可以和OCI芯片封装在一起。1Vd28资讯网——每日最新资讯28at.com

OCI芯粒就是把数据中心CPU出来的所有的电气I/O信号转成了光,通过光纤,在两个数据中心的节点或者是系统里面去互相传输。1Vd28资讯网——每日最新资讯28at.com

目前的双向数据传输速度达到了4Tbps,它在上层的传输协议兼容到PCIe 5.0,单向支持64个32Gbps通道,这在目前的数据中心当中是足够用的:1Vd28资讯网——每日最新资讯28at.com

它采用8对光纤,功耗仅为每比特5皮焦耳(pJ),即10-12焦耳,这个数据比可插拔光收发器模块的功耗降了3倍(后者是每比特15皮焦耳)。1Vd28资讯网——每日最新资讯28at.com

CPU、GPU的互连从1米飙至100米 英特尔:你相信光吗?△图源:英特尔1Vd28资讯网——每日最新资讯28at.com

在一个光传输的通道里,它实际上有8个不同的波段,每个波段的频率间隔是200GHz,一共占用了1.6THz光谱的间距用来传输。1Vd28资讯网——每日最新资讯28at.com

光从可见光到不可见光,实际上它的频谱宽度是很宽的,从THz开始就算是接近光通讯了。1Vd28资讯网——每日最新资讯28at.com

CPU、GPU的互连从1米飙至100米 英特尔:你相信光吗?1Vd28资讯网——每日最新资讯28at.com

那么OCI芯粒未来会用在哪些领域呢?1Vd28资讯网——每日最新资讯28at.com

对此,宋继强表示:1Vd28资讯网——每日最新资讯28at.com

一个是可以用它来实现通信,还可以把它跟CPU、GPU这些计算芯片封装在一起,计算加通信非常紧密地封装在一起。1Vd28资讯网——每日最新资讯28at.com

我们通过硅光集成和先进封装技术,先进封装英特尔也有非常多不同的技术,就可以实现更高密度的I/O芯粒,然后再和其它的xPU结合,未来基于芯粒,形成很多不同种类的计算加互连的芯片种类,会有非常好的应用前景。1Vd28资讯网——每日最新资讯28at.com

就OCI I/O接口芯粒的性能演进路线图来看,它目前可以达到32Tbps传输速度的技术方案,主要靠迭代式的稳步提升三个方面的指标,分别是:1Vd28资讯网——每日最新资讯28at.com

-一根光纤里有8段稳定的波段1Vd28资讯网——每日最新资讯28at.com

-每一个波段的光数据传输率为32Gbps1Vd28资讯网——每日最新资讯28at.com

-可同时拉8对光纤且互不影响1Vd28资讯网——每日最新资讯28at.com

这三个指标乘起来,就是目前单向上有2Tbps的数据传输速度,双向即是4Tbps。未来可以继续向上演进,逐步提升带宽能力。1Vd28资讯网——每日最新资讯28at.com

CPU、GPU的互连从1米飙至100米 英特尔:你相信光吗?△图源:英特尔1Vd28资讯网——每日最新资讯28at.com

后,英特尔在硅光集成技术的差异化方面,宋继强也做出了解释:1Vd28资讯网——每日最新资讯28at.com

主要是我们把高频率的激光发射器做在了晶圆上,又把硅的光放大器也集成上去,这是两个比较核心的技术,都是在晶圆级去制造出来的。1Vd28资讯网——每日最新资讯28at.com

接下来,我们可以量产这样的高集成度激光器,因为这种在片上的激光器的好处是用普通的光纤就可以去传输了。1Vd28资讯网——每日最新资讯28at.com

并且在稳定性方面,几乎是100亿小时才有可能发生一次错误。1Vd28资讯网——每日最新资讯28at.com

那么你觉得英特尔pick的“光”如何呢?欢迎在评论区留言讨论。1Vd28资讯网——每日最新资讯28at.com

参考链接:1Vd28资讯网——每日最新资讯28at.com

[1]https://mp.weixin.qq.com/s/ozx_ficqlxjEPKa5AlBdfA1Vd28资讯网——每日最新资讯28at.com

[2]https://community.intel.com/t5/Blogs/Tech-Innovation/Artificial-Intelligence-AI/Intel-Shows-OCI-Optical-I-O-Chiplet-Co-packaged-with-CPU-at/post/15825411Vd28资讯网——每日最新资讯28at.com

[3]https://www.youtube.com/watch?v=Fml3yuPR2AU1Vd28资讯网——每日最新资讯28at.com


文章出处:量子位

本文链接:http://www.28at.com/showinfo-24-103857-0.htmlCPU、GPU的互连从1米飙至100米 英特尔:你相信光吗?

声明:本网页内容旨在传播知识,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。邮件:2376512515@qq.com

上一篇: 迟来的PCIe 4.0 SSD王者!SK海力士Platinum P41 2TB评测:缓外低速度超1.6GB/s

下一篇: 支持25Gbps大带宽!华为全新一代微波产品斩获国际双料大奖

标签:
  • 热门焦点
  • MIX Fold3包装盒泄露 新机本月登场

    MIX Fold3包装盒泄露 新机本月登场

    小米的全新折叠屏旗舰MIX Fold3将于本月发布,近日该机的真机包装盒在网上泄露。从图上来看,新的MIX Fold3包装盒在外观设计方面延续了之前的方案,变化不大,这也是目前小米旗舰
  • 俄罗斯:将审查iPhone等外国公司设备 保数据安全

    俄罗斯:将审查iPhone等外国公司设备 保数据安全

    iPhone和特斯拉都属于在各自领域领头羊的品牌,推出的产品也也都是数一数二的,但对于一些国家而言,它们的产品可靠性和安全性还是在限制范围内。近日,俄罗斯联邦通信、信息技术
  • 对标苹果的灵动岛 华为带来实况窗功能

    对标苹果的灵动岛 华为带来实况窗功能

    继苹果的灵动岛之后,华为也在今天正式推出了“实况窗”功能。据今天鸿蒙OS 4.0的现场演示显示,华为的实况窗可以更高效的展现出实时通知,比如锁屏上就能看到外卖、打车、银行
  • 不容错过的MSBuild技巧,必备用法详解和实践指南

    不容错过的MSBuild技巧,必备用法详解和实践指南

    一、MSBuild简介MSBuild是一种基于XML的构建引擎,用于在.NET Framework和.NET Core应用程序中自动化构建过程。它是Visual Studio的构建引擎,可在命令行或其他构建工具中使用
  • 之家push系统迭代之路

    之家push系统迭代之路

    前言在这个信息爆炸的互联网时代,能够及时准确获取信息是当今社会要解决的关键问题之一。随着之家用户体量和内容规模的不断增大,传统的靠"主动拉"获取信息的方式已不能满足用
  • JVM优化:实战OutOfMemoryError异常

    JVM优化:实战OutOfMemoryError异常

    一、Java堆溢出堆内存中主要存放对象、数组等,只要不断地创建这些对象,并且保证 GC Roots 到对象之间有可达路径来避免垃 圾收集回收机制清除这些对象,当这些对象所占空间超过
  • Temu起诉SHEIN,跨境电商战事升级

    Temu起诉SHEIN,跨境电商战事升级

    来源 | 伯虎财经(bohuFN)作者 | 陈平安日前据外媒报道,拼多多旗下跨境电商平台Temu正对竞争对手SHEIN提起新诉讼,诉状称Shein“利用市场支配力量强迫服装厂商与之签订独家
  • 得物宠物生意「狂飙」,发力“它经济”

    得物宠物生意「狂飙」,发力“它经济”

    作者|花花小萌主近日,得物宣布正式上线宠物鉴别,通过得物App内的“在线鉴别”,可找到鉴别宠物的选项。通过上传自家宠物的部位细节,就能收获拥有专业资质认证的得物鉴
  •  首发天玑9200+ iQOO Neo8系列发布首销售价2299元起

    首发天玑9200+ iQOO Neo8系列发布首销售价2299元起

    2023年5月23日晚,iQOO Neo8系列正式发布。其中,Neo系列首款Pro之作——iQOO Neo8 Pro强悍登场,限时售价3099元起;价位段最强性能手机iQOO Neo8同期上市
Top