1900年,受人尊敬的开尔文勋爵在伦敦阿尔伯马尔街的皇家学院发表演讲。讲座的标题是“十九世纪热与光动力学理论的乌云”。开尔文勋爵总结说“物理学的大厦在十九世纪已经完全建成,从现在开始,物理学家的任务只是修改和完善这座大厦”。然而,开尔文勋爵指出,“虽然大厦已经建成,但天空中仍然有两片‘小乌云’”,这是开尔文所预言的“两片乌云”,但令他没想到的是,它们是晴空中的两朵小乌云,会不断升级,演变成一场巨大的风暴,正是这两朵乌云打破了经典物理学的大厦,建立了现代物理学的两大支柱:量子力学和量子理论。相对论。
目前,在此基础上建立起来的云计算帝国,并不是什么令人惊奇的插曲,没有人能够确定;但可以肯定的是,对于想要在x86云计算帝国中找到一席之地的芯片行业从业者来说,这两片乌云或许是一次难得的机会;
1:云计算的梦想
2006 年 8 月,圣何塞 (SES)。搜索引擎大会在这里举行。昂贵的门票并没有浇灭参与者的热情。一场又一场的演讲展示了这些行业大师的智慧和未来方向。想到这里,谷歌创始人施密特发表了主题演讲。在这次演讲中,他提出了云计算的概念( )。云计算的引入让人们可以像使用水、电、煤气一样使用计算。服务;
如今,人们可能已经习惯了日常使用云计算服务,但当时这个概念一提出,就引起了业界的轩然大波;许多人认为这是一个坏主意;许多人认为这是一个“老想法”。 “瓶装新酒”的想法,这不过是IBM大型机的一个新应用而已;信息社会从大型机走向PC(个人电脑)时代,再从PC走向云计算时代,给人一种科技轮回的错觉;如果当时有自媒体的话,大概会这样写:云计算是架构的扭曲还是技术的流失?
如果把云计算比作一栋大楼,那么不同的厂商对于这座大楼是建立在什么样的计算架构上一定有不同的看法;但当时的RISC服务器,尤其是IBM、SUN的RISC服务器,雄心勃勃,想在云计算时代大显身手;在2006年召开的“国际固态电路会议”上,IBM宣读了一篇关于实现5GHz超高频的论文。即使在今天,这一指标仍领先于整个行业。时代;同样是在2006年,Sun发布的前两款产品都是与Sun一起发布的。这些产品的出现,预示着美好的前景,为刚刚开始建设的云计算大厦奠定了坚实的基础;并于同年进入65纳米制造工艺,推出新一代至强处理器;云计算带来新一轮基础设施建设热潮,为x86和RISC都带来了巨大的市场机遇;
2:权力的游戏
对于传统银行、电信、保险等行业来说,需要建设自己的数据中心(企业云)。作为服务器需求方,需要支持一支在服务器架构、操作系统、数据库等方面具有丰富开发经验的团队来部署自己的业务。 ,这有点不现实;因此,这些行业的用户以菜单形式从服务器提供商(如IBM等)获得硬件和软件服务。服务器制造商提供这些硬件和软件服务并收取费用。这个逻辑非常清楚。的;
然而,作为新一代的规则定义者:谷歌、亚马逊和后起之秀阿里巴巴,他们对开放架构、成本和可维护性有自己的执着;云服务商本身就是一个以技术为导向的团队,而这家公有云厂商的应用需求、系统架构、软件技术三门功力都是精炼精炼的;云服务提供商既是服务器需求者,又是技术提供者,是双层身份;他们需要根据自己的需求选择最合适的软硬件设施,并需要根据业务需求进行调整。在数据迁移的时候,封闭的架构本来就很难让他们接受;
举个例子:原来的服务器厂商就像一家餐馆。此类餐厅只能提供菜单点餐。过去,银行(企业云)等富裕客户可以根据他们提供的菜单进行点餐。现在有一家外卖餐厅。公司(公有云计算提供商)可以为没有足够预算的顾客提供餐饮服务,而外卖公司(公有云计算提供商)不仅对菜单上的菜品不是很满意,这种餐厅(服务器厂家(部分)定制的“红烧排骨”不一定能满足外卖顾客的要求,如果服务器厂家(餐厅)无法定制,云昌更喜欢颗粒更细的“排骨饭碗”。那么这些外卖公司(云场)也有能力自己做饭(想象一下外卖小哥去做饭的场景),需要根据顾客的需求包装不同的菜品组合,而不仅仅是做一个送货员或厨师,后来演变为“自产猪肉”“种植者”;
公有云公司的主导权必须掌握在自己手中,其中不包括封闭架构的服务器。这导致很多RISC的忠实用户在考虑云计算时开始考虑X86,而不是IBM等传统的。 RISC架构处理器。 X86服务器更便宜、更开放、更标准化、更易于使用。 x86的这些优点让非业务关键型用户更愿意接受。随着x86处理器在架构、工艺技术、核心数量等方面不断改进,x86性能正在追赶RISC服务器;
2013年5月17日,阿里巴巴集团最后一台IBM小型机在支付宝下线,透露出云工厂“上IOE”的迫切需求。 “走向IOE”就是走向以IBM、EMC等为代表的小型机、集中式计算机,由数据库、高端存储组成传统IT基础设施转向商用x86服务器、开源数据库、分布式存储,形成基础设施;该基础设施更加灵活、更容易扩展且更具成本效益;而X86则是这场去IOE运动中最大的赢家。
如今,天地万物齐心协力。在目前的云计算大厦中,90%以上的服务器都是X86的。可以说,今天的云计算大厦是建立在整个X86的基石之上的;一方面,对于X86服务器厂商来说,云工厂的要求更为严格,但由于其数量优势,采购成本也很低;另一方面,X86 CPU实际上占了硬件支出的很大一部分;以至于全世界都在抱怨整个x86服务器行业有我在给你打工;
X86统治着云计算帝国,成为了这个帝国的王者。几位想要颠覆的王子(ARM)也已经安顿在角落里。更多的RISC架构早已湮没在历史之中; IBM的处理器只在传统的电信、金融、证券、保险、电力有一席之地;而ARM的服务器尚未气候,几家提供ARM版本服务的公司要么业务被砍掉(高通),要么苦苦维持(); X86环顾四周,非常自豪。计算开源云操作系统软件、数据库、存储已成为X86云计算帝国的护城河;
正当X86在云计算帝国加冕王者、地位看似坚不可摧的时候,云计算的天空中也出现了两朵“小乌云”。这两片乌云分别是AI芯片和DPU。这两朵小乌云能相互竞争吗? X86在云计算中地位的挑战是后云计算时代的一大看点;
三:人工智能盛宴

人工智能算法的兴起,让人们意识到CPU架构对于处理特定的AI应用根本没有优势; CPU的计算、解码、执行、内存访问和回写操作,无论如何发展指令级并行性。在AI的这个应用中,大部分都花在了内存访问(IO)上,实际用于计算的部分效率还不到20%;
如果只是计算的卸载(),CPU已经司空见惯了。对于我们来说,它只是对细分市场的有益补充。是异构计算的别称,比如各种使用FPGA的加速,微软的bing搜索加速用的FPGA就是这种型号;不过还没有形成趋势,CPU也不值得担心。 “我老了,还能养活自己吗?”
如果说之前还是CPU、mpis、ARM、X86之间的内战的话,现在发现对于AI这样的应用,CPU的整个处理结构已经不再适用了。 CPU架构几乎“全军覆没”;
但人工智能不同。它一诞生,就拥有一种非凡的气质,影响了整个IT领域,所有玩家都为之着迷。一种架构的流行必然伴随着一类应用的流行。 ARM成功的背后,是整个移动计算领域的崛起,手机、IoT等各类移动终端的蓬勃发现; x86在云计算领域的成功是开源软件和开放架构的成功;在AI时代,因为无法适应这个计算框架,可能会有被边缘化的可能;
而如果我们假设AI的应用是未来云端的主流应用之一,一切都可以用AI来想象,那么目前缺少这个庞大应用的CPU成本是多少?其结果是云CPU的地位下降;对于机器学习等场景,CPU(中央处理器)从核心应用降为普通计算节点;云计算帝国王被贬为领主;
作为人工智能AI的计算分流、训练和推理,所需的计算资源远远超过CPU的能力;除了通用计算节点之外,另一种类型的计算节点诞生了,AI计算节点,这类计算节点的业务取决于整体的业务量; AI云、智能云等概念不断被提出。如果这些都实现了,那么X86在这些云中的作用就不会突出;
AI的趋势如此强劲,这就是一个例子。需要默认支持AI加速(SM流处理器内部也有核心);不久前,它还只是一个图像处理器;另外还有各种XPU,其核心应用也是AI的卸载;就像RISC和)的对决一样? X86并不甘心于此,也在利用AVX指令集来强化这方面的应用。不过,与专用AI芯片或GPU相比,这些能力能否展现AI时代的王者底蕴,还有待市场检验。
四:DPU风暴
如果说AI计算的卸载是无主领域的开创,那么IO的卸载则更像是另一个版本的王子复仇记。
十年前,网络处理器(NP)是一种非常重要的处理器类型。主要用于数据包处理和协议处理加速。应用于各种网关、防火墙、UTM等设备上。它大多采用多核NOC架构。一开始是MIPS,后来改用ARM;有些公司类似,等等都是其中最好的;由于X86架构处理网络数据包的效率低下,这些网络处理器被赋予了很多机会并得到了蓬勃发展。
不过后来又提出了DPDK技术。 DPDK应用程序是一种运行在用户空间并使用自身提供的数据平面库来发送和接收数据包的技术。由于它绕过了内核协议栈进行数据包处理,因此大大提高了数据包转发的速率;原本需要专用网络处理器NP的网关设备,现在X86可以满足性能要求,成功占领这一领域,将网络处理器等产品扫入历史;但原来网络处理器公司也被收购了; (获得,获得;)
故事到这里就结束了,但是在云计算领域,X86服务器、虚拟机之间的网络交换、OVS等应用对于处理器来说是非常昂贵的,并且占据了CPU的很大一部分负载。通过智能网卡,借助OVS,卸载网络功能成为流畅的应用,可以减轻X86服务器的负载,减少x86的数量,降低TCO(总拥有成本);
目前的智能网卡为了实现X86的功能,都集成了众核ARM核或者其他RISC核。这就是复活的网络处理器NP,以不同的方式集成到网卡中;老牌NP不会死,而是会慢慢融合。 。
这只是一个网络功能。数据中心应用新模式DPU应运而生。下图的DPU网络中,DPU成为了整个数据中心的核心。 X86计算节点通过DPU网络实现。 GPU/ML AI计算节点和存储节点实现整个云计算中心的业务;

DPU内部集成了RDMA、网络功能、存储功能、安全功能、虚拟化功能等;成为构建未来云中心的核心组成部分。这个理想很丰满,现实却很骨感。 DPU能否超越传统智能网卡的范畴,成为数据中心建设的支柱;这个想法和想象力是惊人的,而且非常合理,无论是在建筑上还是在思想上;但DPU是否是云计算数据中心的下一个王子,并不是由DPU厂商决定的。 ,但最终决定权还是云计算厂商;
那么云计算厂商如何规划呢?在阿里云裸机云的建设中,提出了裸机HM-hive,直接将bm-放在网卡状的设备上。在这种形式下,所有的计算资源都是计算板的一部分,计算板可以是X86 E5、酷睿I7、AMD,甚至是ARM。也就是说,在这种结构下,X86的地位只是计算节点之一。
bm通过DPDK和SPDK云存储取代所有计算板的所有IO需求,支持VGA设备供用户连接到bm控制台,BM-Hive的架构不仅允许其无缝集成到现有的云基础设施中,而且使计算板的设计高度灵活,唯一的硬性要求是它支持的接口。
DPU和bm的思路不同,解决的问题也不同。前者是卸载,后者是裸机云管理;但其核心思想是对计算节点进行抽象,更加具体、灵活地参与整个云计算服务。 ,这是常见的;但这种趋势未来是否会以DPU或智能网卡的形式呈现,还是BM的其他形式,或者更集成的形式,尚不得而知;
五:列王的纷争
如果我们描述未来的云计算中心,那么一定是以GPU为节点,DPU为传输通道,直接GPU,其他所有节点都为这个服务,而CPU只是一个控制节点,采用AMD或者ARM,有差别不大,不然为什么要收购ARM呢?
如果我们定义未来的数据中心,那么所有节点都将以x86为核心,其他AI专用芯片只是ASSP。通过AVX的扩展指令,还可以支持一些AI应用。未来,AI加速将作为QAT功能使用。不知道是否集成到CPU中。这是CPU的万能主人,其他的只是奴才;
如果说云工厂定义了未来的数据中心,那么无论CPU、GPU还是其他XPU,都只是一个计算节点;但有的负责通用计算,有的负责图形图像处理和机器学习算法。这些只是一个开放、可替换、可扩展、弹性的计算节点,只需要资源即可按需使用; “王”和“诸侯”无非是云计算的工具人;
云工厂不愿意为他们工作,也不乐意被绑架。他们拥有强大的技术、强劲的需求以及任何芯片制造商都无法忽视的市场份额。未来,这些公有云厂商将占据地球上大量的算力;他们可以定义自己的CPU、GPU、DPU、XPU,甚至集成SOC,只要满足云工厂的需求即可;云工厂可能是下一个计算系统的定义者和实践者;
此外,还有大量的芯片厂商希望参与到这个下一代云计算帝国的“列王的纷争”中,希望这个云计算帝国能分得一杯羹。这两片乌云之中是否隐藏着危险?新的机会和更多玩家的出现值得期待;
参考:
1:“DPU™:新时代”
2:“高--裸-”
3:“A100 GPU:&GPU”
以前的读物: