Quidway® S8500万兆核心路由交换机体系架构介绍

华为3Com 王爱农
S8500万兆核心交换机是由华为3Com公司自主开发的新一代高性能万兆核心路由交换机产品,可广泛应用于运营商IP城域网核心层、汇聚层、园区网和企业网核心层,为新一代网络提供强劲动力 。S8500基于10G平台设计,并在国内厂商中率先提供10GE接口,能够为城域网、园区网、数据中心提供超高速链路,构建端到端以太网,打造低成本、高性能、具有丰富业务支持能力的网络 。
S8500系列核心路由交换机包括提供5个业务槽位的S8505和12个业务槽位的S8512,S8505和S8512的唯一区别就是容量不同,各种业务特性完全一致,各种单板完全兼容 。图1为外观图,表1为主要性能指标 。
图1 S8500外观
S8505
S8512
背板带宽
750G
1.8T
交换容量
300G
720G
转发速率
170Mpps
408Mpps
IP转发表
128K
128K
MAC地址表
32K
32K
MPLS转发表
64K
64K
VPN
1K

1K
ACL
每线卡1K
每线卡1K
表1 S8500主要性能指标
S8500采用业界最新技术,将ASIC技术和NP技术有机融合起来,具有灵活高效的业务提供能力、平滑升级能力、完善的QoS控制机制、高可靠性,最低成本网络方案等特性 。本文简要介绍S8500体系架构的特点 。
一、; 业界领先的交换网络 。
从高端交换机,高端路由器的发展来看,共出现了3种交换网络形式 。第一种是总线交换,第二种是环形交换,第三种是共享内存交换,第四种是Crossbar交换 。
1、总线交换是最古老的一种数据交换方式,这种方式的主要特点是没有专门的交换网芯片,通过共享背板总线进行各线卡之间的数据传递,各线卡分时占用背板总线 。主要优点是结构和技术比较简单,突出缺点是交换容量受背板总线带宽限制,无法构建大容量系统,并且随着背板总线带宽的增加,码流的同步控制也成为一大瓶颈 。目前采用这种交换方式的系统交换容量一般小于32G,并且一般都是有阻塞的系统 。这种交换形式在一些老机型上仍有使用,新的系统不会采用这种交换形式,因此这种交换形式将逐渐被淘汰 。如图2 。
图2 共享总线
2、环形交换 。环形交换实质上仍然是一种总线交换方式,改进点就是将总线移到了芯片中,而不是在背板上 。如图3所示:
图3 环形交换
优点是带宽有所提高,但是没有根本改善,采用这种交换方式的系统容量在32G-64G之间,一般来讲都是有阻塞的系统 。这种交换形式也将逐渐被淘汰 。
3、共享内存交换 。共享内存交换与上述两种交换方式有本质不同,是一种全新的交换方式 。这种方式的特点就是实现简单,方便可靠,成本低廉,缺点就是受内存速度的限制无法支持大容量交换,交换容量一般在20G-80G,交换时延一般比较大 。因此这种交换方式适合应用于小容量设备和大容量设备的线卡内部交换 。如图4 。
图4 共享内存
4、Crossbar交换 。这种交换结构是业界公认的用于构建大容量系统的首选交换网络结构 。前面三种交换结构都是某种程度上的共享带宽,背板交换共享背板总线带宽,环形交换共享环形总线带宽,共享内存交换共享RAM带宽 。而Crossbar结构的交换网完全突破了这种限制,在交换网络内部没有带宽的瓶颈,既不会因为带宽资源不够而产生阻塞 。Crossbar结构的交换网采用了一种矩阵结构实现了无阻塞交换,如图5所示 。


图5 Crossbar交换
大家从图中可以看出,Crossbar交换网络在数据平面没有任何瓶颈 。这正是因为Crossbar引入了交换矩阵这种新的交换方式,摒弃了共享带宽的交换方式,在数据交换方式上是一种革命性的变化 。Crossbar交换网的扩展能力非常强,交换容量可以做的很大,基本不受硬件条件限制,目前单颗芯片交换容量在256G-700G之间,多颗芯片可以构建T级乃至几T容量的大型交换网络,足以满足当前和未来几年网络对交换容量的需求,并且随着硬件集成技术的进步,单颗Crossbar芯片支持的容量会更大 。Crossbar交换结构的大容量和强大的扩容能力正是高端设备首选这种结构的原因,这种交换结构极大的提高了高端设备的容量和未来的扩展能力 。并且Crossbar交换结构具有良好的QoS保障机制,如仲裁,低时延,按端口按优先级的流控功能 。值得一提的是与共享缓存相比,Crossbar的交换时延几乎可以忽略不计 。
5、S8500采用了Crossbar交换矩阵做为核心交换网,使整机交换容量达到720G,并且具有可平滑扩容到1.44T, 乃至2.88T的能力 。线卡内部采用Crossbar和共享缓存相结合的交换结构,Crossbar使线卡容量具有良好的可扩展性,共享缓存提高了系统吸收突发的能力,从而可以平滑网络流量,减少因突发引起的数据丢失 。如图6 。
图6 S8500交换体系架构
S8500交换网络支持复杂的流控反压机制,从任何一个交换网端口到另外任何一个交换网端口有多达8个VoQ队列,可有效的避免头阻塞,避免系统因局部阻塞导致的整个系统阻塞,并且可以保证优先级高的数据得到优先处理,提高整个系统的QoS指标 。S8500交换网基于可变长度Cell交换,Cell的长度范围是4-64字节 。Cell交换与Packet交换相比,因为Cell的长度远小于Packet,所以Cell交换能以更小的粒度减小数据流的抖动,提高系统流量的均匀性,从而提高系统的QoS,同时避免了短包等长包的现象 。一般基于Cell的交换网都是定长交换,这种交换会产生N 1问题 。例如:某系统Cell长度为64字节,有一个数据包长度为65字节,因为Cell为定长,所以这个数据包会被拆分成2个64字节的Cell,这样长度变成了2x64=128字节,与原数据包长度65字节相比,几乎长了一倍,这就是所谓的N 1问题 。N 1问题会浪费带宽,极限情况下几乎浪费一半带宽,就象上述的例子 。而S8500通过采用变长Cell技术巧妙的解决了这个问题 。在S8500交换网络中,Cell的长度的范围是4-64字节,变化的粒度是4字节,既Cell的长度可以是4、8、12、16 …… 64字节 。例如,一个长度为262字节的数据包会被拆分成5个Cell,Cell0=Cell1=Cell2=Cell3=64字节,Cell4=8字节 。因此最后一个Cell可以根据实际情况选择最佳长度,这样就有效避免了N 1问题 。
因此S8500的交换体系架构是以Crossbar为核心,以共享缓存为补充的三级分布式交换网络 。这种体系架构使S8500具有大容量、高性能、高可靠性等特点,具有优良的扩展能力 。
二、 平滑升级能力
S8500在设计上充分考虑了未来的平滑升级能力 。S8500采用了业界扩展性最好的Crossbar交换网,这种交换网具有天然的可扩展性,另外在系统设计上为将来容量升级预留了充足的资源 。S8500的背板带宽是按3.6T设计的,可以在不更换背板的情况下保证系统交换容量从720G升级到1.44T再到2.88T 。系统设计充分考虑了向下兼容能力,所有老的线卡都可以在升级后的系统中工作 。所以在容量升级过程中,只需要更换交换网板,而且在升级过程中可以保证不中断业务:先将备用网板换下,然后更换主用网板 。升级后的系统支持大容量线卡和所有老线卡 。

1、从720G升级到1.44T
目前S8500支持720G交换容量,但是背板已经预留了足够的线路资源支持系统升级的1.44T 。升级到1.44T必须更换网板,同时启用背板预留的线路资源 。升级后的网板交换容量扩大一倍,系统支持40G线卡,既可以线速支持48GE线卡,线速支持4x10GE线卡 。如图7所示
图7; 1.44T系统
2、从720G或1.44T升级到2.88T
S8500支持交换容量升级到2.88T,需要做的工作也是仅仅更换大容量交换网板 。在系统容量为720G或1.44T时,背板SerDes工作在3.125G 。升级到2.88T后,新的交换网板支持SerDes工作到6.25G,因此背板带宽提高了一倍 。升级后的系统支持80G线卡,既可以线速支持8x10GE线卡 。应该指出的是,升级后的系统兼容所有老的线卡,网板与老线卡之间的SerDes工作在3.125G,与新线卡之间的SerDes工作在6.25G,如图8所示,红色SerDes总线工作在6.25G 。
图8 2.88T系统
三、; 全分布式业务处理模式
S8500的业务处理都分布在各线卡上,各线卡协同工作,分别处理 。这种处理模式与集中式处理模式相比,有很大的优越性 。集中式处理模式一般将业务处理放到中心处理板上,线卡只是被动的接收中心处理板的指令,这样就轻易造成单点故障,并且集中式处理受限于中心处理板的处理能力,一般无法支持大数据量的处理 。分布式处理有效的避免了集中式处理的缺陷,能更加稳定可靠的支持大容量数据处理 。目前高端设备基本都采取分布式处理模式,只是分布的程度有所不同 。S8500各线卡都包含处理能力强大的Packets Engine,可以线速处理Layer2,IPv4,MPLS/VPN,IPv6等各种数据包转发,无需中心处理板协助 。各线卡都包含一颗高速CPU,可以进行部分协议的处理和预处理工作,有效的降低了中心处理板的负担,提高了系统的处理能力,使整个系统更加健壮和稳定 。
为提高可靠性,所有核心部件都有备份,双电源,双网板,双主控 。
四、 完善的QoS保障机制
QoS保障机制在网络运行中是必不可少的 。S8500的QoS机制可以平滑突发,均匀网络流量;充分利用带宽,降低拥塞情况下的丢包率;区分用户优先级,区分时延敏感、抖动敏感、丢失敏感业务流,进行不同处理;控制数据流或端口流量;支持实时流量查看和长期流量统计功能,全面了解设备流量情况 。
1、S8500支持大的数据包缓存 。对于Ethernet端口,支持6Mbytes/Gbps数据包缓存;对于POS端口,支持多达50Mbytes/Gbps数据包缓存 。大的数据包缓存能有效吸收突发流量,降低网络瞬间拥塞的丢包率,平滑网络流量 。因此大的数据包缓存能力对于整个网络的丢包率和流量的改善有重要作用 。但是这一点往往被忽视 。
2、S8500每端口支持8个优先级队列,可以区分不同优先级业务 。支持SP和WRR两种调度算法,用户可以使用其中之一,也可以将两者结合起来使用 。调度算法和队列治理的结合使用可以对时延敏感、抖动敏感和丢失敏感业务进行区分处理 。
3、拥塞避免机制 。对设备而言,网络拥塞是不可避免的,网络拥塞时丢包也是不可避免的,要害是怎样处理拥塞,怎样丢包 。S8500支持两级拥塞避免机制:交换网级和端口级 。交换网级拥塞避免机制是保障当一块线卡出现拥塞时,通知其他线卡,其他线卡通过VoQ机制选择丢弃的数据包,同时保障其他流量的正常转发 。端口级拥塞避免是通过端口队列治理实现端口拥塞时的丢包策略,S8500在端口上支持WRED和Tail Drop两种丢包算法 。因此S8500的拥塞避免机制可以在网络拥塞时尽可能少的丢包,丢优先级低的数据包 。

4、S8500支持对端口和对流的速率控制功能,可以精确的控制端口和流的实际速率 。对每个出端口和每个出端口队列的流量都可以做shaping,既可以控制出端口和出端口队列的实际速率 。还可以对入端口做CAR,设定入端口的接入速率 。S8500可以控制多达64K个数据流的速率,这个特性可以用来限定用户的接入速率,可以控制多达64K个用户的接入速率,实现带宽批发 。
5、S8500支持对端口和流的统计功能 。S8500可以实时显示各端口的流量情况,也可以记录长达一周的各端口的流量情况,可用于网络治理人员分析网络流量情况,调整网络拓扑 。S8500可以支持多达64K个数据流的流量统计,可以用于按时间收费的用户治理 。
五、 灵活的业务提供能力 。
1、; 多种不同规格线卡 。
如前所述,S8500采用了业界技术发展的最新成果,完美的将ASIC技术和NP技术融合到一个系统中,使系统具有高性能,低成本的同时,具有灵活的业务提供能力 。众所周知,ASIC技术能带来数据处理的高性能,同时降低成本,但是ASIC不可编程,业务提供不灵活,所以ASIC技术适合固化成熟业务,用以提高性能降低成本 。NP具有很高的可编程能力,可以根据需要快速支持新的业务应用,业务提供能力强大,但是,正是因为NP的这种高度灵活性,使NP结构复杂,不能进行高容量的数据处理,同时价格昂贵,所以对成熟业务来说,采用NP处理并不是一种好的方法 。S8500成功的将两种技术融合起来,为客户提供NP线卡和ASIC线卡,客户可以根据需要进行选择 。不仅如此,S8500对成熟业务又进行了划分,分为基本业务和扩展业务,提供不同规格的线卡 。
S8500有如下几种线卡:
基本业务线卡(ASIC):支持L2/L3交换,ACL,QoS
MPLS/VPN业务线卡(ASIC):基本业务线卡规格,MPLS/VPN
IPv6业务线卡(ASIC):基本业务线卡规格,IPv6
NP业务线卡(NP):上述所有规格,其他业务(NAT/NAPT,Webswith…)
将所有规格都放到同一种线卡上,使成本高昂,对只需要基本业务的客户来说,得不偿失 。即使对同一客户,根据设备的网络位置,需要的业务规格也是不同的 。因此S8500给了客户更大的选择空间,客户可以根据自己的网络情况和业务发展情况选择不同的线卡,如初期可以选择基本业务线卡,当需要提供某种业务时再选配其他高性能线卡 。真正做到了按需选择,节省建网成本 。
2、灵活的业务提供模式 。
S8500支持3种业务处理模式,集中式、虚拟机、分布式 。下面以MPLS特性为例进行描述 。
A、 集中式业务处理模式
顾名思义,集中式业务处理就是将需要某种业务处理的数据流定向到能处理这种业务的处理单元去处理 。如图9,一个需要进行MPLS处理的数据流从普通业务板进入系统,通过配置某种规则,将这个数据流重定向的MPLS处理板进行处理,处理完毕后,MPLS处理板将这个流转发到目的端口送出系统 。在这种模式下,MPLS处理板没有对外端口 。这种模式适用于业务开展初期,业务量比较小的情况下 。
图9 集中式业务处理模式
B、 虚拟机业务处理模式
见图10 。在虚拟机业务处理模式中,你可以将整个系统理解成两台设备,一台只能处理基本业务,另一台只能处理MPLS业务 。两台设备之间的数据流传送可以通过外部端口,也可以通过内部交换网(图中为便于理解,表示的是通过外部端口互联) 。需要MPLS处理的数据流通过互联端口进入虚拟MPLS交换机 。这种模式适合于业务量比较大的应用 。

图10 虚拟机业务处理模式
C、 分布式业务处理模式
见图11 。所有的线卡都线速支持MPLS业务,同时也线速支持基本业务特性,因此叫分布式业务处理模式 。
图11 分布式业务处理模式
3、; 丰富的业务接口
S8500支持多种业务接口 。
【Quidway?S8500万兆核心路由交换机体系架构介绍】支持所有类型的Ethernet接口:FE/GE/10GE 。
支持丰富的WAN接口:OC-3c,OC-48c,OC-192c,2.5G RPR,10G RPR
由上面的介绍可以知道,S8500系列产品的体系架构充分考虑了各种因素,融合了当今业界最先进的技术:交换网、ASIC、NP等,为客户提供了一种高性能、大容量、多业务、成本可控的解决方案,同时在体系架构的设计过程中充分考虑了客户网络的多样性和业务的多样性,使S8500产品适用于多种应用场合 。S8512可以用于城域网骨干,行业网骨干,大型企业网骨干,大型校园网骨干,数据中心等等,S8505可以用于城域网汇聚,中小型企业网骨干,中小型校园网骨干,智能化小区,数据中心等 。而且S8500体系架构充分考虑了网络发展的需要,可以平滑升级到2.88T,NP可以灵活的适应未来业务发展的需要,完全可以满足未来5-10年的网络需求 。正是因为S8500的这些特色,我们相信S8500将成为网络建设的主力军,为客户的网络提供源源不断的动力 。