十年磨一剑-CompactPCI与AdvancedTCA发展综述
李涛 2005/04/28
一、十年 -- CompactPCI与AdvancedTCA综述
1、CompactPCI技术
从1994年到2004年,CompactPCI技术已经10岁了。经过这十年风风雨雨的洗礼,CompactPCI规范已经由当年孤零零的PICMG2.0单一规范,发展到如今拥有二十多个个性鲜明的兄弟姐妹的规范群体;而CompactPCI技术也由当初的"养在深闺无人识",发展到现在已经可以大规模成批量地应用于很多行业。
十年的发展与演变,CompactPCI令人感叹,更令人兴奋!曾经有人断言,并行总线的发展应经到了尽头,CompactPCI技术的路会越走越窄;也有人说CompactPCI不过是工业计算机的一个昂贵替代品;然而时至今日,纵观CompactPCI技术的发展,这些论断多少显得有些幼稚可笑。CompactPCI的路不仅没有越走越窄,反而越走越宽:PICMG在修正原有规范的同时,不断地将最先进的成熟技术纳入CompactPCI的规范体系,最大限度地发挥CompactPCI平台所蕴含的巨大威力;从Hot
Swap到Multi-computing,;从PMC到CompactPCI Bridging; 从Power Interface到System
Management;从H.110 CTbus到包交换背板支持Gigabit Ethernet以及StarFabric,对于行业工程师而言,一个普遍感觉是CompactPCI可以做越来越多的事情,是一项前途无量的技术!而对于设备制造商来说,令人振奋的是似乎CompactPCI技术每发展一步,都会帮助他们解决一些平台方面的问题,从而使得他们可以用更短的TTM(Time
To Market),获取更大的市场份额。
现如今CompactPCI技术已经在工业控制领域,数据通讯以及网络处理领域取得了很广泛的应用,越来越多的工程师开始认识到这项技术的优越性;而随着CompactPCI设备成本的不断下降,其在各行各业的应用规模必然不断扩大,我们有理由期待属于CompactPCI的一个辉煌前景!
2、AdvancedTCA技术
毋庸置疑,十年来CompactPCI技术取得了充分的发展和长足的进步。但同时在某些行业应用中,CompactPCI也暴露出一些弱点和不足之处。在电信领域,CompactPCI
并不成功,仅在一些边缘应用(如增值业务)中获得一些份额,而核心的运营商级应用全是专有设备(Propriatary Equipment)的天下,你几乎看不到CompactPCI的影子。
为什么呢?比较一下当前电信设备的要求与CompactPCI规范,答案很明显:
电信设备要求:
- 大容量,高密度:单台设备可带用户数量越大越好。因此电信设备的板卡面积都远远大于CompactPCI的6U×160mm,以容纳更多的集成电路芯片。
- 高性能,高速计算:一些采用新一代集成电路技术的CPU功耗已高达70W,而一张板卡拥有两颗甚至3颗不同的CPU已不稀奇。在这种情况下,CompactPCI规范已不适用。
- 高带宽,高速传输:即使是CompactPCI带宽的理论值:500Mbytes/s也远低于高速电信设备的要求,2.5Gbps甚至10Gbps的传输速度已经开始进入人们的视线。
其它方面比如系统管理以及支持光纤等多种接口的Rear I/O定义等方面,CompactPCI规范也难以满足电信设备的要求。
在这种情况下,AdvancedTCA应运而生。如果说PICMG"十年磨一剑",那么这柄锋利的宝剑就是集万千宠爱于一身的AdvancedTCA。PICMG充分考虑了电信行业的要求及特点,精心为其量身定做了AdvancedTCA--高级电信计算平台。其特点如下:
- 在结构上AdvancedTCA与CPCI、VME一样,都遵循成熟的IEC60297标准。
- AdvancedTCA采用先进的Piont to Piont Switched Fabric 结构,支持多种高速串行通信技术。
- AdvancedTCA的板卡面积约为CPCI板卡面积的2.5倍,而且板卡宽度也加大到1.2"(比CPCI宽0.4"),这使得单张板卡容纳多颗CPU成为可能,使得CPU带大功率散热片成为可能,使得大容量RAM成为可能,因此AdvancedTCA板卡可以支持电信设备大容量、高密度的要求。
- AdvancedTCA允许每一张板卡的功耗高达200W,并可以有效地为其散热,整个AdvancedTCA SHELF的散热能力高达3KW。开发工程师可以放心地选用高性能大功耗的CPU。
- AdvancedTCA拥有先进的完善的系统管理功能,开发工程师可以非常方便地对每一张板卡以及SHELF内部环境进行监控。而且AdvancedTCA可以支持多个系统控制器以冗余方式工作,极大地保证了系统管理的安全可靠性。
我们再回过头来看看用户对AdvancedTCA的反应:
- 对于电信运营商而言,在dvancedTCA出现之前,几乎所有的电信设备都是专有设备(Propriatary Equipment),不同厂家的设备互不兼容,不可替换,一旦选定一家厂商的设备,就要面临第二次投资,极大地造成资源浪费!电信运营商为此苦不堪言,一种崭新地专用于电信设备的高性能通用平台显然符合他们的愿望。
- 对于电信设备制造商而言,他们也在渴望一种通用系统平台,可以帮助他们有效地将多种应用技术都统一到这种通用平台上面,从而极大地节省了研发和生产的成本,大大缩短新技术的TTM(Time
To Market),增强他们的竞争力。
AdvancedTCA正是这样的通用系统平台,它凝聚了多方面关注的目光,象一颗光芒四射的新星正在冉冉升起,走向属于它的辉煌!
二、 AdvancedTCA 核心技术
作为新一代电信网络的高性能计算平台,AdvancedTCA融合了很多国际先进技术,在计算性能,网络传输能力,管理性能等方面都比原有计算架构具有明显的优势。AdvancedTCA的核心技术分析如下:
1. Point-to-Point Switched Fabric 点对点交换结构
这是一种全新的数据连接结构,在这种"交换结构"的支持下,任何一次数据释放,不管它在哪一个连接器的哪一个Pin,都有一条单向的数据通路通向任何它想去的连接器的任何Pin。这种数据连接是通过一种交换元件动态地对数据通路进行连接和断开,从而实现高速数据传输。
AdvancedTCA Fabric 接口信道是建立在LVDS(低压差分信号)差分对基础之上,电气特性需求是建立在3.125GHz 信号基础之上。数据编码使用8b/10b
编码机制 。AdvancedTCA A中两块板卡的基本连接单元称作通路,一个通路由4个端口组成,每个端口又由两对差分信号组成,构成了AdvancedTCA
Fabric 接口的最小连接单元。端口的两对差分信号被映像成一收一发的传输模式。下图描绘了一个差分对、一个端口、以及一个通路的针脚分布。

Switched Fabric按照拓扑的不同,分为Dual Star(双星型),Dual-Dual Star(双-双星型),Full Mesh(全网状)三种结构。
A. Dual Star结构
Dual Star是所有Switched Fabric中最基本的配置结构。支持Dual Star的背板包括两个Hub slot,其它的slot都作为Node
slot,如图所示:

B. Dual-Dual Star结构
Dual-Dual Star连接两个独立的且冗余的Fabric结构,Hub slot被指定位于逻辑slot 1,2,3&4。每一个Node
slot支持最少4个通道,每一个通道由8个差分传输对组成,这些通道连接所有的slot,组成Fabric接口。
C. Full Mesh结构
全网状背板提供slot与slot之间最大限度的连接。所有的slot都是相同的连接方式,并且可以支持交换板卡(Switch boards)或者节点板卡(Node
boards)。全网状背板可以支持所有类型板卡并且兼容Multi-Fabric系统。
下图是全网状背板数据结构示意图

由下而上依次为:电源层,系统管理层,模拟测试总线,基本接口,更新总线,Full Mesh Fabric接口。其中,系统管理总线基于IPMI,并设计为冗余使用,以确保系统管理安全可靠。系统管理总线可以是I2C总线,也可以是星型连接方式。基本接口则是一个双星型的拓扑结构具有冗余的交换slot和以太网BAST-T信号,在PICMG3.0中提供IP传输。
不管采用何种拓扑形式,所有信号的连接与交换都要通过背板,因此背板的设计及工艺是至关重要的!信号完整性的考虑,EMC措施的适用,高速传输背板的设计经验,完整的背板测试手段…,这些都是决定系统成败的关键因素!例如威图公司已经生产出带宽高达10Gbps的Full
Mesh背板,并且通过了严格的模拟测试。
2.AdvancedTCA Shelf的散热技术
这应该是AdvancedTCA各项技术中难度最大,最不易实现的一项技术了!PICMG3.0规定了单板热量高达200W,单台Shelf热量高达3KW左右,如何有效散去这3KW热量显然是一个很大的挑战!在这种情况下,只有全面的,综合运用各种手段的散热方案才能解决问题:
a) 采用散热能力强,通风量大的涡轮式风机,且可以支持智能化调节转速。
b) Shelf 整体设计充分考虑科学顺畅的风流通道,使得风流可以得到正确引导,沿着预先设计好的通道运行。
c) 因为ATCA板卡深度较大,需要通过结构设计保证前端插卡有充分的冷却风流通过,使得板卡上的所有“热点”都可以得到有效冷却。
d) 需要做热量以及风流量的模拟测试,以确保ATCA Shelf的结构满足ATCA规范的散热要求。
e) 还要考虑机柜的情况:当机柜不封闭的情况下,风冷方式可以胜任ATCA Shelf的散热工作;当机柜完全封闭的情况下,热空气很难及时排到机柜外面去,会造成热空气在机柜内部循环,导致环境温度升高,这时风冷已无法达到散热目的,必须选用其它散热方式,如液体冷却。
A.威图风冷散热技术:
下面我们以威图公司的13U AdvancedTCA Shelf为例来介绍ATCA的散热技术:
其技术规格如下:
Standard system Version VA-1 (Rittal ShMC)
- 19” x 13 U x 385 mm deep
- 14 x 6 HP for front boards and RTM
- 14 Slot backplane with bussed IPMI
- 4 x fan RiCool
- 2/4 PEM plugged at the rear
- Prepared for 2 x Rittal ShMC (rear)
- Interchangeable filter frame
其中4个涡轮式冷却风扇按照上下两层排列,
将冷却风流自下而上吸入,从后面排出。
其风流通道如图所示:

根据13U ATCA Shelf,威图公司做了热量以及风量的模拟分析:
Heat and Flow simulation per CFD
(Computational Fluid Dynamics)
<--图片标记5-->
Condition A: 4个Ricool Blowers 以75%的转速运行:

Condition B:3个Ricool Blower以100%转速运行:

根据试验的结果分析,威图公司确定了其13U ATCA Shelf的整体设计,并确保其完全符合AdvancedTCA规范对散热的要求。
B.威图液体冷却技术
液体冷却技术适用范围:
- 当系统对散热的要求甚至高于ATCA规范的定义(3KW/shelf)时
- 当ATCA Shelf处于相对密闭的环境,或者存在温度非常高的“热点“区域时
- 当客户需要更加紧凑的ATCA Shelf(例如10U或更低..)时
液体冷却技术图解:

散热原理: 由工业空调提供冷却循环水,板卡上的“热点”安装液体散热片,散热片通过循环管道以及特殊连接器与背板连接,背板上由特殊连接器通过循环管道与工业空调的循环系统相连。板卡可以正常插拔,不会牵连循环管道。

用于连接冷却循环水的特殊连接器:(如下图示)
特点: 使用蒸馏水,带输入输出连接端子,安装于背板上部Zone3区域。

液体冷却技术图示:

3.AdvancedTCA的其它核心技术还包括:电源管理,系统管理等,这里因为篇幅所限,不再一一介绍。
CompactPCI与AdvancedTCA的应用介绍
A. CompactPCI应用介绍:
作为高性能高可靠性的计算平台,CompactPCI技术在很多行业都取得了广泛的应用,例如:电信增值业务包括彩铃,彩话等,军用通信系统,海军声纳探测设备,雷达监测设备,实时机器控制设备,测量测控平台,铁道信号监测系统,航天航空领域,石油测井计算平台等等。
下面以威图公司的CompactPCI系统为例,介绍CompactPCI技术在行业中的应用:
A. ComapctPCI在海军声纳探测技术中的应用:
系统要求:大容量CompactPCI系统,背板可以支持20个DSP处理板卡,并保证充足的电力供应,足够的散热能力,以及稳定的工作状态。
威图配置:12U 20slot CompactPCI系统,12个冷却风扇风道自下而上,6颗250W CPCI 电源保证1500W的电力供应,同时支持5+1冗余。系统图片如下图:

该系统目前已通过海上试验,威图公司的CompactPCI系统以稳定的性能保证了海上试验的最终成功。
B. CompactPCI在移动增值业务——彩铃系统中的应用
作为彩铃系统中最重要的设备——Voice Processing Unit的计算平台。
系统要求:支持8个slot CompactPCI插卡(其中语音卡7个),支持4个热插拔SCSI硬盘,支持Raid 0,1,3,5;支持风扇故障报警显示,支持交流电源冗余双输入且保证1000W电力供应;系统运行稳定可靠。
威图配置:8 slot H.110 CompactPCI背板,2个热插拔SCSI硬盘模组(每一组支持2个热插拔SCSI硬盘),一个Raid
Controller支持Raid 0,1,3,5等,交流双输入模块,4个250WCPCI电源支持3+1冗余。系统配置如下图:

目前该系统已经在现场运行了一年半多的时间,威图公司的CompactPCI系统以良好的质量,稳定的运行获得了用户的一致好评。
B.AdvancedTCA应用介绍:
AdvancedTCA的设计目的就是作为电信应用的高级计算平台,因此AdvancedTCA可以作为通用计算平台在各种各样的电信行业应用中找到自己的位置,如下图所示:

AdvancedTCA在电信网络架构中的位置如下图所示:

下面通过威图公司AdvancedTCA Shelf在电信网络中的应用来具体说明ATCA技术的巨大优势:
1. ATCA在流媒体/IPTV中的应用:
在采用ATCA技术之前,流媒体处理平台一般采用PC-server。一台PC-server可以处理200个请求,系统集成商从运营商那里得到300,000个请求的订单,为满足客户要求,需要配置以下系统:
1500 sets PC-server:For Example:Dell2850 2U
150个19“42U机柜:假设一个机柜安装10个Dell2850
这意味着运营商必须为这150个新增机柜准备近300平方米面积的机房,这对于运营商来说是非常非常高昂的成本,因此运营商拒绝此方案。
而采用AdvancedTCA之后又如何呢?
一个ATCA board可以处理300个流媒体请求,一台ATCA Shelf可以取代15台PC-server,因此采用ATCA shelf作为流媒体处理平台,只需要30多个机柜就可以了,这大大节省了运营商的运营成本,因而该方案受到他们的欢迎并被最终采纳。
2.ATCA在GSM网络基站控制器中的应用
在采用ATCA技术之前,GSM基站控制器由3台ETSI 机柜系统组成,总共约有200多块处理板卡,系统结构冗繁复杂,单卡处理能力偏弱,而且系统总成本偏高。
后来客户采用威图公司的13U ATCA Shelf作为基站控制器的处理平台,整个系统结构大为简化,只需要两台ATCA Shelf就可以代替原来的3台机柜设备!
而且性能大为提高,稳定性,可靠性都得到了极大的保证,并且有效地降低了成本。
随着ATCA技术在电信行业影响日渐扩大,ATCA在电信行业的应用必然越来越广泛。
威图公司简介:
威图公司是一家来自德国的跨国公司,在全球拥有50家子公司,20家工厂(其中包括威图在加拿大滑铁卢地区的子公司Kaparel —— 著名的CompactPCI/AdvancedTCA厂商),共8000余名员工。主营产品一共分为七大类,其中CPCI/ATCA产品属于其第二大类产品。威图公司是PICMG(PCI工业计算机厂商联盟)的主任委员,也是PICMG的发起者之一,是最“原始”的CPCI/ATCA厂商。威图公司的CPCI/ATCA产品拥有多项独特的专利技术,并以开放式架构,兼容性好,配置灵活,定制性强等优点而著称于业界。公司内有多名资深员工先后在PICMG,IEEE等国际标准或规范组织中担任要职。基于如此雄厚的实力,威图公司可以在第一时间内提供最先进的,符合PICMG最新规范的CPCI/ATCA产品。
PICMG/P.R.C 供稿 CTI论坛编辑
相关链接: