[显卡]HD7970脱胎换骨,5年架构大革命

　　
　　2012.1.9日注定成为显卡发展史上光辉的一天。这一天过后，全世界的骨灰玩家们不用再为选择GTX580还是HD6970而发愁了。脚踩28nm祥云，手持DX11.1利剑，2048sp的HD7970如约而至，发出的却不是高端显卡司空见惯的怒吼，而是沁人心扉的天籁梵音~
　　
　　曾经与Intel“摩尔定律”齐名的NVIDIA“黄氏定律”称“在图形处理器领域，每过半年GPU的性能提高一倍”！但纵观2011年，不管是NVIDIA还是AMD，桌面显卡发展都陷入了一种形式化的怪圈，新品看似不断实则“不新”、定位看似精准实则混乱，架构工艺鲜有创新，性能体验踯躅不前。GTX500和HD6000均乏善可陈，反而让Intel集显在转码领域抢到一席之地。
　　乌云蔽日终有散时，就在今天，AMD厚积薄发，一举推出架艺双馨的旗舰产品，南方群岛系列显卡呼之欲出，显卡产业再次焕发生机！
　　泡泡网HD7970特别专题页面：点击进入
　　
　　
　　

　　
　　
　　GPU核心概述：半导体制造工艺之瓶颈
　　第一章 AMD和NVIDIA在显卡发展过程中遇到的困难
　　第一章/第一节 半导体制造工艺制约GPU的发展
　　既然前面提到了“黄氏定律”，我们不妨来回顾一下“摩尔定律”，这条早在1965年提出的理论至今都依然有效，并且暗中左右着半导体芯片的发展，其大致内容是“集成电路上可容纳的晶体管数目，约每隔18个月便会增加一倍，性能也将提升一倍。”
　　
　　图例：如果用1000nm工艺制造Core i7，其核心面积将会有一本书这么大
　　“摩尔定律”最基本的涵义就是：半导体工艺需要一年半甚至更多的时间才能前进一代。但对于芯片级企业来说，如果这么久的时间才推出一代产品的话，显然是无法满足市场需求的。于是Intel率先提出了Tick-Tock（工艺年-构架年）的战略模式，在半导体制造工艺停滞不前的情况下，通过改进架构来提升性能，而在架构保持不变的情况下，通过更新工艺来提升性能改善功耗，两种方案交替更新、相得益彰。
　　
　　GTX260与HD4870卖同样的价钱，大核心显然要吃亏一些
　　近年来的GPU的发展也与CPU非常类似，GPU的晶体管规模比CPU更为庞大，更加迫切的需要先进制造工艺的支持。但目前只有台湾岛内的台积电这家公司才有能力制造高度复杂的GPU，而最近台积电在新工艺的研发方面遇到了些麻烦，进展不是很顺利。
　　其实台积电40nm工艺的投产就已经让AMD和NVIDIA很头疼了，它直接造成了HD4770以及HD5870/5770系列产能不足的局面，也让NVIDIA的巨无霸核心GF100良率低下、功耗超高。现在台积电又因故取消了32nm工艺的研发，转而直接上马28nm，不管是AMD还是NV，均为新工艺捏了一把汗。
　　
　　AMD最初的规划就是代号为“北方群岛”(Northern Islands)的新一代图形架构，准备采用台积电32nm工艺制造，具体核心代号有Cozmuel、Kauai、Ibiza。但由于台积电取消32nm，AMD不得不更改计划，一边等待新工艺、一边使用现有成熟的40nm工艺、在上代产品基础上开发改进型产品。
　　于是就诞生了代号为NI-40过渡型HD6000系列，保持40nm工艺不变，在现有架构的基础上进行小修小补。HD6000系列相比HD5000系列，虽然核心架构和外围功能模块、甚至显示输出部分都有了增强，但性能却没有什么起色。
　　

　　
　　皇位之争：AMD和NVIDIA的“巅峰对决”
　　第一章/第二节 皇位之争：AMD和NVIDIA的“巅峰对决”
　　两军交战，阵前能斩落敌方武将于马下，则士气大振，已然胜了一半。而在PC领域，处理器和显卡等核心产品线的战场上也是同样的道理，旗舰级显卡作为各自最强3D图形性能的代表，肩负着展示技术、树立形象、打击竞争的特殊使命。
　　
　　NVIDIA和AMD两大巨头之间每一次顶级产品的对决都可以用惊天地、涕鬼神来形容！对于消费者来说，新旗舰的性能总能给人惊喜，更让人激动的是那些首次应用的新技术和特效：革命性的架构往往就是从旗舰显卡开始！
　　
　　NVIDIA很早就意识到了这一点，因此近年来他们对旗舰级显卡性能之王的宝座看得很重，明知台积电压力山大，也要在晶体管堆积上取得优势。
　　
　　在两大图形巨头日渐白热化的竞争中，半年更新、一年换代早已成为显卡领域的“摩尔定律”。而每当新王者登基、改朝换代之时，我们也会于第一时间为大家献上详细的评测文章。
　　

　　
　　第二章 南方群岛之 Tahiti 架构解析
　　作为显卡来说，AMD的Radeon自HD4000时代以来为游戏玩家提供了众多优秀的产品，HD5000/HD6000系列丝毫不输给NVIDIA同级产品，性能、功能、价格、功耗等各方面表现得都很不错。对于AMD下代HD7000系列，我们毫不怀疑它在3D游戏中会有更出色的表现。
　　但作为GPU来说，AMD的产品显然要逊色很多，不支持物理加速、Stream通用计算性能不如CUDA，支持GPU加速的软件也屈指可数，这已经成为AMD最大的软肋，并且成了NVIDIA和NFan们攻击的对象。
　　第一节 Radeon是一款好显卡，但不是颗好GPU
　　
　　（本章图/文孙敏杰）
　　随着时间的推移，保守的AMD终于尝到了固步自封的苦果：当NVIDIA的CUDA计算课程进入高校学堂、Tesla杀进超级计算市场、Quadro拿下95%的专业卡市场份额之时，AMD的Radeon还只能游弋在3D游戏领域，苦守来之不易的半壁江山。
　　想当年AMD率先提出GPU通用计算的概念，但最终却在NVIDIA的CUDA手中发扬光大。很多人以为这是AMD收购ATI后自顾不暇的关系，其实根本原因还在于GPU的架构——传统基于3D图形处理的GPU不适合于进行大规模并行计算，AMD的GPU拥有恐怖的理论运算能力却无从释放。而NVIDIA则从G80时代完成了华丽的转身，逐步完善了硬件和软件的协同工作，使得GPU成为高性能计算必不可少的配件。
　　
　　俗话说的好：苦海无涯、回头是岸，亡羊补牢、为时不晚。AMD终于在代号为Southern Islands（南方群岛）的新一代GPU中，启用的全新的架构，AMD称之为“Graphics Core Next”（GCN，次世代图形核心），并冠以革命性的称号。这是AMD收购ATI之后的近5年来第一次对GPU架构进行“伤筋动骨”的“手术”，而架构调整的核心内容则是为并行计算优化设计。
　　那AMD的“次世代图形核心”相比沿用了五年之久的架构到底有何改进？其并行计算性能相比对手NVIDIA有无优势？3D游戏性能会否受到影响呢？本文将为大家做一个全方位的解析，文中会穿插一些3D渲染原理以及显卡基础知识，并谈谈GPU图形与计算的那些事儿……
　　

　　
　　第二章/第二节 成也微软败也微软：XBOX360阻碍显卡/游戏发展
　　微软的DirectX 9.0C是一个神奇的图形API，自2004年首款DX9C显卡GeForce 6800 Ultra问世以来，至今已有将近8年时间，之后虽然微软发布了DX10、DX10.1、DX11、还有现在的DX11.1等多个新版本，但DX9C游戏依然是绝对主流，DX10以后的游戏全部加起来也不过几十款而已！
　　因此，当年的DX9C显卡之战，很大程度上决定了此后很多年的显卡研发策略。从最开始X800不支持DX9C对抗6800失利，到X1800支持DX9C却性能不济，再到X1900登上顶峰，还有半路杀出来XBOX360这个程咬金，ATI被AMD收购前的经历犹如过山车般惊险刺激！
　　
　　DXC如此长寿的原因，相信游戏玩家们已经猜到了，那就是游戏主机太长寿了——微软XBOX360以及后来索尼PS3使用的GPU都是DX9C时代的产品。游戏开发商的主要盈利来源在主机平台，所以根本没心思把PC游戏做好，尤其对提高PC游戏的画面及引擎优化提不起兴趣，个别以高画质而著称的PC游戏倍受打击，很多DX10游戏续作倒退到DX9C就是很好的证明。
　　可以说，这么多年来PC 3D游戏图形产业的发展，成也微软、败也微软。
　　
　　XBOX360的GPU——Xenos，由ATI设计
　　
　　Xenos的核心架构图
　　微软XBOX360的成功，给GPU供应商ATI发出了一个信号，那就是今后N年内的游戏都将基于XBOX360的硬件而开发。当时ATI与Xenos同时研发的一颗GPU代号为R580，俩者拥有相似的架构，而R580在当年也成为DX9C显卡的王者，这就让ATI更加坚定了维持现有架构不变的决心。
　　

　　
　　第二章/第三节 从X1900XTX谈起：用3:1黄金架构做计算
　　下面我们就来看看R580的核心架构，也就是当年的王者X1900XTX/X1950XTX所使用的GPU，后来次高端RV570核心（X1950Pro）的架构也类似。
　　
　　R580：8个顶点着色单元、48个像素着色单元、16个纹理单元
　　DX9C显卡还没有统一渲染架构的概念（XBOX360的Xenos是个特例），所以R580依然是顶点与像素分离式的设计。当时的GPU核心部分被称为管线，比如7800GTX拥有24条像素渲染管线，但X1900XTX却不能称为拥有48条像素渲染管线，因为它的像素与纹理单元数量不对等。
　　GPU的工作原理：
　　
　　显卡的渲染流程是通过顶点单元构建模型骨架，纹理单元处理纹理贴图，像素单元处理光影特效，光栅单元负责最终的像素输出。
　　GPU的管线是什么：
　　在R580之前，GPU的像素单元与纹理单元还有光栅单元是绑定在一起的，数量一样多，整个渲染过程就是流水线作业，因此像素与纹理加起来称为一条管线。
　　什么是3:1架构？
　　R520核心（X1800XT）的像素与纹理都是16个，但R580核心在纹理单元维持16个不变的情况下，把像素单元扩充了3倍达到了48个之多。ATI研发工程师发现新一代游戏中使用像素着色单元的频率越来越高，各种光影特效（尤其HDR）吃掉了像素着色单元的所有资源，而纹理单元的负载并不高，继续维持像素与纹理1:1的设计就是浪费资源，于是ATI根据3D游戏引擎的发展趋势做出了改变，并把R580这种不对等的架构称之为3:1黄金架构，管线的概念至此消失。
　　
　　像素(算数)与纹理的比例逐年提高
　　当年ATI前瞻性的架构在部分新游戏中得到了应验，比如在极品飞车10、细胞分裂4、上古卷轴4等游戏中X1900XTX的性能远胜7900GTX。此外ATI专为HDR+AA优化的架构与驱动也让ATI风光无限。
　　但事实上，从1:1大跃进到3:1有点太激进了，在包括新游戏在内的绝大多数主流游戏中，都无法充分利用多达48个像素着色单元的能力。于是ATI的工程师们又有了新的想法：何不用这些像素单元来做一些非图形渲染的计算呢？像素单元的核心其实就是ALU（算术逻辑单元），拥有十分可观的浮点运算能力。
　　蛋白质折叠分布式计算开启GPU计算大门：
　　
　　2006年9月，在X1900XTX发布半年之后，ATI与斯坦福大学相关科研人员合作，开发了首款使用GPU浮点运算能力做非图形渲染的软件——Folding @ Home第一代GPU运算客户端。
　　
　　Folding@home是一个研究蛋白质折叠、误折、聚合及由此引起的相关疾病的分布式计算工程。最开始F@H仅支持CPU，后来加入了对PS3游戏机的支持，但同样是使用内置的CELL处理器做运算。F@H因ATI的加入为GPU计算翻开了新的一页，当然F@H加入了对NVIDIA DX10 GPU的支持那是后话。
　　什么是通用计算？
　　当时的GPU计算被称为GPGPU（General Purpose GPU），传统的图形处理器可以被用来做通用目的计算项目。所谓通用计算的大体流程就是：待处理的数据—〉转换成图形数据—〉GPU处理—〉处理后的图形数据—〉转换成所需数据。其实通用计算就是把数据转换为GPU能够“看懂”的图形数据，实际上是作为虚拟硬件层与GPU通讯，由于需要前后两次编译的过程，因此想要利用GPU强大的浮点运算能力，需要很强大的编译器，程序员的开发难度可想而知，CPU的运算量也比较大。
　　
　　除了蛋白质折叠分布式计算外，当年ATI还开发了AVIVO Video Converter这款使用GPU加速视频转码的小工具，虽然效果一般，但也算是开了个好头。
　　虽然GPU通用计算的实现难度很大，但至少GPU实现了非图形计算的目的，而且其性能确实要比当时的CPU快十几倍。小有所成的ATI被胜利冲昏了头脑，他们认为自己研发出了最先进的、最有前瞻性的GPU架构，还找到了让GPU进行通用计算的捷径、还有了AMD这座靠山……最终促使AMD-ATI做出了保守的决定——下代GPU继续沿用R580的架构，不做深层次的改动。
　　

　　
　　HD2900XT走向不归路：超长指令集的弊端
　　第二章/第四节 HD2900XT走向不归路：超长指令集的弊端
　　R520->R580的成功，多达48个着色单元功不可没，这让ATI对庞大的ALU运算单元深信不疑。ATI认为只要继续扩充着色单元，就能满足新一代DX10及Shader Model 3.0的要求。
　　着色单元的结构：
　　在图形处理中，最常见的像素都是由RGB（红黄蓝）三种颜色构成的，加上它们共有的信息说明（Alpha），总共是4个通道。而顶点数据一般是由XYZW四个坐标构成，这样也是4个通道。在3D图形进行渲染时，其实就是改变RGBA四个通道或者XYZW四个坐标的数值。为了一次性处理1个完整的像素渲染或几何转换，GPU的像素着色单元和顶点着色单元从一开始就被设计成为同时具备4次运算能力的运算器（ALU）。
　　
　　数据的基本单元是Scalar（标量），就是指一个单独的值，GPU的ALU进行一次这种变量操作，被称做1D标量。由于传统GPU的ALU在一个时钟周期可以同时执行4次这样的并行运算，所以ALU的操作被称做4D Vector（矢量）操作。一个矢量就是N个标量，一般来说绝大多数图形指令中N=4。所以，GPU的ALU指令发射端只有一个，但却可以同时运算4个通道的数据，这就是SIMD（Single Instruction Multiple Data，单指令多数据流）架构。
　　
　　R580的Shader单元结构
　　显然，SIMD架构能够有效提升GPU的矢量处理性能，由于VS和PS的绝大部分运算都是4D Vector，它只需要一个指令端口就能在单周期内完成4倍运算量，效率达到100%。但是4D SIMD架构一旦遇到1D标量指令时，效率就会下降到原来的1/4，3/4的模块被完全浪费。为了缓解这个问题，ATI和NVIDIA在进入DX9时代后相继采用混合型设计，比如R300就采用了3D+1D的架构，允许Co-issue操作（矢量指令和标量指令可以并行执行），NV40以后的GPU支持2D+2D和3D+1D两种模式，虽然很大程度上缓解了标量指令执行效率低下的问题，但依然无法最大限度的发挥ALU运算能力，尤其是一旦遇上分支预测的情况，SIMD在矢量处理方面高效能的优势将会被损失殆尽。
　　DX10时代，混合型指令以及分支预测的情况更加频繁，传统的Shader结构必须做相应的改进以适应需求。NVIDIA的做法是将4D ALU全部打散，使用了MIMD（Multi Instruction Multiple Data，多指令多数据流），而AMD则继续沿用SIMD架构，但对Shader微架构进行了调整，称为超标量架构。
　　R600的5D超标量流处理器架构：
　　
　　作为ATI的首款DX10 GPU，架构上还是有不少改进的，DX10统一渲染架构的引入，让传统的像素渲染单元和顶点渲染单元合二为一，统称为流处理器。R600总共拥有64个Shader单元，每个Shader内部有5个ALU，这样总计就是320个流处理器。
　　
　　R600的Shader单元结构
　　R600的Shader有了很大幅度的改进，总共拥有5个ALU和1个分支执行单元，这个5个ALU都可以执行加法和乘加指令，其中1个"胖"的ALU除了乘加外之外还能够进行一些函数（SIN、COS、LOG、EXP等）运算，在特殊条件下提高运算效率！
　　
　　与R580不同的是，R600的ALU可以在动态流控制的支配下自由的处理任何组合形式的指令，诸如1+1+1+1+1、2+2+1、2+3、4+1等组合形式。所以AMD将R600的Shader架构称作Superscalar（超标量），完美支持Co-issue（矢量指令和标量指令并行执行）。
　　R600超长指令集的弊端：
　　从Shader内部结构来看，R600的确是超标量体系，但如果从整个GPU宏观角度来看，R600依然是SIMD（单指令多数据流）的VLIW（超长指令集）体系：5个ALU被捆绑在一个SIMD Shader单元内部，所有的ALU共用一个指令发射端口，这就意味着Shader必须获得完整的5D指令包，才能让内部5个ALU同时运行，一旦获得的数据包少于5条指令，或者存在条件指令，那么R600的执行效率就会大打折扣。
　　例如：指令一：a=b+c；指令二：d=a*e。这两条指令中，第二条指令中的a必须等待第一条指令的运算结果，出现这样的情况时候，两条指令大多数情况下就不能实现超标量执行了。
　　显然，想要完整发挥R600的性能必须满足苛刻的条件，这个条件不仅对驱动和编译器提出了额外的要求，而且要求程序必须让条件指令不存在任何关联性，难度可想而知。最终结果就是绝大多数情况下R600都无法发挥出的理论性能，而且其执行效率会因为复杂指令的增多而不断下降。
　　

　　
　　HD4870的救赎：暴力扩充流处理器
　　第二章/第五节 HD4870的救赎：暴力扩充流处理器
　　HD2900XT的失败来自于很多方面，GPU核心架构只是冰山一角，就算保守的AMD沿用了DX9C时代的老架构，性能也不至于如此不济。但无奈GPU架构已经定型，短期内是无法改变了，HD2000和HD3000一败涂地，AMD咬牙硬抗了两年之久。就在大家为R600的架构争论不休，大谈VLIW指令集的弊端有多么严重时，AMD终于迎来了翻身之作——RV770核心。
　　RV770核心：暴力扩充流处理器
　　RV770相比R600/RV670，核心部分依然没有任何变化，沿用了之前的Shader单元设计，只是将数量扩充了2.5倍，流处理器达到了800个之多！
　　
　　RV670/R600是4组SIMD，每组16个Shader，每个Shader 5个流处理器；RV770是10组SIMD，每组16个Shader，每个Shader 5个流处理器。流处理器部分直接扩充了2.5倍！
　　虽然对流处理器部分没有改动，但AMD对流处理器以外的几乎所有模块都进行了改进，从而使得性能和效率有了质的提升，具体改动如下：
　　抗锯齿算法改变，性能大幅提升
　　纹理单元和光栅单元部分，和流处理器一样都是数量翻了2.5倍，但值得一提的是，抗锯齿算法已经由R600/RV670的流处理器部分转移至光栅单元部分，因此RV770的AA效率大幅提高，一举超越了N卡重现X1000时代的辉煌，这也就是RV770表现令人惊异的主要原因。
　　
　　在纹理单元与显存控制器之间设有一级缓存，RV770核心相比RV670，L1 TC容量翻倍，再加上数量同比增加2.5倍，因此RV770的总L1容量达到了RV670/R600的五倍之多！
　　放弃环形显存总线，改用交叉总线
　　RV770还放弃了使用多年的环形显存总线，估计是因为高频率下数据存取命中率的问题，回归了交叉总线设计，有效提高了显存利用率，并节约了显存带宽。还有GDDR5显存的首次使用，瞬间将显存位宽翻倍，256Bit GDDR5的带宽达到了当时N卡512Bit GDDR3的水平。
　　总的来说，虽然流处理器部分没有做改动，但RV770的非核心架构部分有了很大的改良，上代产品许多设计失误得到了纠正，在流处理器数量暴增运算能力大大加强的情况下，消除了功能模块的瓶颈，从而使得性能有了大幅改进。
　　VLIW并未降低3D效率，只是妨碍了GPU计算
　　HD4870/HD4850打了一场漂亮的翻身仗，也让唱衰VLIW的人看傻了眼，之前大家普遍认为R600/RV670失败的主要原因是VLIW的低下效率，事实证明VLIW并没有错，其效率问题并没有严重到失控的地步，毕竟DX9C游戏还是主流，顶点与像素操作指令还是大头。AMD只是错误的判断了抗锯齿的算法和效率，导致第一代DX10 GPU性能不如预期。
　　但最关键的问题不在3D游戏性能方面，AMD对GPU并行计算依然没有投入足够多的重视，AMD一方面在鼓吹自家Stream通用计算并不输给CUDA，各种商业软件未来将会加入支持，另一方面GPU架构未做任何调整，API编程接口支持也举步维艰。结果就是Stream软件无论数量、质量、性能还是发布时间都要远远落后于CUDA软件。
　　

　　
　　HD5870的辉煌：在错误的道路上越走越远
　　第二章/第六节 HD5870的辉煌：在错误的道路上越走越远
　　R600的失败让AMD明白了一个道理：从哪跌倒要从哪爬起来；RV770的成功让AMD坚信：我们的架构是没有问题的，以前的失败只是一个小小的失误，R600的架构前途无量，应该加快脚步往前冲……于是乎RV870诞生了。
　　如果说RV770是翻身之作，那么RV870（Cypress）就是反攻之作，AMD抢先推出DX11显卡，在NVIDIA GF100陷入大核心低良率的泥潭时，大举收复失地。
　　RV870是AMD近年来最成功的一颗GPU核心，但它的成功是拜NVIDIA的失误所赐，RV870核心本身可以说是毫无新意，因为它完全就是RV770的两倍规格，除了显存控制器以外的所有模块统统翻倍，AMD沿用RV770暴力扩充流处理器的路线，继续提高运算能力，抢滩登陆DX11。
　　
　　RV870核心架构图
　　把RV870与RV770的架构图放一起的话，可以发现其外围周边模块几乎完全相同，而流处理器部分是一分为二的设计，其中的一半正好就是RV770的规格。
　　除了加入DX11、ShaderModel 5.0的支持，赋予Eyefinity 6屏输出的功能外，RV870与RV770相比并没有本质改进。
　　既然流处理器部分还是维持R600的设计，那就不用期待它在并行计算方面能有什么改进。AMD依然我行我素的在搞通用计算，支持的软件还是那么几款。RV870理论浮点运算能力再创新高，但却没什么人用，中国最强的超级计算机天河一号曾经使用的是HD4870X2，但后来升级成天河一号A之后改用了NVIDIA的Tesla，就是活生生的例子。
　　

　　
　　HD6870的一小步：双超线程分配处理器
　　第二章/第七节 HD6870的一小步：双超线程分配处理器
　　也许有人会问，如此暴力的扩充流处理器规模而不更改架构，R600架构会成为AMD的常青树吗？难道不会有什么瓶颈吗？当然会有，AMD也发现了，所以从HD6000系列开始又进行了一轮架构的微调，透过AMD架构微调这一结果，我们可以了解出现问题原因到底是什么？
　　HD6870的一小步：两个超线程分配处理器
　　Barts核心的HD6870率先问世，这颗核心定位中端，所以流处理器从Cypress的1600个精简到了1120个，流处理器结构依然没有任何变化，但是前端控制模块一分为二：
　　
　　相信大家应该注意到了，以往AMD的SIMD架构则是整颗GPU共享单一的控制单元，自R600以来都是如此。
　　
　　
　　Cypress的单一图形装配引擎
　　但随着晶体管规模和流处理器数量的迅速膨胀，单一的控制单元已经无法满足大规模并行指令分配的需要，因此从Cypress开始，AMD采用了“双核心”的设计，将SIMD阵列一分为二，也就是类似于NVIDIA GPC的设计。与此相对应的，图形装配引擎虽然只有一个，内部却设计了两个Hierarchical Z（分层消影器）和Rasterizer（光栅器），但是其它的特殊功能模块均只有一个。
　　Barts和Cypress一样，依然保持了双核心设计，图形引擎也只有一个，内部的功能模块并没有太多变化。但是Ultra-Treaded Dispatch Processor（超线程分配处理器）却变成了两个，相对应的，超线程分配处理器的指令缓存也变成了两份。
　　
　　Barts的图形装配引擎
　　我们知道，Barts的流处理器数量是Cypress的70%，按理说线程分配压力有所下降，那么设计两个线程分配处理器的目的只有一个，那就是提升效率。在DX11时代，几何着色再加上曲面细分单元引入之后，图形装配引擎会产生更多的并行线程及指令转交SIMD进行处理，因此指令派发效率成为了新的瓶颈。
　　SIMD架构的优势就是可以用较少的晶体管制造成庞大的流处理器规模，拥有恐怖的理论运算能力；但缺点就是流处理器执行效率比MIMD架构低，其效率高低完全依赖于分配单元的派发效率。因此Barts这种双线程分配处理器的设计意义重大。
　　双超线程分配处理器的意义：曲面细分性能翻倍
　　HD6000系列可以说是半代改进的架构，既然数量上维持不变，就只能从改进效率的方面考虑了。而改进的内容就是加强线程管理和缓冲，也就是“双倍的超线程分配处理器和指令缓存”。
　　
　　根据AMD官方提供的数据来看，HD6870的曲面细分性能最多可达HD5870的两倍，这种情况出现在10级左右的中等细分程度，当曲面细分达到20级以上的时候，那么它们的性能就基本上没有区别了。
　　由此可见，Barts核心当中的Tessellator单元本身在性能方面应该没有改进，其性能提升主要源于两颗超线程分配处理器。中等级别的曲面细分在指令分配方面是瓶颈，Barts改进的架构消除了这一瓶颈，所以性能提升十分显著，但如果细分级别特别高时，Tessellator本身的运算能力将成为瓶颈，此时线程派遣器的效率再高，也无济于事。
　　看起来，AMD迫切的想要改进指令派发效率，以满足庞大规模流处理器的胃口，并且有效的提升备受诟病的曲面细分性能。AMD的做法就是继续保持现有架构不变，发现瓶颈/缺陷然后消除瓶颈/缺陷，这让笔者想起了一段老话：“新三年旧三年，缝缝补补又三年”。
　　

　　
　　HD6970昙花一现：北方群岛5D改4D返璞归真
　　第二章/第八节 HD6970昙花一现：北方群岛5D改4D返璞归真
　　相信有些读者很早就想问这样一个问题了：既然图形渲染的主要指令是4D矢量格式，那为什么R600要设计成5D的流处理器结构呢？还沿用了5代之久？有结果就有原因，通过对Cayman核心的分析，我们可以找到答案。
　　R600为什么是5D VLIW结构？
　　在5D VLIW流处理器中，其中的1个比较“胖”的ALU有别于其它4个对等的ALU，它负责执行特殊功能（例如三角函数）。而另外4个ALU可以执行普通的加、乘、乘加或融合指令。
　　
　　Barts核心的流处理器结构
　　从R600开始的Shader是4D+1D的非对等设计，ATI这样做的目的是为了让顶点着色器更有效率，以便能同时处理一个4D矢量点积(比如w、x、y、z)和一个标量分量(比如光照)。
　　Cayman核心返璞归真，改用4D结构
　　随着DX10及DX11大行其道，AMD通过自己长期内部测试发现，VLIW5架构的五个处理槽中平均只能用到3.4个，也就是在游戏里会有1.6个白白浪费了。显然，DX9下非常理想的VLIW5设计已经过时，它太宽了，必须缩短流处理器单元(SPU)，重新设计里边的流处理器(SP)布局。
　　
　　Cayman核心的流处理器结构
　　于是Cayman核心诞生了，胖ALU下岗，只保留了剩下4个对等的全功能ALU。裁员归裁员，原来胖ALU的工作还得有人干，Cayman的4D架构在执行特殊功能指令时，需要占用3个ALU同时运算。
　　5D改4D之后最大的改进就是，去掉了体积最大的ALU，原本属于它的晶体管可以用来安放更多的SIMD引擎，据AMD官方称流处理器单元的性能/面积比可以提升10%。而且现在是4个ALU共享1个指令发射端口，指令派发压力骤减，执行效率提升。双精度浮点运算能力也从原来单精度的1/5提高到了1/4。
　　效率更进一步：双图形引擎
　　前面介绍过，从RV770到Cypress核心，图形引擎和超线程分配处理器都只有一个，但图形引擎内部的Hierarchical Z（分层消影器）和Rasterizer（光栅器）分为两份。
　　到了Barts核心，超线程分配处理器从一个变成两个。现在的Cayman核心则更进一步，图形引擎也变成了两个，也就是除了分层消影器和光栅器外，几何着色指令分配器、顶点着色指令分配器、还有曲面细分单元都变成了两份：
　　
　　两个曲面细分单元再加上两个超线程分配处理器，AMD官方称HD6970的曲面细分性能可以达到HD6870的两倍、HD5870的三倍。其它方面比如顶点着色、几何着色性能都会有显著的提升。
　　通用计算效能也有改进
　　和Cypress、Barts相比，Cayman在通用计算方面也有一定程度的改进，主要体现在具备了一定程度的多路并行执行能力；双路DMA引擎可以同时透过外部总线和本地显存读写数据；改进的流控制提高了指令执行效率和运算单元浪费；当然双精度运算能力的提高对于科学计算也大有裨益。
　　不过，这些改进都是治标不治本，VLIW架构从5D到4D只是一小步，只能一定程度上的提高指令执行效率，而无法根治GPU编程困难、复杂指令和条件指令的兼容性问题。总的来说，Cayman核心依然只是单纯为游戏而设计的GPU，AMD把5D改为4D也是基于提升3D渲染性能的考虑。
　　

　　
　　GPU的一大步：NVIDIA G80图形架构解析
　　第二章/第九节 GPU的一大步：NVIDIA G80图形架构解析
　　AMD的GPU架构介绍了这么多，对于其优缺点也心知肚明了，之前笔者反复提到了“效率”二字，其参照物当然就是NVIDIA的GPU，现在我们就来看看NVIDIA的GPU架构有什么特点，效率为什么会比较高？为什么更适合并行计算？
　　SIMD效率不高的根本原因
　　无论AMD怎么调整架构，5D还是4D的结构都还是SIMD，也就是这4-5个ALU要共用一个指令发射端口，这样就对GPU指令派发器提出了很高的要求：如果没有把4-5个指令打包好发送到过来，那么运算单元就不会全速运行；如果发送过来的4-5个指令当中包含条件指令，但运行效率就会降至连50%都不到，造成灾难性的资源浪费。
　　解决方法也不是没有，但都治标不治本，需要对游戏/程序本身进行优化,尽量避免使用标量指令、条件指令和混合指令,驱动为程序专门做优化，难度可想而知。
　　而治本的方法就是抛弃SIMD架构，从源头上解决指令组合预分配的问题。
　　G80革命性的MIMD架构
　　NVIDIA的科学家对图形指令结构进行了深入研究，它们发现标量数据流所占比例正在逐年提升，如果渲染单元还是坚持SIMD设计会让效率下降。为此NVIDIA在G80中做出大胆变革：流处理器不再针对矢量设计，而是统统改成了标量ALU单元，这种架构叫做MIMD（Multiple Instruction Multiple Data，多指令多数据流）
　　
　　G80核心架构，每个流处理器就是一个标量ALU
　　如此一来，对于依然占据主流的4D矢量操作来说，G80需要让1个流处理器在4个周期内才能完成，或者是调动4个流处理器在1个周期内完成，那么G80的执行效率岂不是很低？没错，所以NVIDIA大幅提升了流处理器工作频率（两倍于核心频率），扩充了流处理器的规模（128个），这样G80的128个标量流处理器的运算能力就基本相当于传统的64个（128×2?）4D矢量ALU。大家应该知道R600拥有64个5D矢量ALU，最终的性能G80要远胜R600。     当然这只是在处理4D指令时的情形，随着图形画面越来越复杂，1D、2D、3D指令所占比例正在逐年增多，而G80在遇到这种指令时可说是如鱼得水，与4D一样不会有任何效能损失，指令转换效率高并且对指令的适应性非常好，这样G80就将GPU Shader执行效率提升到了新的境界！
　　MIMD架构的劣势     G80的架构听起来很完美，但也存在不可忽视的缺点：根据前面的分析可以得知，4个1D标量ALU和1个4D矢量ALU的运算能力是相当的，但是前者需要4个指令发射端和4个控制单元，而后者只需要1个，如此一来MIMD架构所占用的晶体管数将远大于SIMD架构！
　　所以AMD的SIMD架构可以用较少的晶体管造出庞大数量的流处理器、拥有恐怖的理论浮点运算能力；而NVIDIA的MIMD架构必须使用更多的晶体管制造出看似比较少的流处理器，理论浮点运算能力相差很远。双方走的都是极端路线，AMD以数量弥补效率的不足，而NVIDIA以效率弥补数量的劣势。
　　

　　
　　真正的并行计算架构：GT200只为计算优化
　　第二章/第十节 真正的并行计算架构：GT200只为计算优化
　　G80的MIMD架构开了一个好头，128个流处理器虽然听起来虽然没有AMD 320个那么多，但这些流处理器是可以媲美真正的CPU核心，在执行任何指令时都能发挥出接近理论值的性能，这样高效率的核心如果只是用来玩游戏岂不太可惜了？
　　于是在游戏市场大获全胜的NVIDIA并没有止步于此，而是将目光放在了更长远的高性能计算领域，一边着手开发基于GPU计算的应用程序中间件，帮助程序员以更高效的方式开发基于GPU硬件加速的软件，另一方面在G80的基础上继续优化核心架构，将MIMD架构高效率的优势发挥到极致！
　　GT200核心：真正的并行计算架构
　　G80依然只是为DX10 3D渲染而设计的，虽然MIMD架构本身能够胜任并行数据计算的需要，但NVIDIA发现图形架构还有继续改进的余地，只要在核心内部设计全新的控制模块，并对微架构进行专门的优化，就能将GPU的图形架构改造成更加适合非图形领域的并行数据处理架构。
　　
　　第一代统一渲染架构的主要目的是把原本像素着色、顶点着色以及新增的几何着色，统一交给流处理器来处理。而NVIDIA的GT200核心则被称为第二代统一渲染架构，其主要含义就是将图形处理架构和并行计算架构完美的结合起来，成为一颗真正意义上的通用处理器，超越图形处理器的概念！
　　
　　GT200相对于G80，不止是把流处理器数量从128个扩充到240个这么简单，其实最关键之处是对TPC（线程处理器簇）和SM（流处理器簇）的改进：
　　新增Atomic原子操作：透过原子操作，硬粒化之后的线程操作管理将更加有序和具体，这也就意味着像素或者其他类型如通用计算应用的Thread的生成、仲裁、泵送、内存位置确定和执行过程都将变得更加精确和高效，Atomic单元和原子操作的引入也为未来NVIDIA构架最终实现并行化设计起到了关键的先导作用。
　　每个SM可执行线程上限提升：G80/G92核心每个SM（即不可拆分的8核心流处理器）最多可执行768条线程，而GTX200核心的每个SM提升至1024条，而且GTX200拥有更多的SM，芯片实力达到原来的2.5倍！
　　
　　每个SM的指令寄存器翻倍：GTX200与G80核心在SM结构上基本相同的，但功能有所提升，在执行线程数增多的同时，NVIDIA还将每个SM中间的Local Memory容量翻倍（从16K到32K）。Local Memory用于存储SM即将执行的上千条指令，容量增大意味着可以存储更多的指令、超长的指令、或是各种复杂的混合式指令，这对于提高SM的执行效能大有裨益。
　　DX10游戏会越来越多的使用复杂的混合式Shader指令，一旦排队中的超长指令溢出或者在N个周期内都排不上队，那么就会造成效率下降的情况，此时双倍寄存器容量的优势就体现出来了。由于Local Memory并不会消耗太多晶体管，因此将其容量翻倍是很合算的。
　　纹理单元数量提升，比率下降，达到了ATI当年鼓吹的3:1水平
　　
　　其它改进还有：几何着色性能提升，提高双指令执行（Dual-Issue）效率，达到93%-94%之多，支持双精度64Bit浮点运算，运算能力为单精度的1/8。
　　综合来看，GT200除了流处理器、纹理单元、光栅单元这些硬货数量增多对游戏性能大有裨益以外，其它细节部分的优化跟游戏关系不大。因为GT200是为并行计算而设计的，从GT200开始，GPU计算变得更加实用和普及，NVIDIA的Tesla开始进入科学实验室，并杀进超级计算机市场。
　　

　　
　　DX11与并行计算的完美结合：GF100/110的野心
　　第二章/第十一节 DX11与并行计算的完美结合：GF100/110的野心
　　随着Tesla在高性能计算领域日渐深入人心，NVIDIA也在与科研工作者们进行深入的沟通，倾听一线用户的需求，以便在下代GPU核心中做出相应的优化改进。当时用户最大的需求有两点：第一，科学家和超级计算只看重64bit双精度浮点运算能力，GT200性能太低，只有单精度的1/8；第二：企业级用户对稳定性要求更高，传统的显卡不支持显存ECC（错误检查和纠正），计算出错后效率较低。
　　这就是下一代GPU的设计目标。而且，这次GF100不仅要满足并行计算的需求，还要兼顾DX11游戏性能，针对DX11新增的曲面细分、几何运算做出相应的改进，时间紧、任务重、压力大。
　　过于追求完美往往结果就会不完美，NVIDIA在GPU架构设计部分做到了近乎完美，但是在芯片制造端掉了链子——由于GPU核心太大，台积电40nm工艺还不够成熟，导致GF100核心良率低下，没能达到设计预期，最终的产品不仅功耗发热很大，而且规格不完整。所以虽然当时GTX480显卡的评价不是很高，但GF100核心的架构极其优秀的。等到工艺成熟之后的GF110核心以及GTX580显卡，就毫无疑问的站在了游戏与计算的巅峰！
　　GF100是“四核心”设计：4个光栅化引擎
　　
　　GF100/110可以看作是四核心设计
　　如果我们把Cayman看作是双核心的设计，那GF100就是四核心的设计，它拥有四个GPC（图形处理器集群）模块，每个GPC都有各自的光栅化引擎（Raster Engine），而在以往都是整颗GPU共享一个Raster Engine。
　　
　　GF100拥有16个多形体引擎
　　GF100与GT200最大的不同其实就是PolyMorph Engine，译为多形体引擎。每个SM都拥有一个多形体引擎，GF100核心总共有多达16个。那么多形体引擎是干什么用的呢？为什么要设计如此之多？
　　
　　为什么要这么多的多形体引擎？
　　之前的GPU架构一直都使用单一的前端控制模块来获取、汇集并对三角形实现光栅化。无论GPU有多少个流处理器，这种固定的流水线所实现的性能都是相同的。但应用程序的工作负荷却是不同的，所以这种流水线通常会导致瓶颈出现，流处理器资源未能得到充分利用。
　　实现光栅化并行处理的同时还要保持API的顺序是非常困难的，这种难度阻碍了这一领域的重大创新。虽然单个前端控制单元的设计在过去的GPU中曾有过辉煌的历史，但是随着对几何复杂度的需求不断增长，它现在已经变成了一个主要障碍。
　　Tessellation的使用从根本上改变了GPU图形负荷的平衡，该技术可以将特定帧中的三角形密度增加数十倍，给设置于光栅化单元等串行工作的资源带来了巨大压力。为了保持较高的Tessellation性能，有必要重新平衡图形流水线。
　　
　　为了便于实现较高的三角形速率，NVIDIA设计了一种叫做“PolyMorph”的可扩展几何引擎。每16个PolyMorph引擎均拥有自己专用的顶点拾取单元以及镶嵌器，从而极大地提升了几何性能。与之搭配的4个并行光栅化引擎，它们在每个时钟周期内可设置最多4个三角形。同时，它们还能够在三角形获取、Tessellation、以及光栅化等方面实现巨大性能突破。
　　
　　这是Cayman的图形引擎，是双核心设计
　　AMD的Cayman核心是不分光栅化引擎和多形体引擎的，都可以算作是双核心设计，GF100与Cayman相比，光栅化引擎是4:1，多形体引擎（包括曲面细分单元）是16:2，GF100的几何图形性能有多么强大已经可以想象。
　　当NVIDIA的工程师通过计算机模拟测试得知几何引擎将会成为DX11新的瓶颈之后，毫不迟疑的选择了将单个控制模块打散，重新设计了多形体引擎和光栅化引擎，并分散至每组SM或每个GPC之中，从而大幅提升了几何性能，彻底消除了瓶颈。
　　GF100流处理器部分的改进
　　每一个CUDA核心都拥有一个完全流水线化的整数算术逻辑单元（ALU）以及浮点运算单元（FPU）。GF100采用了最新的IEEE754-2008浮点标准，2008标准的主要改进就是支持多种类型的舍入算法。新标准可以只在最终获取数据时进行四舍五入，而以往的标准是每进行一步运算都要四舍五入一次，最后会产生较大的误差。
　　
　　GF100能够为32bit单精度和64bit双精度运算提供FMA（Fused Multiply-Add，积和熔加）指令，而GT200只在64bit时才能提供。FMA不仅适用于高性能计算领域，事实上在渲染紧密重叠的三角形时，新的FMA算法能够最大限度的减少渲染误差。
　　ATI所有的流处理器在执行整数型加、乘指令时仅支持24bit精度，而NVIDIA CUDA核心支持所有整数指令全32位精度，符合标准编程语言的基本要求。整数ALU还经过了优化，可有效支持64位以及更高精度的运算，这一点是对手无法比拟的。
　　
　　GF100拥有双Warp调度器可选出两个Warp，从每个Warp发出一条指令到16个核心、16个载入/存储单元或4个特殊功能单元。因为Warp是独立执行的，所以GF100的调度器无需检查指令流内部的依存关系。通过利用这种优秀的双指令执行（Dual-issue）模式，GF100能够实现接近峰值的硬件性能。
　　GF100首次引入一级缓存与动态共享缓存
　　GF100核心拥有很多种类的缓存，他们的用途不尽相同，其中一级缓存、共享缓存和纹理缓存位于SM内部，二级缓存则是独立的一块，与光栅单元及显存控制器相连。
　　以往的GPU都是没有一级缓存的，只有一级纹理缓存，因为这些缓存无法在通用计算中用于存储计算数据，只能用于在纹理采样时暂存纹理。而在GF100当中，NVIDIA首次引入真正的一级高速缓存，而且还可被动态的划分为共享缓存。
　　在GF100 GPU中，每个SM除了拥有专用的纹理缓存外，还拥有64KB容量的片上缓存，这部分缓存可配置为16KB的一级缓存+48KB共享缓存，或者是48KB一级缓存+16KB共享缓存。这种划分方式完全是动态执行的，一个时钟周期之后可自动根据任务需要即时切换而不需要程序主动干预。
　　一级缓存与共享缓存是互补的，共享缓存能够为明确界定存取数据的算法提升存取速度，而一级缓存则能够为一些不规则的算法提升存储器存取速度。在这些不规则算法中，事先并不知道数据地址。
　　对于图形渲染来说，重复或者固定的数据比较多，因此一般是划分48KB为共享缓存，当然剩下的16KB一级缓存也不是完全没用，它可以充当寄存器溢出的缓冲区，让寄存器能够实现不俗的性能提升。而在并行计算之中，一级缓存与共享缓存同样重要，它们可以让同一个线程块中的线程能够互相协作，从而促进了片上数据广泛的重复利用并减少了片外的通信量。共享存储器是使许多高性能CUDA应用程序成为可能的重要促成因素。
　　GF100拥有一个768KB容量统一的二级高速缓存，该缓存可以为所有载入、存储以及纹理请求提供服务。二级缓存可在整个GPU中提供高效、高速的数据共享。物理效果、光线追踪以及稀疏数据结构等事先不知道数据地址的算法在硬件高速缓存上的运行优势尤为明显。后期处理过滤器需要多个SM才能读取相同的数据，该过滤器与存储器之间的距离更短，从而提升了带宽效率。
　　统一的共享式缓存比单独的缓存效率更高。在独享式缓存设计中，即使同一个缓存被多个指令预订，它也无法使用其它缓存中未贴图的部分。高速缓存的利用率将远低于它的理论带宽。GF100的统一共享式二级高速缓存可在不同请求之间动态地平衡负载，从而充分地利用缓存。二级高速缓存取代了之前GPU中的二级纹理缓存、ROP缓存以及片上FIFO。
　　
　　GF100的缓存架构让各流水线之间可以高效地通信，减少了显存读写操作
　　统一的高速缓存还能够确保存储器按照程序的顺序执行存取指令。当读、写路径分离（例如一个只读纹理路径以及一个只写ROP路径）时，可能会出现先写后读的危险。一个统一的读/写路径能够确保程序的正确运行，同时也是让NVIDIA GPU能够支持通用C/C++程序的重要因素。
　　与只读的GT200二级缓存相比，GF100的二级高速缓存既能读又能写，而且是完全一致的。NVIDIA采用了一种优先算法来清除二级缓存中的数据，这种算法包含了各种检查，可帮助确保所需的数据能够驻留在高速缓存当中。
　　

　　
　　HD7970华丽登场：曲面细分性能大幅提升
　　第二章/第十二节 HD7970华丽登场：曲面细分性能大幅提升
　　之所以要对NVIDIA的GF100/110核心进行重点介绍，是因为它是一个很好的参照物，接下来要介绍的Tahiti核心很多方面都会与GF100进行对比，看看AMD所谓的GCN（次世代图形核心）到底有多么先进。
　　Tahiti的核心架构图
　　
　　这是AMD官方公布的Tahiti核心架构图，第一眼看上去，我们就会发现他与以往所有的AMDGPU架构有了明显区别，无论图形引擎部分还是流处理器部分都有了天翻地覆的变化，如果没有右侧熟悉的UVD、CrossFire、Eyefinity等功能模块，很难相信这是一颗AMD的GPU。
　　先看看最上面的图形引擎部分
　　
　　Tahiti的图形引擎部分
　　
　　Cayman的图形引擎部分
　　这一部分Tahiti几乎没有什么变化，依然是双图形引擎的设计，几何着色指令分配器、顶点着色指令分配器、曲面细分单元、光栅器、分层消影器都是双份的设计。
　　毫不起眼但意义重大的改进：双ACE
　　除此之外，还有一个毫不起眼但是意义重大的改进，那就是在图形引擎上方加入了两个ACE（Asynchronous Compute Engine，异步计算引擎），这两个引擎直接与指令处理器、几何引擎及全局数据缓存相连，作用是管理GPU的任务队列，将线程分门别类的分发给流处理器。
　　
　　ACE将会充当指令处理器的角色用于运算操作，而ACE的主要作用就是接受任务并将其下遣分配给流处理器（主要是分配的过程）。全新架构强化了多任务的并行处理设计，资源分配、上下文切换以及任务优先级决策等等。ACE的直接作用就是新架构拥有了一定程度的乱序执行能力，虽然严格意义上新架构依然是顺序执行架构，一个完整线程中的指令执行顺序不能被打乱，但是ACE可以做到对不同的任务进行优化和排序，划分任务执行的优先级别，进而优化资源。从本质上来说，这与很多CPU（比如Atom、ARM A8等等）处理多任务的方式并没有什么不同。
　　而且ACE的加入大幅提升了Tahiti的几何性能，并且使得通用计算时的指令分配更加有序和并行化，缓存使用率和命中率更高。
　　有针对性的强化曲面细分单元
　　单从数量上来看，Tahiti明显不如GF100的4个光栅化引擎（光栅器+分层消影器）以及8个多形体引擎（几何/顶点分配器及曲面细分单元等）。不过AMD有针对性的强化了曲面细分单元，通过提高顶点的复用率、增强片外缓存命中率、以及更大参数高速缓存的配合下，HD7970在所有级别的曲面细分环境下都可以达到4倍于HD6970的性能：
　　
　　此前我们介绍过，HD6970的曲面细分性能是HD6870的两倍、HD5870的三倍。通过AMD的理论数据来看，Tahiti的曲面细分性能应该达到甚至超越了GF100/110。
　　看得出来，AMD的Tahiti在图形引擎方面依然沿用Cayman的设计，从Cypress到Barts再到Cayman，AMD稳扎稳打的对图形引擎进行优化与改进，AMD认为现有的双图形引擎设计足以满足流处理器的需要，因此只对备受诟病的曲面细分模块进行了改良，如此有针对性的设计算是亡羊补牢、为时不晚。