[分享]GPU与CPU有何区别？

关于CPU和GPU有几个形象的比喻。

1.CPU是高级轿跑，而GPU是重型卡车。轿车能够快速装载搬运货物，但是每次只能装载2个包裹，而卡车虽然装载速度慢，但是每次可以装载搬运100个包裹的货物。

2.CPU是指挥部，每个核是一个将军，除了需要指挥军队完成调度这种劳神费心的工作外，如果让它杀敌，它也只能一个一个杀，杀死1w敌军不得把将军累死了？而GPU是军队，只负责杀敌，1w个士兵杀1w个敌军，一对一，不分分钟的事？

CPU与GPU相伴而行。目前我们购买的笔记本，基本都同时拥有CPU（Central Processing Unit，中央处理器）与GPU（Graphics Processing Unit，图形处理器），GPU可能存在于独立显卡或者集成显卡。

CPU与GPU有着相似的内部组件。CPU和GPU都是使计算机正常工作的硬件单元。它们都可以看作是计算设备的大脑。两者具有相似的内部组件，包括核心、内存和控制单元。但是这些组件的设计和配置在CPU和GPU中有所不同，使二者适用于不同的计算领域。

CPU必不可少，GPU离不开CPU。CPU是服务器的核心计算单元，它负责处理操作系统和应用程序运行所需的各类计算任务。而GPU是一种与CPU类似，但更专业化的硬件组件。与普通CPU相比，它可以更高效地并行处理复杂的数学运算。最初的GPU专用于处理游戏和动画中的图形渲染任务，不过2010年之后GPU已广泛应用于人工智能与科学计算。在CPU运行的同时，GPU通过允许应用程序内重复运算的并行化，补充了CPU架构。我们可以将CPU视为整个系统的任务管理器，协调广泛的通用计算任务，而GPU执行更窄范围更专业的计算任务。借助并行化的能力，GPU可以在相同的时间内完成比CPU更多的工作。

CPU和GPU的主要区别

CPU和GPU架构的主要区别在于，CPU是设计用来快速处理多种任务（以CPU时钟频率为衡量标准），但同时运行的任务的并发性是受限的。而GPU则设计用于快速渲染高清图像和视频。由于可以对多组数据进行并行操作，GPU也常用于非图形类任务，如机器学习和科学计算。GPU可同时运行成千上万个处理器核心，进行大规模并行计算。

下面举个简单的例子，比如两个长度为5000的数组相加。int[] a = new int[5000];int[] b = new int[5000];int[] c = new int[5000];for (int i = 0; i < 5000; i++) {c = a + b;}

我们使用8核CPU计算，那么每个核需要计算5000 / 8 = 625个数，而单个核心的计算是串行的，需要排队，也就是算完一个，再算另一个。假设计算一个数需要1s，那么即使8个核同时运行，也需要625s。这里暂时不考虑支持向量指令的CPU。而由于GPU有成千上万个核，比如使用5000个核同时计算，每个核只需要计算一个数，总共只需要1s！

更形象地说明CPU和GPU的区别，这里提供Nvidia之前的视频。

<xg-bar class="xg-right-bar" data-index="-1" style="box-sizing: border-box; margin: 0px; padding: 0px; border: 0px; vertical-align: baseline; display: block; position: absolute; z-index: 9; top: 50px; bottom: 50px; width: 50px; right: 0px;"><xg-prompt class="xgplayer-prompt controls-follow" data-index="0" style="box-sizing: border-box; margin: 0px; padding: 6px 12px 5px; border: 0px; vertical-align: baseline; bottom: 10px; transition: bottom 0.3s ease 0s; display: block; pointer-events: none; position: absolute; z-index: 1; opacity: 0; left: 10px; background: rgba(0, 0, 0, 0.5); border-radius: 50px; font-size: 12px; line-height: 17px; text-align: center; color: rgb(255, 255, 255);"><xg-poster class="xgplayer-poster hide" data-index="0" style="box-sizing: border-box; margin: 0px; padding: 0px; border: 0px; vertical-align: baseline; display: block; opacity: 0; visibility: hidden; position: absolute; left: 0px; top: 0px; width: 675.997px; height: 380.238px; background-position: center center; background-repeat: no-repeat; transition: opacity 0.3s ease 0s, visibility 0.3s ease 0s; pointer-events: none; background-image: url("https://p6-sign.toutiaoimg.com/large/tos-cn-i-qvj2lq49k0/8ed5ceecde6e440ba4b01847bd428e87?_iz=58558&from=article.pc_detail&x-expires=1691875352&x-signature=m%2FXdH34XYLkQ7xEsXMXXy1hzv4Q%3D"); background-size: contain !important;"><xg-controls class="xgplayer-controls controls-autohide" unselectable="on" data-index="0" style="box-sizing: border-box; margin: 0px; padding: 0px; border: 0px; vertical-align: baseline; display: block; position: absolute; visibility: hidden; height: 56px; left: 0px; right: 0px; bottom: 0px; opacity: 0; z-index: 10; background-image: linear-gradient(transparent, rgba(0, 0, 0, 0.37), rgba(0, 0, 0, 0.75), rgba(0, 0, 0, 0.75)); transition: opacity 0.5s ease 0s, visibility 0.5s ease 0s; pointer-events: none; cursor: default;"><xg-inner-controls class="xg-inner-controls xg-pos" style="box-sizing: border-box; margin: 0px; padding: 0px; border: 0px; vertical-align: baseline; left: 16px; right: 16px; position: absolute; height: 56px; bottom: 0px; justify-content: space-between; display: flex;"><xg-left-grid class="xg-left-grid" style="box-sizing: border-box; margin: 0px; padding: 0px; border: 0px; vertical-align: baseline; position: relative; display: flex; flex-wrap: wrap; flex-shrink: 1; height: 55.997px; z-index: 1; align-items: center;"><xg-icon class="xgplayer-play" data-index="0" data-state="play" style="box-sizing: border-box; margin: 0px 0px 0px 8px; padding: 0px; border: 0px; vertical-align: baseline; position: relative; height: 40px; cursor: pointer; color: rgba(255, 255, 255, 0.8); fill: rgb(255, 255, 255); opacity: 0.9;">

<xg-icon class="xgplayer-time" data-index="2" style="box-sizing: border-box; margin: 0px 0px 0px 20px; padding: 0px; border: 0px; vertical-align: baseline; position: relative; height: 40px; cursor: pointer; color: rgb(255, 255, 255); fill: rgb(255, 255, 255); min-width: 40px; font-size: 0px; text-align: center; display: block; line-height: 40px;"><xg-center-grid class="xg-center-grid" style="box-sizing: border-box; margin: 0px; padding: 5px 0px; border: 0px; vertical-align: baseline; display: block; position: absolute; left: 0px; right: 0px; outline: none; top: -17px; text-align: center;"><xg-progress class="xgplayer-progress" data-index="0" style="box-sizing: border-box; margin: 0px; padding: 0px; border: 0px; vertical-align: baseline; display: flex; align-items: center; position: relative; min-width: 100px; height: 20px; left: 0px; right: 0px; top: 0px; outline: none; flex: 1 1 0%; cursor: pointer;"><xg-outer class="xgplayer-progress-outer" style="box-sizing: border-box; margin: 0px; padding: 0px; border: 0px; vertical-align: baseline; position: relative; width: 644.003px; height: 3px; border-radius: 0px; cursor: pointer; transition: height 0.15s ease 0s !important;"><xg-inners class="progress-list" style="box-sizing: border-box; margin: 0px; padding: 0px; border: 0px; vertical-align: baseline; display: flex; height: 2.99107px; width: 644.003px; border-radius: inherit;"><xg-inner class=" xgplayer-progress-inner" style="box-sizing: border-box; margin: 0px; padding: 0px; border: 0px; vertical-align: baseline; position: relative; flex: 1 1 0%; height: 2.99107px; background: rgba(255, 255, 255, 0.24); transition: height 0.2s ease-in 0s, opacity 0.2s ease-out 0s; border-radius: inherit; pointer-events: none;"><xg-cache class="xgplayer-progress-cache" style="box-sizing: border-box; margin: 0px; padding: 0px; border: 0px; vertical-align: baseline; display: block; height: 2.99107px; width: 369.435px; position: absolute; top: 0px; left: 0px; border-radius: inherit; background: rgba(255, 255, 255, 0.3);"><xg-played class="xgplayer-progress-played" style="box-sizing: border-box; margin: 0px; padding: 0px; border: 0px; vertical-align: baseline; display: block; height: 2.99107px; width: 96.9792px; position: absolute; top: 0px; left: 0px; border-radius: inherit; background: rgb(255, 255, 255);"><xg-progress-btn class="xgplayer-progress-btn" style="box-sizing: border-box; margin: 0px; padding: 0px; border: 0.5px solid rgba(255, 94, 94, 0.055); vertical-align: baseline; background: none; box-shadow: none; width: 20px; height: 20px; border-radius: 30px; left: 96.9792px; position: absolute; z-index: 1; pointer-events: none; display: block; top: 1.4881px; transform: translate(-50%, -50%) scale(0); transition: transform 0.15s ease 0s, -webkit-transform 0.15s ease 0s, -moz-transform 0.15s ease 0s;"><xg-right-grid class="xg-right-grid" style="box-sizing: border-box; margin: 0px; padding: 0px; border: 0px; vertical-align: baseline; position: relative; display: flex; flex-flow: row-reverse wrap; flex-shrink: 1; height: 55.997px; z-index: 1; align-items: center;"><xg-icon class="xgplayer-fullscreen" data-index="0" style="box-sizing: border-box; margin: 0px 12px 0px 28px; padding: 0px; border: 0px; vertical-align: baseline; position: relative; height: 40px; cursor: pointer; color: rgba(255, 255, 255, 0.8); fill: rgb(255, 255, 255); opacity: 0.9;">

<xg-icon class="xgplayer-volume" data-state="normal" data-index="1" style="box-sizing: border-box; margin: 0px 0px 0px 28px; padding: 0px; border: 0px; vertical-align: baseline; position: relative; height: 40px; cursor: pointer; color: rgba(255, 255, 255, 0.8); fill: rgb(255, 255, 255); opacity: 0.9;">

[backcolor=url(&quot][backcolor=url(&quot]

其实，用于人工智能的芯片除了CPU、GPU之外，还有半定制化芯片FPGA（Field-Programmable Gate Array，现场可编程门阵列），全定制芯片ASIC（Application Specified Integrated Circuit，专用集成电路）以及类脑芯片。比如寒武纪、地平线、比特大陆自主研发的人工智能芯片基本都属于ASIC。目前人工智能芯片主要分类如下图所示，具体可以在后续的文章中详细介绍。