由此可见,CPU和GPU是互补且不冲突的,前者专注串行运算,后者专注并行运算。打个比方来说,可以将CPU理解为博士,不仅知识渊博,诸多问题也钻研得很深,没有他许多难题都没有办法解决。而GPU就是上万个初高中生,只会简单的算术,但无论博士有多强大,也不可能在一瞬间计算出上万道简单的算术运算。[24]

CPU和GPU间的不同[22]
翻开计算简史,诞生了丰富多样的数字芯片,每种数字芯片都有一段沉淀良久的发展史。计算机背后就是计算问题,无外乎标量、矢量、矩阵、空间几种数据类型,GPU与其他数字芯片难免会产生交集和重合。现在,CPU依然还是那个CPU,GPU却可以不是GPU了。
长久以来,GPU与FPGA、ASIC的争议不断,它们可分别构成“CPU+GPU”“CPU+FPGA”“CPU+ASIC”的异构计算系统,同时FPGA和ASIC厂商时常将自家产品与GPU算力平行对比,如NVIDIA Tesla A100时常成为“战力计量单位”,CPU的抢婚者们都在诉说着自己的优势。
理性而言,GPU、FPGA、ASIC都是配合CPU计算的好能手,对厂商还是下游使用者而言,三者的特性截然不同,虽然可能会在部分应用场景下表现出更强的算力或更好的功耗,但部署过程难免要综合考虑TCO(总拥有成本)、构建难度、系统兼容度等,很难评判孰强孰弱。

不同计算器件的对比,制表丨果壳硬科技
不过,GPU相对产品成熟,峰值计算能力优异,同时在图形显示的地位无可撼动,顺理成章地搭上半导体热潮,成为市场追捧的宠儿。
数据显示,AI训练阶段,GPU约占64%市场份额,而FPGA和ASIC分别占比22%和14%;推理阶段,GPU约占42%市场,而FPGA和ASIC则分别占比34%和24%。[25]

不同应用场景AI芯片性能需求和具体指标[25]
被国外垄断的格局
GPU不仅在当下是一门空间广阔的生意,未来更是潜力无限。
根据Verified Market Research数据显示,从2021年到2030年,GPU将以33.3%的年复合成长率,从330亿美元成长至4773亿美元。[26]
GPU会按照平台对功耗负载要求不同,制作成各种规格,如手机中GPU典型功耗为5W,笔记本电脑中典型功耗为150w,台机能够到达400W,数据中心全力追求性能。根据功耗大小,市场主要划分为桌面级和移动级两种应用。
两个市场均呈现三足鼎立的态势:桌面级GPU市场被英伟达、AMD和英特尔所垄断,移动级GPU市场被Arm、Imagination和高通所垄断。在软件层面,上述国外公司也对如CUDA和OpenCL等一系列异构计算标准提供了支持。[27]
桌面级产品方面,面向PC或游戏的图形卡占大多数市场,拥有50%以上的份额,数据中心。