AI芯片三剑客云端终端双场景各显神通下
人工智能硬件应用场景归纳为云端场景和终端场景两大类。云端主要指服务器端，包括各种共有云、私有云、数据中心等业务范畴；终端主要指包括安防、车载、手机、音箱、机器人等各种应用在内的移动终端。由于算法效率和底层硬件选择密切相关，“云端”（服务器端）和“终端”（产品端）场景对硬件的需求也不同。
核心芯片决定计算平台的基础架构和发展生态，由于AI所需的深度学习需要很高的内在并行度、大量浮点计算能力以及矩阵运算，基于CPU的传统计算架构无法充分满足人工智能高性能并行计算(HPC)的需求，因此需要发展适合人工智能架构的专属芯片。
除CPU外，人工智能目前主流使用三种专用核心芯片，分别是GPU，FPGA，ASIC。本报告分上下2部分仔细分析云端和终端两种应用场景下，这三种专属AI芯片的应用现状、发展前景及可能变革。上半部分《云端场景：GPU生态领先，未来多芯片互补共存》详见10月刊。
终端场景：按需求逐步落地，未来集成是趋势
1“下沉”终端，芯片负责推断
云端受限于延时和安全性，催生AI向终端下沉。云端AI应用主要依靠网络将云端计算结果与终端执行结果数据和增量环境参数进行交换。这个过程存在两个问题：第一，使用网络传输数据到云端会产生延迟，很可能数据计算的结果会需要等待数秒甚至数十秒才能传回终端；第二，使用网络传送数据，传输过程中数据有被劫持的风险。因此，在某些对延迟和安全性要求较高的场景就有了将AI下沉到终端的需求。
下沉到终端的AI主要是“推断”部分。由于模型更新快，计算更为复杂，且基于大数据，“训练”一般在云端进行。由于数据和算力限制，未来在终端场景下，处理器主要负责执行人工智能的“推断”过程。“推断”下沉终端优势在于实时性，可以在终端进行的操作不需要回传云端处理，更有效满足AI运算的实时性需求场景。终端可定期从云端下载训练好的参数用于推断参数更新，同时可选择上传云端需要的“训练”信息。通俗来说，未来终端人工智能“大脑”的进化仍在云端进行。
2需求决定硬件，场景逐次落地
采用硬件实现终端人工智能是必然。理论上，智能终端利用原有CPU大脑，运行纯软件的AI算法，也可实现相关应用。但实时性要求高的场景（如安防、辅助驾驶等），对“最差情况下的最大延时”容忍度很低，如果只用CPU运算不能满足实时性要求，必须有专属硬件加速；而在手机、音箱、AR/VR眼镜、机器人等使用电池、对功耗敏感的终端场景，采用纯软件运算功耗很大，不能满足用户对功耗的苛刻要求，同样需要采用专属芯片加速。
终端AI推断需要硬件支持的需求场景有三种：（1）低延时；（2）低功耗；（3）高算力。按照需求落地先后顺序，我们判断AI芯片落地的终端子行业分别是：（1）智能安防；（2）辅助驾驶；（3）手机/音箱/无人机/机器人等其他消费终端。三个领域对终端AI硬件的要求各有侧重：（1）智能安防、智能驾驶由于视频信号的数据量较大，对数据流计算速度要求较高；（2）智能驾驶除计算能力外对硬件的稳定性和突发状况处理速度要求较高；（3）智能手机、音箱、AR/VR终端受限于电池容量，对低功耗的要求更高些。下面我们逐个分析几种AI+场景。
2.1终端落地之AI+安防：GPU和FPGA先发落地，未来主控集成ASIC
（1）智慧安防空间：AI产品持续渗透，长期千亿市场空间
从“看得见”到“看得清”到“看得懂”，智能大数据分析需求迫切，AI+安防趋势明显。高清技术日益进步，图像分辨率从D1到P、P再到4K逐步进阶，视频监控设备持续高清化升级换代。根据IHS数据，-年我国高清摄像机占比由13%增长至59%，首次超过模拟摄像机，实现了视频监控从“看得见”到“看得清”的转变，满足智能化基础需求。摄像头高清化产生海量数据,传统的人工查看方式已不满足日益增长的安防需求。同时，安防领域每年产生大量非结构化数据，将海量非结构化数据结构化后进行智能处理能极大提高追踪效率，人工智能的引入能满足从事后追查到事前防范的安防根本需求。安防领域在实现高清化网络化升级后，急切需要人工智能技术对海量数据进行处理，这些都促使摄像头目前开始向“看得懂”进化，智能安防趋势明显。
智慧安防产品首先在政府市场落地，长期千亿市场空间。（1）短期而言：由于AI产品单价较高，且适用于处理远距离的大数据，因此我们认为短期的增量空间主要看政府中的公安、交通等部门。假设国内/国外视频监控行业增速分别为15%/10%，至年国内外视频监控市场规模分别达/亿元，保守估计，若AI产品渗透率提升至10%，则国内/国外AI产品市场空间分别为/亿元。（2）长期来看：随着性价比更高的芯片解决方推出，预计海思等主控厂商必然推出包含AI专属TPU的IPC主控产品，以海康为首的安防厂商也必然研发推出适合自身的AI+芯片终端解决方案，AI产品单价将逐步回归理性，智慧产品的渗透范围有望快速渗透延伸至其他领域。未来AI产品渗透率若提升至35%，则全球AI产品市场空间将突破千亿元。
（2）现有生态：GPU是目前AI+安防方案主流，行业巨头与英伟达携手
“AI+安防”方案两种：前端方案是未来趋势，中后端AI方案是目前主流。对智能安防而言，目前有前端和中后端两种解决方案。前端方案是AI摄像头方案，即将AI芯片集成至摄像头中，实现视频采集智能化；中后端方案则是利用普通摄像机采集视频信息后传输到中后端，在数据存储前利用插入GPU等板卡的智能服务器进行汇总分析。由于中后端方案不需要更换摄像头、可同时处理多路数据、部署成本相对较低，算法升级、运维方便，短期内中后端方案普及速更快。长期来看，海思等摄像头主控芯片厂商必然在芯片内部集成用于AI计算的专属硬件模块，大规模应用后实现成本会急剧降低，前端（智能摄像头）方案有望成为未来智能安防主流。目前无论是前端还是中后端解决方案，海康、大华等公司都采用英伟达GPU（JetsonTX1产品）实现，且以中后端AI方案为主。
安防巨头紧密携手英伟达，布局基于GPU的智能设备产品。目前海康、大华两大安防巨头的AI算法和相关产品都基于英伟达的GPU实现。年，海康威视推出从前端到后端全系列的AI产品，发布基于英伟达GPU和深度学习技术“深眸”摄像机、“超脑”NVR、“脸谱”人脸分析服务器等多款AI系列产品。大华股份年第三季度成立AI研究院，年3月联合英伟达发布多款“睿智”系列前端和后端智能设备。
海康威视：首提安防AI+，引领安防智能化发展。海康威视自年开始智能分析技术研发，年布局深度学习。凭借多年深度学习研究积累以及高达余人的业内最大研发团队，公司在全球包括人脸识别、车辆识别、文字识别在内的多项图像检测比赛中取得第一。年公司率先推出AI中心产品“猎鹰”、“刀锋”智能服务器，年公司在安博会首提“安防AI+”概念，并与英伟达和Movidius达成合作，陆续推出基于GPU/VPU和深度学习技术的“深眸”、“超脑”、“神捕”、“脸谱”系列AI前后端产品，并融入相关解决方案。公司AI产品目前已应用到南昌“天网项目二期”、“一带一路”峰会安保等重大项目中，有望引领安防智能化发展。
大华股份：紧随布局人工智能，AI产品加速落地。大华从年开始人工智能研究，在深度学习基础上研发出人脸识别、视频结构化、异常行为分析、高密度人群分析等智能技术。16年大华在向国际权威的人脸识别公开测试库LFW提交测试结果，Dahua-FaceImage人脸识别准确率为99.78%，保持世界第一水平。同期公司依托在CPU、DSP、GPU和FGPA等芯片平台上多年积累的软硬件研发能力，研发出包括前后端人脸识别、卡口电警、双目立体视觉、多目全景拼接产品在内的一系列智能化产品。17年公司联合英伟达发布多款“睿智”系列前端和后端智能设备并融入相关平安城市项目解决方案，大幅提高视频数据利用率，推进大数据在安防领域加速落地。
（3）未来趋势：基于GPU成本是痛点，未来集成至IPC主芯片是趋势
目前基于GPU的智能安防的成本较为昂贵。目前主流的智能安防解决方案多基于英伟达JetsonTX1GPU芯片，单个芯片成本估算在70~美元左右，模块成本在~美元。依据配置不同，每个芯片可支持2~4路视频流，单路实现成本较高。相关调研显示，海康威视或已独家垄断英伟达TX1的GPU芯片供货。其他安防厂商仅可购买英伟达的TX1模组（即包括芯片、存储的GPU板），采购成本会更高。基于GPU的智能安防解决方案较为昂贵，目前阻碍了智能安防的渗透率快速提升。
FPGA成当前智能安防降低成本的可能方案。智能安防领域，目前国内公司深鉴科技已和大华股份、东方网力等安防厂商展开合作，推出基于XilinxFPGA的DPU产品，可以实现相对于GPU有1个数量级的能效提升，同样功耗降低80%。该方案可将AI单路成本控制在20美元以内，较GPU方案便宜。同时，另一家国内公司地平线机器人也尝试将FPGA方案应用于安防和车载领域。在专用ASIC产品出现之前，FPGA有望成为部分安防场景降成本的有效手段。
ASIC未来将成为安防芯片主流。如前文所述，ASIC形态的AI芯片解决方案具备低成本、低功耗、高算力的优点。由于芯片存在大规模成本边际效益递减效应，专用芯片量产后，由AI模块带来的每颗芯片和相关存储成本增加预计在2美元以下，采用ASIC方案的AI摄像头实现成本将大幅度降低。换句话说，以后可能实现摄像头在成本增加非常小的情况下就可以转化成为AI摄像头。我们预计，和手机芯片集成AI专属模块类似，华为海思等摄像头主控芯片厂商，未来必然会集成适合安防场景的专属AI模块至主芯片中；同样的，以海康为首的安防厂商，为优化自身解决方案，也有望自研或与相关芯片厂商合作开发其专属的人工智能专用芯片。伴随着社会对智慧安防能力的需求提升，未来包含AI功能的ASIC主控芯片或将成为安防主流芯片。
2.2终端落地之AI+汽车：GPU占据主导，ASIC是未来趋势
（1）智能驾驶空间：芯片百亿市场空间
智能驾驶空间广阔，ADAS芯片是核心。智能驾驶是集导航、环境感知、控制与决策、交互等多项功能于一体的综合汽车智能系统，是人工智能落地的重要领域之一。据iiMediaResearch估计，年全球智能驾驶汽车市场规模为40.0亿美元，预计至年增长至70.3亿美元，复合增长率11.8%。智能驾驶核心是高级驾驶辅助系统（ADAS），ADAS系统的核心是算法和芯片。根据IHS预测，年全球ADAS芯片市场空间将达到亿元，至年期间复合增长率高达10%。未来人工智能在车载领域具备广阔的市场空间。
（2）现有生态：巨头与技术初创公司均大力布局AI+汽车
英伟达：年9月，Nvidia发布针对自动驾驶技术和汽车产品的芯片Xavier，采用自定义的八核CPU架构，内建全新VoltaGPU架构作为自动驾驶汽车的计算机视觉加速器。Xavier采用16nmFinFET工艺，在提升性能的同时降低功耗，Xavier运算性能达到20TOPS，功耗则只需20瓦。英伟达在智能汽车领域的客户包括21家汽车制造商，而且英伟达是其中16家的连接解决方案一级供应商。它在该领域最重要的客户是特斯拉，英伟达的DRIVEPX2平台应用于特斯拉所有车辆的AutoPilot系统中，包括Model3。
高通：高通作为移动终端处理器的优势企业，在GMIC上发布智能汽车芯片骁龙A。该处理器采用CPU+GPU模式，在快速处理数据信息的同时提升地图的渲染效果，并降低处理器能耗。处理器包括64位KryoCPU（中央处理器）、AdrenoGPU（图形处理器）。
地平线：年3月奇点汽车发布会上，国内人工智能公司地平线首次展示了其先进辅助驾驶系统（ADAS）原型系统—雨果平台。从地平线官方的视频和图片资料来看，这套系统可以实时检测车辆、车道线和行人，检测效果优于NVDIA于年初CES上提供的展示效果。在年1月的CES上，地平线又携手英特尔于全球消费电子展CES共同发布基于BPU架构的最新的高级辅助驾驶系统。在硬件方面，地平线将其BPU架构实现在ASIC上，并集成到雨果平台上。地平线的第一代人工智能处理器“盘古”已于年6月在台积电流片。产业调研显示，地平线也是目前唯一在四大汽车市场—美国、德国、日本和中国，与顶级OEMs和Tier1s建立重要客户关系的中国初创企业。中国中央电视台，美国MITTechnologyReview等众多媒体报道了地平线在自动驾驶和人工智能处理器设计方面的进展。
（3）未来趋势：专属ASIC芯片是未来智能汽车市场主流
我们判断，专属ASIC芯片是智能汽车市场未来主流。得益于ASIC优良的性能，定制芯片可将车载信息的数据处理速度提升更快，并将能耗维持在相对较低水平，最重要的是，ASIC可以更好的满足车载应用下重点关心的“最差情况处理”的延时问题。但鉴于其研发周期长且成本高昂，目前车载场景下，主流厂商仍然考虑采用GPU作为主流方案，预计随着ADAS定制化需求的增加，未来专用芯片将成为主流。
2.3终端落地之AI+消费电子：百花齐放的未来最大应用场景
（1）智慧产品空间：千亿美元市场，AI或引领新一轮消费电子革命
ASIC将成为AI终端之消费电子的必然选择。在过去的20年，主导消费电子的终端应用从PC切换到智能手机，然而苹果发布iPhone已有十年，全球智能手机渗透率已近饱和。据Gartner预测，~年PC出货将出现负增长，而智能手机的出货增速仅维持在1~2%。因此从年以后，大家开始寻找消费电子行业下一个风口，纷纷开始
转载请注明：http://www.abuoumao.com/hykz/5071.html
