主页 > 学车

人工智能丨AI芯片之终端AI芯片

时间:2019-06-06 来源:晰雯91

根据清华大学《人工智能芯片技术白皮书(2018)》,AI芯片从应用场景角度可以分为:服务器端(云端)和移动端(终端)。


人工智能芯片市场首先得到关注的是云端AI芯片。但是云端受限于延时和安全性,训练环节仍部署在云端,推断环节则下沉到终端。另外,伴随着AI应用落地的大趋势,即将进入“无芯片不AI、无终端不AI、无行业不AI”的时代,AI芯片只有从云端走向终端,才能真正实现万物智能。



诚迈科技作为智能科技专家,一直以来从多维度积极探索人工智能领域:一是打磨和积累底层和通用AI技术,可提供的技术服务覆盖了自然语言处理、语音识别、机器视觉、机器学习、数据、测试等方面;二是紧扣行业应用需求,以提供AI整体方案定制的方式帮助手机、家居、汽车、制造、安防、零售、金融等行业实现智能化升级。


在之前的《人工智能丨AI芯片之云端AI芯片》一文中,诚迈科技介绍了应用于服务器(云端)的AI芯片,本篇文章会着重介绍应用于移动端(终端)的AI芯片。



终端AI芯片是指要嵌入设备内部,在终端采集数据,并完成数据处理的AI芯片。终端AI芯片一般只负责推断,所以也被称为边缘推断芯片。


相比云端AI芯片,终端AI芯片有以下几个特点:


1.实时性:云端到终端会有一定的网络延迟,在终端部署AI芯片,操作不需要回传云端处理,更能有效满足AI运算的实时性需求。


2.功耗低:与云端进行大量的数据传输容易造成带宽压力过大和设备卡顿,从而限制终端设备的应用,在本地计算就可以降低设备数据传输带来的功耗压力。


3.安全性:网络传输会有数据泄露风险,涉及到用户隐私的应用更适合直接放在终端完成计算。


4.可靠性:云端计算要连接网络来传输数据,一旦断网或者网络不稳定就无法保证正常运转。终端AI芯片可以保证要求高可靠性的应用的计算需求。


由于移动终端的应用需求和场景约束比较复杂,要考虑性能、能耗与尺寸等因素。所以终端AI芯片往往会针对不同的情况进行专门的架构设计,一般采用基于具体神经网络算法优化的ASIC(全定制化芯片),与CPU、GPU、ISP、DSP等协同工作以达到最佳效率。



终端AI芯片目前主流的应用有智能手机、自动驾驶汽车、智能安防、智能机器人、智能语音交互等。


智能手机

智能手机是终端AI芯片应用场景规模的榜首。


诚迈科技长期为客户提供智能手机软件方案,参与并见证了智能手机从0到1,从1到N的高速发展历程。当前人工智能已经成为智能手机的新引擎,其竞争的关键是AI芯片和AI算法,诚迈科技做出了AI语音助手、AI Camera和AI 相册等方案。


手机AI应用都会涉及到机器学习,但是手机常规的CPU不适合做机器学习,会降低系统运行速度,加快电力消耗,而通过嵌入终端AI芯片则能解决这些问题。具备强大计算能力的终端AI芯片可以为智能手机带来更厉害的本地推断能力,提升图像、视频、VR/AR、语音交互、翻译等AI功能的流畅度。


例如,华为麒麟970芯片使手机具备了较强的深度学习、本地端推断能力,图像识别速度可达到约2000张/分钟;苹果A11 Bionic芯片每秒运算次数最高可达6000亿次,帮助加速Face ID,Animoji和AR应用程序。


自动驾驶汽车

自动驾驶汽车是终端AI芯片应用的蓝海。


自动驾驶汽车被视为交通运输行业的未来,同时也是非常吸引眼球的人工智能应用之一。诚迈科技也在积极推进自动驾驶的可行性和实用化,打造了集人脸识别、高清夜视、主动安全预警、智能驾驶、车联网为一体的ADAS+DMS方案。


根据美国交通部的分类标准,自动驾驶汽车有五个等级。从L3级别的条件自动化到L5级别的全自动化对算力的要求非常高,终端AI芯片是目标实现的硬件基础。汽车要自主处理由激光雷达、毫米波雷达、摄像头等传感器采集的海量实时数据,若将数据都传输给后方数据中心再获取计算结果,不仅对网速要求极高,一旦网络信号不好,数据传输受阻,就会发生交通事故。所以汽车必须实时处理数据,不能依赖云端。有了终端AI芯片加持,数据可以在本地得到处理,并及时得到新的驾驶指令,大大增加行驶的安全性。另外,随着电动化的发展趋势,对于汽车行业,低功耗变得越来越重要。天然满足实时性与低功耗的终端AI芯片将是车载计算平台的未来发展趋势。


对比其他终端应用场景,自动驾驶不仅计算复杂程度高,车规级要求也为芯片设立了更高的准入门槛, 所以硬件升级落地相对缓慢。目前自动驾驶AI芯片市场有英特尔的Mobileye、高通的NXP以及英飞凌等主要玩家。


智能安防

被所有芯片玩家看好的市场。


在智慧城市、智慧交通的推动下,如今监控设备分布广度、密度、清晰度集体跃升,安防产业进入数据爆炸时代,对监控系统带宽、存储造成很大压力,于是出现了云+端结合的计算方案来逐渐取代数据中心单独计算方案的趋势,终端AI芯片迎来广阔的市场前景。


在安防行业,终端AI芯片目前的重要应用是视频监控。在前端摄像头装备嵌入搭载了算法的终端推断芯片,实时对视频数据进行结构化处理,即从视频中结构化提取关键目标,包括车辆、人及其特征等。虽然这种对数据的有效压缩要通过算法实现,但硬件的支持不可或缺。这样一来,既能提升部分智能分析应用的实时性,也可以节省带宽和后端计算资源。


目前,安防领域主要有两种终端AI芯片模式:一种是采用半定制芯片,如英伟达的 Jetson 系列芯片;另一种是采用全定制芯片,将较为通用的智能识别类算法直接固化为 IP 嵌入到视频监控。诚迈科技作为众多国际知名芯片公司的合作伙伴,也紧跟AI+安防的步伐,基于可靠的芯片平台设计了AI安防、门禁系统等人工智能解决方案。


智能机器人

智能语音交互


智能机器人方面,不管是家用机器人还是商用机器人要实现较强的感知交互能力、姿态控制能力和运动能力等,都会涉及到大量的数据计算。从用户体验和部分特殊场景来看,对机器人处理数据的实时性也有一定要求,这些都需要终端AI芯片提供底层能力。英伟达在今年推出了一款专为处理机器人计算业务流而设计的芯片Jetson Xavier,可提供每秒30万亿次操作以上的性能。另外,市面上比较火的智能语音交互要在离线的状态下实现快速响应,更高效的数据收集和分析以及优秀的用户体验,也必须依靠先进的边缘计算。


作为所有电子产品的“大脑”,AI芯片对于科技发展的重要性不言而喻。从大趋势来看,AI芯片的发展目前尚处于初级阶段,无论是科研还是产业应用都有巨大的创新空间。预计终端AI芯片会成为未来重要的人工智能硬件市场,不过目前云端和终端设备在各种AI应用中往往是配合工作,最普遍的方式是在云端训练神经网络模型,然后在云端或者边缘设备进行推断。

关于诚迈(证券代码:300598)


诚迈科技(南京)股份有限公司成立于2006年9月,智能科技专家,致力于为客户提供全生命周期的解决方案。诚迈科技提供基于主流移动操作系统的软件开发和技术支持服务、移动互联网软件开发和运营服务以及智能终端、智能汽车、智慧城市等解决方案,拥有优质、稳定的客户群体,与知名移动芯片厂商、移动终端设备厂商、汽车厂商以及移动互联网厂商建立了长期稳定的合作关系。


官方网站:www.archermind.com


相关阅读