工业的需求决议了要完结的人工智能使命越来越杂乱，轻量化人工智能有必要经过168直播网加快运算功率、进步核算密度才干完结极致的功率。

——冷聪 中国科学院自动化研讨所副研讨员

人工智能算法的杂乱度急剧攀升，神经网络核算的能耗价值越来越高，数据洪水式地涌积堰塞……这些年，人工智能的开展遇到了越来越多的瓶颈。如何将人工智能模型及其核算载体前端化、轻量化成为亟待处理的问题。最新鼓起的轻量化人工智能被寄予厚望，以"轻量化"为赛点的人工智能比赛下半场现已降临。为此，4月27日，科技日报记者采访了中国科学院自动化研讨所的相关专家。

轻量化成为人工智能下半场赛点

人工智能技能在职业使用中，大多依靠海量的练习数据和大规划服务器的算力支撑。

但是，近年来，跟着信息技能范畴的摩尔定律逐渐放缓，硬件的开展越来越难以满意当时人工智能模型动辄万亿级规划的存储和算力需求，数据堰塞、存储暴升、隐私走漏、能耗高企等问题随之而来。

"当时，关于人工智能设备和使用的快速呼应、隐私保护以及节能减排的需求越发凸显，轻量化人工智能应运而生，并被寄予厚望。2020年，《麻省理工科技谈论》将轻量化人工智能列为‘全球十大突破性技能’。"中国科学院自动化研讨所研讨员程健说。

所谓轻量化人工智能，是指以一系列轻量化技能为驱动进步芯片、渠道和算法的功率，在更严密的物理空间上完结低功耗的人工智能练习和使用布置，不需求依靠与云端的交互就能完结智能化操作的人工智能。

轻量化人工智能被评入"全球十大突破性技能"，《麻省理工科技谈论》给出的评选理由是，轻量化智能使现有的服务，比方语音帮手、手机摄影等，变得更好更快，不用每次都需求衔接云端才干运转深度学习模型；此外，轻量化人工智能也将使新的使用成为可能，比方根据移动端的医学检测剖析、对反应时间要求更快的自动驾驶轿车；此外，本地化的人工智能更利于隐私保护，用户的数据不再需求脱离设备就能完结服务功用的进化。

"更重要的是，轻量化人工智能将人工智能面向更干流，它大大下降了人工智能体系的布置难度和本钱，把人工智能从一场高门槛的科技巨子比赛变成更简单普惠民生的智能生态。"程健说，在人工智能范畴的比赛中，以轻量化为赛点的下半场现已降临。

极致功率、极低能耗是终究寻求

在体现上，轻量化人工智能是在做减法，下降能耗、下降对硬件渠道功用指标的要求、下降与云端的通讯需求等。

但是，"实质上，轻量化的内核却是在做加法。"中国科学院自动化研讨所副研讨员冷聪说，工业的需求决议了要完结的人工智能使命越来越杂乱，轻量化人工智能有必要经过进步运算速度、核算密度才干完结极致的功率。

在程健看来，在精度挨近无损的前提下，将人工智能模型及其核算载体轻量化，是一个极具应战性的使命。

处理这一问题，需求对神经网络进行轻量化规划、核算加快以及规划新的核算架构以完结模型的硬件化，这需求从软件和硬件两方面来着手。

在软件上，进行模型和算法立异，经过轻量化模型规划、矩阵分化、稀少表明、量化核算来完结模型的微型化和核算加快；而在硬件上，则要经过流水线规划、存储形式规划等手法进行硬件架构的立异，经过软硬协同规划和优化完结人工智能的轻量化。

"尽管履行神经网络核算的是硬件，但神经网络结构和人工智能渠道决议了核算量的巨细和运算方法。"冷聪坦言，所以极致的轻量化有必要是软件和硬件的协同轻量化——根据杂乱的人工智能使用场景，将芯片、渠道和算法充沛结合以联合加快。

作为人工智能的硬件载体，人工智能芯片有必要到达更高的功用、更高的功率、更低的功耗和更小的体积。这样才干有满意平价高效的核算渠道满意工业需求，承载杂乱的人工智能使命，而且使推理和运算从云端迁移到终端。

一起，轻量化的人工智能渠道要以更低的功耗来练习和运转人工智能算法，最大化的开掘硬件的才能。更重要的是，使用轻量化技能的神经网络模型要小规划、少运算量并坚持杰出的精度。

未来轻量化人工智能将赋能万物

程健介绍，中国科学院自动化研讨所是轻量化人工智能的先行者，很早就开端了软硬协同轻量化的技能研讨，并走在世界前列。

早在2016年，卷积神经网络大规划迈向使用之初，中国科学院自动化研讨所就在世界人工智能尖端期刊宣布了多篇神经网络模型轻量化范畴的重要论文，成为世界上最早开端人工智能轻量化研讨的组织之一，相关作用引起了国内外许多专家的广泛重视。

"咱们规划开发的轻量化人工智能渠道QEngine及轻量化算法现已在数十万终端上布置。2019年，在世界神经信息处理体系大会的微型网络应战比赛中，咱们与ARM、IBM、高通、Xilinx等世界一流芯片公司同场竞技，获得了轻量化神经网络架构图画类的双冠军。"程健表明。

2020年，中国科学院自动化研讨所自主研制的全球首款极低比特量化神经处理芯片(QNPU)成功流片，绕开了芯片核算范畴备受重视的"内存墙"难题，在芯片本钱、功耗、核算结构、边际核算等方面完结革命性的革新。

"该芯片的问世，也标志着自动化研讨所成为了全球为数不多的具有‘人工智能芯片—渠道—算法’全栈轻量化人工智能技能的组织之一。"冷聪说。

未来，以人工智能驱动的小型化设备会越来越多出现在咱们身边。由人工智能芯片、渠道和算法组成的轻量化人工智能终端将在越来越多的场景中使用。

"比方，在电力职业，我国的输电线路掩盖广，户外自然环境杂乱，检修保护作业风险系数高、难度大，咱们规划的自主巡检无人机、缺点辨认剖析便携终端、通道可视化智能感知摄像头具有多种智能辨认、检测和剖析功用，可以保证输配电线路的安全和电力体系安稳。"程健举例说。

一起，在消费电子职业，暗光增强、超分辨率等自动化所规划的轻量化算法及轻量化神经网络核算架构，也为手机终端、安防终端供给了印象增强作用。

程健表明，轻量化人工智能未来将赋能万物，让每个设备都具有环境感知、人机交互、决策控制的才能。

来源:版权归属原作者,部分文章推送时未能及时与原作者取得联系,若来源标注错误或侵犯到您的权益烦请告知，我们会及时删除。联系QQ:110-242-789