选自towardsdatascience
作者：MatthewStewart
机器之心编译
编辑：陈萍
人工智能AI正在加快速度从云端走向边缘，进入到越来越小的物联网设备中。而这些物联网设备往往体积很小，面临着许多挑战，例如功耗、延时以及精度等问题，传统的机器学习模型无法满足要求，那么微型机器学习又如何呢？
在NASA的推动下，小型化的电子产品成为了一个完整的消费品行业。现在我们可以把贝多芬的全部音乐作品放在翻领针上用耳机听。——天体物理学家兼科学评论员尼尔·德格拉斯·泰森(NeildeGrasseTyson)
超低功耗嵌入式设备随处可见，再加上用于微控制器的TensorFlowLite等嵌入式机器学习框架的引入，这些使得人工智能驱动的物联网设备大规模普及。——哈佛大学副教授VijayJanapaReddi
嵌入式设备的微型机器学习（TinyML）示意图。
本文关于微型机器学习系列文章的第一篇，旨在向读者介绍微型机器学习的概念及其未来的潜力。后续文章将深入讨论特定应用、实现和相关教程。
TinyML简介
在过去的十年里，我们已经看到，由于处理器速度的提升和大数据的出现，机器学习算法的规模呈指数级增长。最初模型很小，在本地计算机上可以使用CPU中的一个或多个内核运行。
不久之后，使用GPU的计算成为处理更大数据集的必要条件，而且由于引入了云服务，如SaaS平台（谷歌GoogleColaboratory）和IaaS（AmazonEC2Instances），计算变得更加容易获得。此时，算法仍然可以在单机上运行。
近来，专用集成电路（ASIC）和张量处理单元（TPU）的发展，它们可以容纳8GPU左右的功率。这些设备增强了跨多个系统分布学习的能力，并试图发展越来越大的模型。
随着GPT-3算法（年5月）的发布，这种情况达到了顶点，其网络结构包含惊人的亿个神经元——是目前存在于人类大脑中的两倍多（约亿）。这是有史以来第二大神经网络神经元数量的10倍——Turing-NLG（年2月发布，包含约亿个参数）。一些人估计称，模型的训练成本约为万美元，使用了大约3GWh的电力（大约是三个核电站一小时的发电量）。
虽然GPT-3和Turing-NLG的成就值得赞扬，但一些业内人士批评人工智能产业的碳足迹越来越大。然而，这也有助于激发人工智能界对更节能计算的兴趣。诸如更有效的算法、数据表示和计算，它们一直是微型机器学习的焦点。
微型机器学习（TinyML）是机器学习和嵌入式物联网（IoT）设备的交集。该领域是一门新兴的工程学科，有可能使许多行业产生革命性变革。
TinyML的行业受益者是边缘计算和节能计算，其源于物联网（IoT）的概念。物联网的传统理念是将数据从本地设备发送到云上进行处理。一些人对这个概念提出了以下几个方面的担忧：隐私、延迟、存储和能源效率。
能源效率：传输数据（通过电线或无线）是非常耗能的，比板载计算（特别是乘积单元）的耗能多一个数量级。开发能够自己进行数据处理的物联网系统是最节能的方法；
隐私：传输数据可能会侵犯隐私。数据可能被恶意的参与者截获，并且当数据存储在一个单一的位置（如云）时，其安全性就会降低。通过将数据保存在设备上并尽量减少通信，能够提高数据安全性和隐私性；
存储：对许多物联网设备来说，所获得的数据毫无价值。想象一下，一个安全摄像头一天24小时都在记录一座大楼的入口。在一天的大部分时间里，摄像机的镜头毫无用处，因为什么都没有发生。通过一个更智能的系统，必要时激活，降低存储容量，传输到云端所需的数据量会减少；
潜在因素：对于标准的物联网设备，如AmazonAlexa，这些设备将数据传输到云进行处理，然后根据算法的输出返回响应。从这个意义上说，这个设备只是一个通往云模型的便捷门户，就像你和亚马逊服务器之间的「信鸽」。这个设备相当愚蠢，完全依赖互联网的速度来产生结果。如果你的网速很慢，AmazonAlexa也会变慢。对于具有机载自动语音识别功能的智能物联网设备来说，由于减少了对外部通信的依赖性，因此延迟降低了。
这些问题导致了边缘计算的发展，即在边缘设备（云的边缘设备）上执行处理活动。这些设备在内存、计算和功耗方面都受到了极大的资源限制，这使得更高效算法、数据结构和计算方法得以发展。
这些改进同样适用于较大的模型，可能会使机器学习模型的效率提高一个数量级，而不影响准确度。例如，微软开发的Bonsai算法可以小到2KB，但比典型的40MBkNN算法或4MB神经网络性能更好。这个结果听起来可能不重要，但是同样准确度的模型大小却降到了万分之一，这是很可观的。这么小的模型可以在使用2KBRAM的ArduinoUno上运行——简而言之，你现在可以在一个5美元的微控制器上建立这样一个机器学习模型。
机器学习正在向两种计算范式分化：以计算为中心的计算和以数据为中心的计算。在以计算为中心的范式中，数据由数据中心的范例进行存储以及分析，而在以数据为中心的范式中，在本地完成对源数据的处理。虽然以计算为中心的范式似乎正在迅速走向一个极限，但以数据为中心的范式才刚刚开始。
物联网设备和嵌入式机器学习模型变得越来越普遍，预计到年底将超过亿台活动设备，许多设备你可能还没注意到。智能门铃、智能恒温器、以及说几个单词就能唤醒或者拿起就能唤醒的智能手机。本文的其余部分将更深入地