2025年2月20日，Science发布文章《什么是tinyML？全球南方对耗电、昂贵的人工智能的替代方案》，文章指出由于许多人工智能模型既耗电又昂贵，全球南方国家的研究人员正越来越多地采用低成本、低功耗的替代方案。启元洞见分享文章主要内容，为读者提供参考。
一、tinyML的诞生背景
一架小型无人机绕着腰果树转圈，旋翼臂从其紧凑的机身上伸展开来，就像水黾的旋翼臂一样。在上升过程中，无人机的摄像头捕捉到了树叶的鸟瞰图，树叶从底部的深绿色变为顶部的紫绿色。与此同时，无人机内置的人工智能模型会根据黑色或棕色斑点来判断树叶是否有病，或者是否健康。如果需要，该系统有朝一日可以引导其他无人机飞向个别生病的植物，喷洒杀虫剂治疗它们的疾病。
该系统是印度钦奈韦洛雷理工学院计算机科学家巴拉・穆鲁甘（Bala Murugan）的杰作。穆鲁甘来自一个腰果种植农户家庭。“他们在腰果上使用了大量杀虫剂，我想建立一个解决方案，尽量减少杀虫剂的使用。”他说。但他需要一个不需要连接互联网的解决方案，因为在印度农村地区，互联网连接往往很难实现。
Murugan利用了自己的技术专长。在攻读博士学位期间，他曾研究过小型廉价处理器。现在，他意识到在这种小型设备上运行的人工智能模型可以帮助像他家这样的农民快速识别和治疗腰果病。他说：“这就是我最终使用tinyML（微型机器学习）的原因。”
二、tinyML的优势
TinyML（Tiny Machine Learning）模型是一种低成本、低功耗的人工智能实现方式，越来越多地被资源匮乏地区所采用，尤其是在全球南部地区。大语言模型以其多功能性和惊人的类人表达技巧成为新闻焦点，与之形成鲜明对比的是，tinyML设备目前只有适度的专业能力。然而，它们却能带来变革。例如，印度钦奈韦洛雷理工学院计算机科学家巴拉・穆鲁甘（Bala Murugan）开发的装有微型语言模型的无人机能够识别患有真菌病“炭疽病”的腰果叶，准确率高达95%到99%。它们可以为农民节省他们自己寻找病害迹象的时间。此外，它们还能对患病植物进行针对性治疗，从而避免了不加区分地向所有植物喷洒杀虫剂的做法，这种做法既昂贵又损害健康和环境。
Murugan是全球南部地区为tinyML寻找用途的众多研究人员之一。这些设备可以作为人工智能技能教学的低成本辅助工具，但它们也为全球北方科技公司尚未充分解决的问题提供了本土解决方案，从检测植物疾病到追踪野生动物。2020年，微型机器学习设备的出货量约为1500万台，据估计，到2030年，这一数字将增至25亿台。
吸引Murugan等人的部分原因是，一旦人工智能模型在个人电脑上训练完成，它通常可以在由日常电池供电的低功耗tinyML设备上运行数周，耗电量与普通激光笔相当。这些设备不需要互联网连接，而在世界上希望采用人工智能解决方案的资源匮乏地区，互联网连接可能非常稀缺。伊塔朱巴联邦大学（UNIFEI）的数据科学家马塞洛・何塞・罗瓦伊（Marcelo Jose Rovai）说：尽管功能有限，但我认为tinyML是未来的趋势。这对发展中国家来说太棒了。
与用于运行大语言模型等人工智能的芯片相比，微型机器学习（tinyML）设备要便宜得多，功耗也低得多。总的来说就是小但强大。且与大模型相比，TinyML模型通常使用较少的数据，只需摄取数千张图像或声音，而大语言模型通常需要数百万张图像或声音。
现在，TinyML模型所依赖的微控制器芯片与洗衣机、汽车安全气囊等各种设备中的微控制器芯片类似。芯片本身很便宜，可以从几家不同的制造商那里买到。因此，现在大多数tinyML设备的价格从几美元到几十美元不等，具体取决于它们的功能有多强大。这些设备通常不仅包括芯片，还包括用于检测图像和声音的摄像头和传感器，以便人工智能模型进行解读。研究人员开始使用tinyML时所需的大部分软件、硬件和数据集都是开源的，这意味着他们可以自由访问和修改它们。
三、tinyML的应用领域
（一）农业领域
2020年，山下若昂（João Yamashita ）第一次接触到tinyML，当时他正在远程完成本科学位。山下是UNIFEI的一名电子工程师，COVID-19疫情期间他在位于巴西东南部咖啡种植区莫吉亚纳保利斯塔的家中度过。山下意识到，许多小农户都在为诊断咖啡植株的疾病而苦恼。进行诊断的专家并不便宜，而且在疫情期间也不会出差。Yamashita向tinyML寻求可能的解决方案。在使用公共数据集训练了一个通用人工智能模型后，Yamashita去找农民了解巴西特有的咖啡疾病。他说：起初，他们非常怀疑。他们中的很多人甚至都没有手机，因此自动检测疾病的人工智能模型非常新颖。
山下在家乡山坡上的种植园里，从一排排咖啡植株上拍摄了健康和患病咖啡叶片的照片，以便对模型进行微调。他还收集了样本，随后在更可控的光线和背景条件下进行拍摄。由此产生的模型能以96%到98%的准确率识别各种咖啡病害，包括真菌病害（如疫霉病、烟霉病和锈病）以及潜叶蛾。农民可以将设备的摄像头对准一片叶子，屏幕上就会显示病害名称和表示模型可信度的分数。山下说：当我向（农民）展示该设备的工作原理时，他们一脸惊讶。
研究人员在巴西开发了一种微小的ML设备，用于检测咖啡叶片上的各种病害，包括锈病。
Yamashita说，这种设备对贫困农民来说非常实用。它不需要互联网接入，无需给电池充电就能使用一周或更长时间，而且成本不到20美元。这正是tinyML擅长的定制、自制解决方案，也解释了为什么农业一直是该技术的热门用途。
（二）医疗保健领域
除了农业，研究人员还在开发用于医疗保健的tinyML设备，从检测巴西的心房颤动（一种异常心律）到秘鲁的贫血症。多个研究小组利用这项技术，通过蚊子翅膀的嗡嗡声来区分蚊子的种类，这样就不必用诱捕器收集蚊子，也不必手动识别每一只蚊子。这样可以更快地发出警报，有助于控制传播疾病的蚊种。
例如，罗瓦伊在一个概念验证设备上训练了一个人工智能模型来识别两种伊蚊，它们可以传播登革热、寨卡和基孔肯雅病毒，准确率高达98%，该设备的电池可以在野外使用4天。他预计该设备在巴西将大有用武之地，因为巴西每年有100多万人感染登革热。在肯尼亚，类似的项目正在使用tinyML对携带疟疾的蚊子进行自动分类。阿卜杜勒・萨拉姆国际理论物理中心（ICTP）的计算机科学家马尔科・泽纳罗（Marco Zennaro）说：能够以自动方式对蚊子进行分类，对于在现场工作的人来说是一个巨大的优势。
（三）环境应用领域
类似的设备也正在进入环境应用领域。在阿根廷，研究人员在乌龟壳的背面粘贴了微小机器学习装置，以追踪这些动物的移动方式和地点。在马来西亚，双威大学的工程师罗斯迪亚迪・诺丁（Rosdiadee Nordin）正在使用tinyML设备监测河流中的塑料垃圾，这些垃圾可能会阻碍娇嫩的红树林的生长。他和一个志愿者团队收集了9000张塑料垃圾图片，对人工智能模型进行训练，直到他们能够对塑料垃圾进行分类，将塑料瓶群和塑料袋群区分开来。他们计划公开这些数据，以帮助追踪塑料垃圾的位置、数量和类型。Nordin说：这不仅有助于（捡拾垃圾的人），也有助于地方议会或环保机构进一步规划他们的垃圾收集活动。
一个在tinyML设备上运行的人工智能模型正在帮助马来西亚的清理工作快速对阻碍红树林生长的不同类型垃圾进行分类。将鼠标悬停在图片上可突出显示识别出的物体。
诺丁的工作延伸到马来西亚东部的塔西奇尼湖（Tasik Chini Lake），该湖为当地土著社区提供饮用水和鱼类。Nordin部署了太阳能水质传感器来检测湖中的污染情况，并将信息发送到tinyML设备上，人工智能模型利用这些信息对水质进行预测。诺丁说：如果我们能让社区获取水质数据，他们就能了解自己饮用的水是否安全。
该湖缺乏向研究人员传输数据所需的互联网和手机连接。为了避免前往每个设备并手动下载数据，Nordin不得不随机应变。他求助于LoRa（一种远距离无线传输协议），与WiFi相比，耗电量和带宽都相对较小，而且可以在数十公里的范围内工作。
其他tinyML研究人员也在研究用同样的系统将农业用tinyML设备的数据发送到农民的电脑或手机上。阿波美・卡拉维大学（University of Abomey Calavi）计算机科学专业博士生詹姆斯・阿多拉（James Adeola）说：如果没有远程下载数据的方法，农民就必须翻阅所有这些设备；这既费时又乏味。如果这个解决方案能够实施，农民们将会非常高兴。
四、tinyML的发展与挑战
虽然tinyML设备看似简单，但开发起来却是一项挑战。首先，它需要多种技能的专业知识。它结合了硬件、软件和机器学习，Basikolo说。很少有人能做到这一切，因此将所有这些技能结合起来也需要时间。
研究人员正试图通过在摩洛哥、巴西、尼日利亚、南非、卢旺达、马来西亚和全球南部的其他国家开办微型机器学习课程和研讨会来传播这些专业知识。例如，2021年，哈佛大学和阿卜杜勒・萨拉姆国际理论物理中心启动了tinyML促进发展学术网络，目前该网络已覆盖全球南部的50个学术机构。包括泽纳罗和哈佛大学计算机科学家维贾伊・贾纳帕・雷迪（Vijay Janapa Reddi）在内的组织者首先向合作机构捐赠了tinyML工具包。Zennaro说：当我们启动这项计划时，我们发现主要问题是如何把硬件送到人们手中，因为在美国，低成本的硬件在其他地方可能仍然很昂贵。
巴西研讨会的一名与会者正在研究一种用于在田间检测蚊子的微小ML设备。
在马来西亚、沙特阿拉伯和其他国家的大学里，学生们利用这些工具包进行了培训。只需一两个小时，学生们就能训练tinyML设备识别当地语言的单词和短语，“这对社区来说很有帮助，”Zennaro说。
从本质上讲，tinyML的功能是有限的。山下说：我认为tinyML非常擅长解决微小的问题。运行这些设备的微控制器的内存和计算能力极其有限，这使它们更适合高度特定的任务，而不是通用的商业产品。一个设备可以很好地识别一种语言中的单词或识别一种植物物种的病害，但它不太可能成为通用翻译器或识别所有植物的病害。
然而，包括苹果和微软在内的全球北方许多科技公司正在意识到直接在设备上运行的小型模型的吸引力。对于某些应用，比如在麦当劳点餐，可以在本地设备上而不是云端运行的专门的微小语言模型，成本和功耗都更低，可能比运行昂贵的通用语言模型更有优势。
与此同时，微型机器学习设备本身也在迅速变得更加强大。TinyML开放教育计划成员、电子工程师彼得・英（Peter Ing）说，就在几年前，在微控制器上运行先进的机器学习模型还被认为是“荒谬的”。Warden已经让一个简单的大语言模型在设备上运行，而这个设备的成本和功耗只比tinyML设备稍高一些。他设想将有更多的大人工智能模型迁移到这些更小、更省电的设备上，而不是仅仅依赖数据中心。