利剑出鞘：轻松将人工智能植入任何工业系统

在工业环境中部署人工智能 (AI) 和机器学习 (ML) 应用，能够提高生产力和效率，同时会节省运营成本，这种做法已经引起人们的广泛兴趣。但是，正如工程师和工程经理们将会告诉您的那样，要为现有的电机到 HVAC 系统这类“笨拙”的机器添加“智能”功能，还需要解决三个主要问题。

首先，没有足够的具备 AI 和 ML 专业知识的人才来满足该需求，而且专家们提供的服务代价不菲。其次，缺乏用于训练 AI 和 ML 系统的合格数据集，而所有可用的数据集都受到了谨慎的保护。第三，传统上，AI 和 ML 系统都要求在高端处理平台上运行。

人们需要一种方法，让没有 AI 和 ML 经验的现有工程师和开发人员也能快速创建 AI 和 ML 系统，并将其部署在高效、低成本的微控制器平台上。一家名为 Cartesiam.AI 的初创公司正在通过其 NanoEdge AI Studio 解决了上述所有问题。下面我来解释一下具体过程。

量化 AI 和 ML 的崛起

根据不同的数据来源，到 2020 年中期，预计全球范围内将出现 200 到 300 亿个边缘设备^1,2。术语“边缘设备”是指位于互联网边缘并与现实世界对接的互联设备和传感器。其中，只有约 0.3% 的边缘设备配备了 AI 和 ML 能力。进一步的估算显示，到 2025 年，此类设备的数量将达到 400 至 750 亿之间^3,4，届时预计将有至少 25% 的设备需要配备 AI 和 ML 能力。

在工业部署方面，一个主要因素是采用现有的“笨拙”机器，并通过赋予其 AI 和 ML 能力，使其成为“智能”机器。与之相关的潜力毋庸置疑；例如据估计，仅在美国，现有的笨拙（传统）基础设施和设备价值就高达 6.8 万亿美元。⁵

如何在边缘更高效地部署 AI 和 ML

物联网 (IoT) 和工业物联网 (IIoT) 已经日渐普及，对象之间的互联也变得日益紧密——下一个挑战是如何让这些对象变得智能。

创建 AI/ML 应用的传统方法是定义一个神经网络架构，包括神经层数、每层的神经元数以及将各种神经元和神经层连接在一起的方式。下一步是获取合格的数据集（创建数据集本身可能就要花费大量的时间和资源）。在云中将数据集用于训练网络（即，使用大量具有庞大计算能力的高端服务器）。最后，将训练后的网络转换为适合在边缘设备中部署的形式。

根据 IBM Quant Crunch 报告⁶，数据科学和分析 (DSA) 已不再是个时髦词，反而成为必不可少的商业工具。但是，令人们日益担忧的是，具备 DSA 技能的人才供应已经远远落后于需求，仅在美国，数据科学家的缺口目前便已达到 13 万人之多。

不幸的是，由于无法获得熟练的数据科学家和合格的数据集，这已严重阻碍人们以合理的成本快速创建支持 AI/ML 功能的智能对象。据思科称⁷，物联网项目的失败率通常约为 74%，而对于启用了 AI/ML 功能的项目而言，此失败率将会更高。

根据 IDC 的资料⁸，全世界约有 2,200 万软件开发人员。其中，大约 120 万人专注于嵌入式系统，而即便在这些人当中，也只有约 0.2% 的人具备极少的 AI/ML 技能。

一些 AI 和 ML 系统（例如执行对象检测和识别的机器视觉）要求使用特殊的高端计算设备，包括图形处理单元 (GPU) 和/或现场可编程门阵列 (FPGA)。然而，AI/ML 技术的新发展意味着，绝大多数非视觉 AI/ML 应用都能部署到占据嵌入式系统主流的相对低端的微控制器上。

根据 Statista 的预测⁹，到 2020 年，全球微控制器的出货量将达到约 280 亿个（即每秒约 885 个），这使得基于微控制器的平台成为市场上最普及的硬件。微控制器具有低成本和低功耗的特点，是将智能技术带到边缘的理想平台。

即使对于那些可以获得数据科学家和数据集且预算几乎不受限制的大型企业组织而言，也很难做到精通 AI 和 ML。对于规模较小的公司而言则更是痴心妄想。如果情况维持现状，那么到 2025 年，绝对做不到为 25% 的边缘设备具备 AI/ML 功能。要是现有的基于微控制器的嵌入式系统开发人员具备开发 AI/ML 应用的能力，那该多好啊...

利用简单、快速且价格合理的方法开发支持 AI/ML 功能的智能对象

在工业环境下的嵌入式应用中，最常见的计算平台是微控制器，其中最普及的微控制器莫过于 Arm 的 Cortex-M 系列，尤其是 M0、M0+、M3、M4 和 M7。

图 1：V2M-MPS2-0318C 是一个功能强大的开发平台，适用于基于 Arm Cortex-M 并具有大量 I/O 和一块 LCD 显示屏的应用。（图片来源：Arm）

企业可以获取的一项资源是传统的嵌入式开发人员。我们需要某种方法，让这些开发人员无需经过培训，便能起到跟 AI/ML 专家一样的作用。理想的解决方案是让传统的嵌入式开发人员能够快速、轻松地创建具有自我意识的机器，这些机器可以自动学习和理解其周边环境，识别模式并检测异常，预测问题和结果，而且所有这些操作要在价格合理且基于微控制器的边缘平台上进行，同时还在该平台上生成和捕获数据。

正如我之前提到的，来自 Cartesiam.AI 的 NanoEdge AI Studio 就是这样的一个解决方案。通过使用这个在 Windows 10 或 Linux Ubuntu 上运行的集成开发环境 (IDE)，嵌入式开发人员首先选择目标微控制器，包括 Arm Cortex-M0 到 M7。此外，开发人员或设计人员还会指定将要分配给解决方案的最大 RAM 量。如果您有些生疏，或对这一切都不熟悉，那么 V2M-MPS2-0318C Arm Cortex-M Prototyping System+（图 1）将为您提供最佳起点。

V2M-MPS2-0318C 是 Arm Versatile Express 系列开发板的一部分。它附带一个相对较大的 FPGA，用于基于 Cortex-M 的原型设计。为此，它附带了所有 Cortex-M 处理器的固定加密 FPGA 实现。此外，它还有多种有用的外设，包括 PSRAM、以太网、触摸屏、音频、VGA LCD、SPI 和 GPIO。

接下来，开发人员需要选择将要使用的传感器数量和类型；Cartesiam.AI 方法的独到之处在于，它对可使用的传感器没有硬性限制。例如，它们可能包括：

• 单轴、双轴和三轴加速计（几乎所有用于振动分析的频率）
• 磁性传感器
• 温度传感器
• 麦克风（用于声音识别）
• 用于电机控制的霍尔效应传感器
• 电流监测传感器

需要注意的是，开发人员不需要定义具体的零件编号，而只需要定义一般传感器类型，这一点很重要。

下一步是加载传感器情境数据；也就是说，与每个传感器关联的通用数据，以便让系统了解其将要处理的内容。

NanoEdge AI Studio 配备了丰富的 AI/ML“构件”，可用于针对 90% 甚至更多的工业 AI/ML 任务创建解决方案。在了解目标微控制器、传感器的数量和类型以及预期可以看到的通用传感器数据类型后，它将从 5 亿种可能的组合中生成最佳的 AI/ML 库解决方案。

如果开发人员愿意，他们也可以选择通过附带的仿真器在运行该 NanoEdge AI Studio IDE 的同一台 PC 上测试该解决方案，然后将其嵌入到主要微控制器程序中，进行编译，并下载到与目标机器关联的基于微控制器的系统中。

单纯出于示范的目的，假设我们有两台希望实现智能化的传统机器。这两台机器一台可能是泵，另一台可能是发电机。同样，出于此示范的目的，假设我们正在使用一个温度传感器和一个 3 轴加速计构建一个解决方案，并且将同一解决方案部署到两台机器上（图 2）。

图 2：在使用 NanoEdge AI Studio IDE 构建和（可选）测试 AI/ML 库之后，将该库嵌入到主程序中，进行编译，然后下载到与目标机器关联的基于微控制器的系统中。在经过学习阶段之后（通常每天运行 24 小时并持续一周时间），可以使用推理引擎来发现和报告异常情况并预测未来的结果。（图片来源：Max Maxfield）

当然，这两台机器将具有完全不同的特性。实际上，两个在其他方面相同的机器可能由于其位置和环境而具有截然不同的特性。例如，位于同一工厂的同一厂房内相距 20 米的两个相同的泵，根据它们的安装位置（一个安装在混凝土上，另一个安装在木地板托梁上）以及所连接的管道长度（以及形状和材料）的不同，可能会表现出不同的振动曲线。

整个过程的关键是，在已知的好机器上对 AI/ML 解决方案进行单独的训练，该训练通常需要每天 24 小时不间断地运行一周，从而使系统能够从温度波动和振动模式中学习。当然，也可以稍后再进行其他训练环节，以便对模型进行微调，解决与不同季节相关的环境变化（对于外部应用）以及其他预期变数。

这些解决方案一旦完成训练，便可以开始根据输入的任何新数据进行推断，识别模式并检测异常情况，预测问题和结果，然后将其结论呈现给仪表板以进行必要的技术和管理分析。

结语

我认为 NanoEdge AI Studio 就是一个“游戏规则改变者”。它非常直观，允许嵌入式系统的设计人员使用低功耗、低成本的 Arm Cortex-M 微控制器（这些微控制器已经嵌入到全球数十亿个设备中），以快速、轻松且低成本的方式将 AI/ML 集成到其工业系统中，将笨拙的机器转变为智能机器，从而提高生产率和效率，同时实现预期的运营成本节省。

参考资料

1: https://www.vxchnge.com/blog/iot-statistics

2: https://securitytoday.com/articles/2020/01/13/the-iot-rundown-for-2020.aspx

3: https://www.helpnetsecurity.com/2019/06/21/connected-iot-devices-forecast/

4: https://securitytoday.com/articles/2020/01/13/the-iot-rundown-for-2020.aspx

5: https://www.kleinerperkins.com/perspectives/the-industrial-awakening-the-internet-of-heavier-things/

6: https://www.ibm.com/downloads/cas/3RL3VXGA

7: https://newsroom.cisco.com/press-release-content?articleId=1847422

8: https://www.idc.com/getdoc.jsp?containerId=US44363318

9: https://www.statista.com/statistics/935382/worldwide-microcontroller-unit-shipments/