TinyML

TinyML 是什么

在功耗极低、资源极少的微控制器(如 Arm Cortex‑M)上运行机器学习模型。

  • 设备端推理:数据不出设备,低延迟,保护隐私

  • 超低功耗:一颗纽扣电池可工作数月甚至更久

  • 模型极小:通常只有几 KB 到几百 KB

机器学习到底是什么?

机器学习是一种利用计算机基于过去的观察来进行预测的技术。(给出数据和答案,算法自己找出规则,生成一个模型。)

基于提供的数据,通过训练,构建出系统的模型(由python完成)

让数据通过这个模型来做出预测,这个过程被称为推理。(由C++完成)

推理

  1. 预处理:原始数据 → 转化为模型认识的张量 → 归一化到训练时的范围

  2. 模型内部进行运算

  3. 拿到输出张量 → 比较各类得分 → 得出结论

张量和架构

架构 (Architecture) 是模型的骨架。它决定了1. 你的 C++ 代码要把输入数据准备成什么形状。2. 计算量——影响推理速度和内存占用

张量 (Tensor)可以理解为多维数组。形状用 (x, y, z) 表示,数字个数 = 维度数。

在 C++ 里喂给模型的数据(比如一段音频、一张图片)以及模型吐出的结果,都是张量。

监督学习与分类

将数据与类别关联起来的过程称为标注,而“正常”和“异常”这些类别就是我们的标签。

训练时告诉算法数据含义的训练方式,称为监督学习。生成的分类模型将能够处理输入数据,并预测它最可能属于哪个类别。(模型只是学会了“输入数据 → 标签”的映射。)

分类模型的输出通常是一组概率(如 [0.2, 0.8]),代表各类别的可能性

特征工程

把原始传感器数据变成模型能吃的张量,这个过程叫特征工程。窗口化是最基础的一种。在 C++ 端,需要自己写代码来实现这个窗口化逻辑:维护一个滑动窗口缓冲区,计算窗口内的平均值(或其它统计量),组装成向量,再塞进模型。

 //如果我们只传入某个特定时刻可用的数据,它可能不会包含所有我们可用的数据类型。
 //解决这个问题的一个办法是:选择一个时间窗口,并将这个窗口内的所有数据合并成一组单一的值。例如,我们可以决定一个一分钟的窗口,并查看其中包含的所有值:
 //如果我们对每个时间序列在窗口内的所有值取平均,对于那些在当前窗口中没有数据点的,则取最近的一个值,我们最终会得到一组单一的数值。
 ​
                                      ┌───────────┐
 生产速度:   *                         |  *        │  平均值: 102
 温度:       *           *            |  *        │  平均值: 34°C
 振动:       * * * * * * * * * * * * *│* * * * * *│  平均值: 18%
 标签:       * * * * * * * * * * * * *│* * * * * *│  标签:   "normal"
                                     └───────────┘
 //特征工程 [102 34 0.18]

在 C++ 端需要自己实现滑动窗口缓冲、均值计算、向量组装。

归一化

神经网络要求输入数值量级相近,理想范围 [0,1](或零均值附近)。

缩放到 [0,1]:norm = val / 255.0(图像常用)

标准化:norm = (val - mean) / std(传感器数据常用)

注意:标准化后的结果并不一定在 [0,1],但能使不同特征处于相近的尺度。

训练过程

模型的权重初始值是随机的,偏置通常初始值为 0。

一批批数据输入,比较输出与期望,用反向传播(Python 端)逐步调整权重和偏置

训练以epoch(意为迭代周期)来衡量

模型的性能不再提升时停止训练。当模型开始做出准确的预测时,就称它已经收敛了。

性能指标

损失(loss):预测与真实值的差距,越小越好

准确率(accuracy):分类正确率

超参数:是训练模型之前由人工手动设定、用来控制模型架构和训练流程的配置数值;训练过程中模型不会自动学习、更新它们,需要人为修改后重新训练来调试模型性能。

TinyML 中最常处理的任务类型。模型的输出不是一个单一数值,而是一组概率(比如 [0.2, 0.8]),分别代表属于每个类别的可能性。

欠拟合和过拟合

欠拟合:模型学习能力不足,没能捕捉数据里的核心规律,训练集、测试集预测效果都很差。

过拟合时,模型把训练数据学得过于细致,甚至记住训练集独有的噪声、无关特征;仅在训练数据表现优秀,陌生新数据预测效果很差,泛化能力弱。

对抗过拟合:1. 减小模型的规模,使其没有足够的容量来学习训练集的精确表示。

2. 正则化:训练过程加入约束,限制参数过度偏移,抑制过拟合;

3. 数据增强:基于现有样本做变换生成人工新数据,丰富数据多样性;

4. 收集更大、更多样化的真实数据集。

为了了解过拟合是否发生,通常将数据集分成三部分——训练集、验证集和测试集。一个典型的分割比例是 60% 训练数据、20% 验证数据、20% 测试数据。但必须必须确保每个部分包含相同的信息分布并随机打乱。

训练集:用来训练模型。

验证集:训练过程中用来检查是否过拟合。

测试集:训练完全结束后,最终评估模型真实性能。

部署常见问题

模型线下测试效果良好,但部署到真实设备后性能下降,主要原因:

  1. 真实环境数据和训练数据分布存在偏移,

  2. 模型隐性过拟合。

先检查传感器等硬件故障,再对比现场采集数据与训练数据集分布;若数据无差异,则判定为过拟合。解决过拟合可采集现场真实数据扩充数据集,搭配正则化、数据增强重新训练;

TensorFlow Lite Micro 与量化

TensorFlow Lite:是一个纯 C++ 库,用来在单片机上加载模型和运行推理。

量化:默认情况下,模型中的权重和偏置都存储为 32 位浮点数,以便在训练期间进行高精度计算。量化允许你降低这些数字的精度,使其适配到 8 位整数。由于CPU 进行整数数学运算比浮点数更容易,量化后的模型会运行得更快。量化通常只会带来极小的准确率损失。在部署到低内存设备时,它几乎总是值得的。

深度学习中使用的训练过程依赖于以真正随机的顺序向其输入数据。如果数据是有序的,生成的模型将不那么准确。

  • loss(损失):模型预测值与真实值之间的差距,均方误差是先求差平方再平均,对大误差惩罚更重。

  • mae(平均绝对误差):预测偏差的绝对值的平均,单位与原数据相同,更直观。 验证阶段的这两个值如果明显差于训练阶段,往往意味着过拟合。

模型嵌入固件

STM32/ESP32 等微控制器没有文件系统,无法直接读取磁盘上的sine_model_quantized.tflite二进制文件。

解决方案:把整个模型二进制字节,转为 C 语言unsigned char常量数组,直接编译进固件烧录 Flash。

 # 如果 xxd 不可用,先安装它
 !apt-get -qq install xxd
 # 将文件保存为 C 源文件
 !xxd -i sine_model_quantized.tflite > sine_model_quantized.cc
 # 打印源文件
 !cat sine_model_quantized.cc

输出

 // 模型全部二进制数据,存为无符号字符数组
 unsigned char sine_model_quantized_tflite[] = {0x1c,0x00,...};
 // 数组总字节长度
 unsigned int sine_model_quantized_tflite_len = 2512;
必要头文件
 #include "sine_model_data.h"
 //存放我们用xxd转换后的量化模型:全局unsigned char字节数组 + 模型长度,嵌入固件的 AI 模型本体。
 ​
 #include "tensorflow/lite/micro/kernels/all_ops_resolver.h"
 //一个允许解释器加载我们模型所用操作的类。
 ​
 #include "tensorflow/lite/micro/micro_error_reporter.h"
 //一个可以记录错误和输出以辅助调试的类。
 ​
 #include "tensorflow/lite/micro/micro_interpreter.h"
 //TensorFlow Lite for Microcontrollers 的解释器,它将运行我们的模型。
 ​
 #include "tensorflow/lite/micro/testing/micro_test.h"//测试用,应用程序不写
 //一个用于编写测试的轻量级框架,允许我们将此文件作为测试运行。
 ​
 #include "tensorflow/lite/schema/schema_generated.h”//被其他头文件包含,一般不显示写
 //定义了 TensorFlow Lite FlatBuffer 数据结构的模式,用于理解 sine_model_data.h 中的模型数据。
 ​
 #include "tensorflow/lite/version.h"//库内部包含,不显示使用
 //该模式的当前版本号,以便我们可以检查模型是否是用兼容的版本定义的。

第2到7个头文件从 GitHub 克隆 tensorflow/tflite-micro 仓库,编译时把路径指向它的 tensorflow/lite/micro/ 目录。

Logo

汇聚全球AI编程工具,助力开发者即刻编程。

更多推荐