TinyML 1
TinyML
TinyML 是什么
在功耗极低、资源极少的微控制器(如 Arm Cortex‑M)上运行机器学习模型。
设备端推理:数据不出设备,低延迟,保护隐私
超低功耗:一颗纽扣电池可工作数月甚至更久
模型极小:通常只有几 KB 到几百 KB
机器学习到底是什么?
机器学习是一种利用计算机基于过去的观察来进行预测的技术。(给出数据和答案,算法自己找出规则,生成一个模型。)
基于提供的数据,通过训练,构建出系统的模型(由python完成)
让数据通过这个模型来做出预测,这个过程被称为推理。(由C++完成)
推理
预处理:原始数据 → 转化为模型认识的张量 → 归一化到训练时的范围
模型内部进行运算
拿到输出张量 → 比较各类得分 → 得出结论
张量和架构
架构 (Architecture) 是模型的骨架。它决定了1. 你的 C++ 代码要把输入数据准备成什么形状。2. 计算量——影响推理速度和内存占用
张量 (Tensor)可以理解为多维数组。形状用 (x, y, z) 表示,数字个数 = 维度数。
在 C++ 里喂给模型的数据(比如一段音频、一张图片)以及模型吐出的结果,都是张量。
监督学习与分类
将数据与类别关联起来的过程称为标注,而“正常”和“异常”这些类别就是我们的标签。
训练时告诉算法数据含义的训练方式,称为监督学习。生成的分类模型将能够处理输入数据,并预测它最可能属于哪个类别。(模型只是学会了“输入数据 → 标签”的映射。)
分类模型的输出通常是一组概率(如
[0.2, 0.8]),代表各类别的可能性
特征工程
把原始传感器数据变成模型能吃的张量,这个过程叫特征工程。窗口化是最基础的一种。在 C++ 端,需要自己写代码来实现这个窗口化逻辑:维护一个滑动窗口缓冲区,计算窗口内的平均值(或其它统计量),组装成向量,再塞进模型。
//如果我们只传入某个特定时刻可用的数据,它可能不会包含所有我们可用的数据类型。 //解决这个问题的一个办法是:选择一个时间窗口,并将这个窗口内的所有数据合并成一组单一的值。例如,我们可以决定一个一分钟的窗口,并查看其中包含的所有值: //如果我们对每个时间序列在窗口内的所有值取平均,对于那些在当前窗口中没有数据点的,则取最近的一个值,我们最终会得到一组单一的数值。 ┌───────────┐ 生产速度: * | * │ 平均值: 102 温度: * * | * │ 平均值: 34°C 振动: * * * * * * * * * * * * *│* * * * * *│ 平均值: 18% 标签: * * * * * * * * * * * * *│* * * * * *│ 标签: "normal" └───────────┘ //特征工程 [102 34 0.18]在 C++ 端需要自己实现滑动窗口缓冲、均值计算、向量组装。
归一化
神经网络要求输入数值量级相近,理想范围 [0,1](或零均值附近)。
缩放到 [0,1]:
norm = val / 255.0(图像常用)标准化:
norm = (val - mean) / std(传感器数据常用)注意:标准化后的结果并不一定在 [0,1],但能使不同特征处于相近的尺度。
训练过程
模型的权重初始值是随机的,偏置通常初始值为 0。
一批批数据输入,比较输出与期望,用反向传播(Python 端)逐步调整权重和偏置
训练以epoch(意为迭代周期)来衡量
模型的性能不再提升时停止训练。当模型开始做出准确的预测时,就称它已经收敛了。
性能指标
损失(loss):预测与真实值的差距,越小越好
准确率(accuracy):分类正确率
超参数:是训练模型之前由人工手动设定、用来控制模型架构和训练流程的配置数值;训练过程中模型不会自动学习、更新它们,需要人为修改后重新训练来调试模型性能。
TinyML 中最常处理的任务类型。模型的输出不是一个单一数值,而是一组概率(比如 [0.2, 0.8]),分别代表属于每个类别的可能性。
欠拟合和过拟合
欠拟合:模型学习能力不足,没能捕捉数据里的核心规律,训练集、测试集预测效果都很差。
过拟合时,模型把训练数据学得过于细致,甚至记住训练集独有的噪声、无关特征;仅在训练数据表现优秀,陌生新数据预测效果很差,泛化能力弱。
对抗过拟合:1. 减小模型的规模,使其没有足够的容量来学习训练集的精确表示。
2. 正则化:训练过程加入约束,限制参数过度偏移,抑制过拟合;
3. 数据增强:基于现有样本做变换生成人工新数据,丰富数据多样性;
4. 收集更大、更多样化的真实数据集。
为了了解过拟合是否发生,通常将数据集分成三部分——训练集、验证集和测试集。一个典型的分割比例是 60% 训练数据、20% 验证数据、20% 测试数据。但必须必须确保每个部分包含相同的信息分布并随机打乱。
训练集:用来训练模型。
验证集:训练过程中用来检查是否过拟合。
测试集:训练完全结束后,最终评估模型真实性能。
部署常见问题
模型线下测试效果良好,但部署到真实设备后性能下降,主要原因:
真实环境数据和训练数据分布存在偏移,
模型隐性过拟合。
先检查传感器等硬件故障,再对比现场采集数据与训练数据集分布;若数据无差异,则判定为过拟合。解决过拟合可采集现场真实数据扩充数据集,搭配正则化、数据增强重新训练;
TensorFlow Lite Micro 与量化
TensorFlow Lite:是一个纯 C++ 库,用来在单片机上加载模型和运行推理。
量化:默认情况下,模型中的权重和偏置都存储为 32 位浮点数,以便在训练期间进行高精度计算。量化允许你降低这些数字的精度,使其适配到 8 位整数。由于CPU 进行整数数学运算比浮点数更容易,量化后的模型会运行得更快。量化通常只会带来极小的准确率损失。在部署到低内存设备时,它几乎总是值得的。
深度学习中使用的训练过程依赖于以真正随机的顺序向其输入数据。如果数据是有序的,生成的模型将不那么准确。
loss(损失):模型预测值与真实值之间的差距,均方误差是先求差平方再平均,对大误差惩罚更重。
mae(平均绝对误差):预测偏差的绝对值的平均,单位与原数据相同,更直观。 验证阶段的这两个值如果明显差于训练阶段,往往意味着过拟合。
模型嵌入固件
STM32/ESP32 等微控制器没有文件系统,无法直接读取磁盘上的
sine_model_quantized.tflite二进制文件。解决方案:把整个模型二进制字节,转为 C 语言
unsigned char常量数组,直接编译进固件烧录 Flash。# 如果 xxd 不可用,先安装它 !apt-get -qq install xxd # 将文件保存为 C 源文件 !xxd -i sine_model_quantized.tflite > sine_model_quantized.cc # 打印源文件 !cat sine_model_quantized.cc输出
// 模型全部二进制数据,存为无符号字符数组 unsigned char sine_model_quantized_tflite[] = {0x1c,0x00,...}; // 数组总字节长度 unsigned int sine_model_quantized_tflite_len = 2512;
必要头文件
#include "sine_model_data.h" //存放我们用xxd转换后的量化模型:全局unsigned char字节数组 + 模型长度,嵌入固件的 AI 模型本体。 #include "tensorflow/lite/micro/kernels/all_ops_resolver.h" //一个允许解释器加载我们模型所用操作的类。 #include "tensorflow/lite/micro/micro_error_reporter.h" //一个可以记录错误和输出以辅助调试的类。 #include "tensorflow/lite/micro/micro_interpreter.h" //TensorFlow Lite for Microcontrollers 的解释器,它将运行我们的模型。 #include "tensorflow/lite/micro/testing/micro_test.h"//测试用,应用程序不写 //一个用于编写测试的轻量级框架,允许我们将此文件作为测试运行。 #include "tensorflow/lite/schema/schema_generated.h”//被其他头文件包含,一般不显示写 //定义了 TensorFlow Lite FlatBuffer 数据结构的模式,用于理解 sine_model_data.h 中的模型数据。 #include "tensorflow/lite/version.h"//库内部包含,不显示使用 //该模式的当前版本号,以便我们可以检查模型是否是用兼容的版本定义的。第2到7个头文件从 GitHub 克隆
tensorflow/tflite-micro仓库,编译时把路径指向它的tensorflow/lite/micro/目录。
更多推荐


所有评论(0)