1. 机器学习与深度学习

• 机器学习（Machine Learning，ML）是一个较大的概念，深度学习（Deep Learning，DL）属于机器学习的一个分支。

• 传统机器学习通常需要人工设计或筛选特征，再把特征输入模型。例如判断垃圾邮件时，可以人工提取邮件长度、链接数量、关键词数量等特征。

• 深度学习使用多层神经网络自动学习特征，一般需要更多数据、更高算力和更长训练时间。

常见传统机器学习模型：

• 逻辑回归 Logistic Regression

• 支持向量机 SVM

• 决策树 Decision Tree

• 随机森林 Random Forest

• XGBoost

• K近邻 KNN

常见深度学习模型：

• CNN：主要用于图像、视频等任务

• RNN、LSTM：主要用于序列任务

• Transformer：广泛用于大语言模型、视觉和多模态任务

传统机器学习并不一定比深度学习差。对于结构化表格数据、数据量较小、特征含义明确的任务，XGBoost、随机森林等模型往往仍然很有效。

---

2. 数据集质量与数据划分

数据集质量

衡量数据集不能只看样本数量，还要关注：

• 标签是否正确

• 是否存在漏标、错标和重复数据

• 是否存在缺失值

• 数据噪声是否严重

• 各类别数量是否均衡

• 训练数据能否代表真实业务场景

• 训练集、验证集和测试集之间是否存在数据泄漏

• 是否覆盖小目标、遮挡、反光、复杂背景等困难样本

类别不平衡时可以采用：

• 对多数类下采样

• 对少数类过采样

• 提高少数类的损失权重

• 补充少数类真实数据

• 使用数据增强

• 使用 Focal Loss 等更加关注困难样本的损失函数

一般情况下，优先补充真实有效的数据，而不是简单复制少数类样本。

训练集、验证集和测试集

训练集

用于训练模型参数：

输入数据
→ 前向传播得到预测结果
→ 计算损失
→ 反向传播计算梯度
→ 优化器更新参数

训练集会直接参与参数更新。

验证集

通常在每个 epoch 结束后评估一次，但不参与反向传播，也不更新模型参数。

主要用途：

• 观察模型是否过拟合

• 选择最佳训练轮次

• 选择最佳模型权重文件

• 调整学习率、batch size、正则化强度等超参数

• 比较不同模型结构和训练方案

这里的“模型选择”并不是每个 epoch 后自动更换激活函数或网络结构，而是：

• 同一次训练中，选择验证集效果最好的 epoch 对应的模型权重

• 多次实验之间，比较不同模型结构、学习率、优化器等方案

例如：

Epoch	训练集准确率	验证集准确率
20	85%	82%
50	94%	88%
100	99%	84%

虽然第100轮训练集效果最好，但验证集效果已经下降，因此可能选择第50轮的模型。

测试集

只在模型、超参数和最佳权重确定后使用，用于评价模型面对未知数据时的泛化能力。

不能根据测试集结果反复调整模型，否则测试集实际上就承担了验证集的作用，最终结果会偏高。

常见划分比例：

• 70% : 15% : 15%
• 80% : 10% : 10%

视频数据不能简单随机按帧划分，因为相邻帧非常相似。更合理的是按照视频、日期、场景或设备划分，防止相邻帧同时进入训练集和测试集。