概述

1956年夏天,麦卡塞、申农等一批具有远见卓识的青年科学家齐聚达特茅斯会议,探讨有关用机器模拟智能的一系列问题,“人工智能”这一概念首次被提出,至今人工智能已发展六十余年,几经寒冬,近年来在深度学习的推动下再次迎来爆发期,人工智能发展历程如图1所示。

图片

图1 人工智能发展历程

随着人工智能的发展,期间诞生过多项具有历史意义的技术分支领域,其中具有代表性的两个分支领域分别为机器学习深度学习,人工智能、机器学习、深度学习三者从属关系如图2所示。

图片

图2 深度学习通用框架

机器学习 (Machine Learning) 是对研究问题进行模型假设,利用计算机从训练数据中学习得到模型参数,并最终对数据进行预测和分析的一门学科。自诞生以来,涌现出多个经典算法并应用于多个不同领域,以较为出名的算法进行举例,详见表1。

表1 经典机器学习算法

经典模型

诞生时间

作者

降维算法

PCA

1933年

Hotelling

线性判别分析

1936年

Fisher

分类算法

逻辑回归

1958年

Cox

分类算法

KNN

1967年

Thomas M Cover

朴素贝叶斯

1985年

Pearl J

决策树

1986年

Quinlan

多层神经网络

1986年

杰弗里·辛顿

CNN

1989年

LeCun

SVM

1995年

Freund

AdaBoost

1995年

Vapnik

随机森林

2001年

Breiman

回归算法

岭回归算法

1970年

Hoerl

LSTM

(可做回归)

2000年

S. Hochreiter

聚类算法

K-means

1967年

MacQueen

EM算法

1977年

Dempster

强化学习

时序差分算法

1988年

Richard Sutton

AlphaGO

2016年

DeepMind

深度学习是一种机器学习分支,它模仿人类大脑的工作原理,通过构建人工神经网络来处理和解释复杂的数据。它被称为“深度”学习,是因为它使用多层神经网络来学习和提取数据中的特征。深度学习模型自诞生以来,也涌现出多个较为经典的模型,部分经典深度学习模型及其应用领域详见表2。

表2 经典深度学习模型

应用领域

模型名称

诞生时间及作者

分类

LeNet

1998年Yann  LeCun

AlexNet

2012年  Alex Krizhevsky

VGG

2014年Visual Geometry Group

Inception

2014年Christian Szegedy

ResNet

2015年 何凯明

目标检测

Faster R-CNN

2015年 Ross Girshick

YOLO

2016年 Joseph Redmon

SSD

2016年 刘伟

RetinaNet

2017年 何凯明

图像分割

SegNet

2015年 Vijay Badrinarayanan

UNet

2015年 Olaf Ronneberger

Mask R-CNN

2018年 何凯明

近年来,在人工智能的发展中出现了对于人工智能乃至整个科学界都影响深远的标志性事件,部分大事件如表3所示。

表3 人工智能大事件

时间

事件

1997年

Deep Blue战胜国际象棋世界冠军

2011年

IBM“沃森”智能问答战胜两位世界冠军

2012年

加拿大虚拟大脑Spaun通过基本智商测试

2012年

AlexNet卷积神经网络首次在图像识别上打败人类

2013年

谷歌智能实验室成立

2013年

Facebook人工智能实验室成立

2014年

百度研究院成立

2015年

谷歌同声翻译阿里云智能语音、科大讯飞智能语音问世

2015年

无人驾驶车辆诞生

2016年

AlphaGo战胜围棋选手李世石

2017年

AlphaGo战胜柯洁

2018年

百度无人车亮相春晚

2019年

OpenAI发布GPT-2,展示了单模型无需微调完成多任务的潜力;同年微软向其投资10亿美元

2020年

OpenAI发布包含1750亿参数的GPT-3,开启了大模型(Large Language Models)时代

2021年

DeepMind发布AlphaFold 2,成功预测人类已知几乎所有蛋白质的3D结构,AI深刻改变科学范式(AI for Science)

2022年

OpenAI发布ChatGPT,仅用5天用户破百万,引发全球生成式人工智能(Generative AI)历史性浪潮

2023年

OpenAI发布多模态大模型GPT-4;国内百度发布“文心一言”,大模型“百模大战”全面爆发

2024年

OpenAI发布文生视频大模型Sora;谷歌发布原生多模态模型Gemini 1.5 Pro;同年AI领域学者斩获诺贝尔物理学奖与化学奖

2025年

中国DeepSeek(深度求索)发布R1推理模型,以超高性价比和开源特性震撼全球科技界;AI全面进入“智能体(Agentic AI)”与推理时代

2026年

美、中等国科技巨头相继启动千亿至五千亿美元级算力基础设施项目(如Stargate计划),AI基础设施向超级集群和国家级战略演进

为方便大家学习 这里给大家整理了一份学习资料包 需要的同学 根据下图自取即可

2

机器学习VS深度学习

机器学习是一种通过模式识别和自动化算法来让计算机从数据中学习的方法。它是一种基于数据的方法,通过对大量数据的学习和分析,来发现数据中的规律和模式,从而实现对未知数据的预测和分类。机器学习的应用非常广泛,包括自然语言处理、图像识别、智能推荐、金融预测等领域。

深度学习是一种基于人工神经网络的机器学习方法,它模仿人类大脑的结构和功能,通过多层神经网络来对数据进行学习和分析。深度学习可以自动提取数据中的特征和模式,从而实现对未知数据的预测和分类。深度学习的应用也非常广泛,包括自然语言处理、图像识别、智能推荐、自动驾驶等领域。

机器学习和深度学习都是基于数据的方法,二者都可以用于数据分析、预测和分类。但是,机器学习和深度学习之间也有着明显的区别。

2.1 深度学习与机器学习的共性

2.1.1 数据驱动

机器学习和深度学习都是数据驱动的方法,它们都需要大量的数据进行训练和学习。在数据驱动的方法中,数据是最重要的资源,数据的质量和数量决定了模型的准确性和可靠性。

2.1.2 特征提取

机器学习和深度学习都需要对数据进行特征提取,以便进行分类和预测。

2.1.3 模型优化

机器学习和深度学习都需要对模型进行优化,以提高模型的准确性和可靠性,需要训练集、验证集、测试集,如图3所示,以验证集对模型训练过程进行监控,测试集对模型泛化性能进行评估。

图片

(a) 训练曲线

图片

(b) 混淆矩阵

图片

(b) 混淆矩阵

图3 模型优化

2.2 深度学习与机器学习的区别

2.2.1 本质区别

机器学习与深度学习本质区别:机器学习中特征提取通常是由人工完成的,人类需要根据数据类型(例如像素值、形状、方向)识别并手动编码应用特征;而在深度学习中特征提取是由神经网络自动完成的。以胃白光瘤变识别项目为例进行说明。

机器学习输入特征可以有多种来源,可以通过深度学习算法模型进行特征提取、可以手动赋值。机器学习识别胃白光瘤变,需手动进行特征工程,详见表4。

表4 胃白光瘤变机器学习特征工程

特征类型

特征提取方式

标签

标签工程

边界是否清晰

深度学习

否-0;是-1

无操作

表面是否粗糙

深度学习

否-0;是-1

无操作

是否自发性出血

深度学习

否-0;是-1

无操作

色调

深度学习

红-0;白-1;同色调-2

红(0,1);白(0,1);同色调(0,1)

表面形态

深度学习

平坦-0;凹陷-1;隆起-2

平坦(0,1);凹陷(0,1);隆起(0,1)

胃部位

深度学习

上-0;下-1;无法判断-2

上(0,1);下(0,1);无法判断(0,1)

颜色主成分

数字图像处理

浅-0;深-1

无操作

图像纹理

数字图像处理

稀疏-0;稠密-1

无操作

图像熵

数字图像处理

低-0;高-1

无操作

颜色直方图梯度

数字图像处理

不明显-0;明显-1

无操作

宽高比

量化

小-0;大-1

无操作

边界无规则程度

量化

低-0;高-1

无操作

病灶面积占比

量化

低-0;高-1

无操作

血管是否裸露

手动赋值

否-0;是-1

无操作

透明度

手动赋值

低-0;高-1

无操作

...

...

...

...

特征工程处理完毕,后将多种特征输入至机器学习算法,本例中选择随机森林如图5所示,同时可以输出各项特征对最终结果贡献的特征权重。

图片

图5 机器学习识别胃白光瘤变

深度学习胃白光瘤变识别过程如图6所示,将待识别图像输入至训练好的卷积神经网络Resnet50中,Resnet50自动提取图像特征并对图像进行分类。

图片

图6 深度学习识别胃白光瘤变

为方便大家学习 这里给大家整理了一份学习资料包 需要的同学 根据下图自取即可

2.2.2 数据量区别

如图7所示,随着数据量的增加,深度学习的性能会越来越好,而传统机器学习方法数据量会过早出现饱和现象,当数据达到饱和后模型性能表现却趋于平缓;传统的机器学习算法在数据量较小的情况,比深度学习有着更好的表现。

图片

图7 数据规模与模型性能对比

2.2.3 硬件依赖性

传统的机器学习算法可以在低端机器(如CPU)上工作,而深度学习算法在很大程度上依赖于高端机器(如GPU)。

深度学习算法在模型训练或者模型推理阶段需要对大量的矩阵或者张量进行并行运算,这些操作依赖GPU;机器学习算法主要进行逻辑运算且样本以离散数据为主,可以在CPU上运行。CPU与GPU外部特征如图8所示。

图片

图片

图8 CPU与GPU

CPU与GPU运行机制对比如图9所示,CPU需要很强的通用性来处理各种不同的数据类型,同时也会进行逻辑判断又会引入大量的分支跳转和中断的处理。这些都使得CPU的内部结构异常复杂,采用的是精兵战术,能力强,但数量少,擅长逻辑控制,串行运算;GPU面对的则是类型高度统一的、相互无依赖的大规模数据和不需要被打断的纯净的计算环境,采用的是人海战术,单个能力弱,但数量众多,擅长的是大规模并发计算。通俗的讲就是,CPU为学识渊博的教授,学识渊博;而GPU则是一堆小学生且只会简单的算数运算,因此对简单重复的计算来说一个教授敌不过数量众多的小学生。

图片

图片

图片

图9 CPU与GPU运行机制

2.2.4 模型复杂度

机器学习的模型相对简单,通常只有几十个参数;而深度学习的模型较为复杂,可以有上千个参数。以机器学习中模型较为复杂的随机森林和深度学习中卷积神经网络模型结构进行比对,随机森林是由多个决策树堆叠而成,而决策树的形状由具体任务而定,以周志华编写的《机器学习》中表4.2为例构建的随机森林如图11所示。

图片

图11 随机森林模型结构

常用的卷积神经网络通常包含结构为卷积层、池化层、激活函数层、BN层、残差层等,如图12所示。

图片

图12 卷积神经网络模型结构

2.2.5 特征可视化

机器学习由于在算法模型训练之前,需人为进行特征工程,模型训练完成后可通过特征权重对特征贡献进行定量显示,如:

图片

其中:

图片

即为特征权重。

深度学习特征提取过程可解释性较差,俗称“黑盒”,一般通过热力图对模型感兴趣区域进行显示,以猫狗分类为例进行说明,如图13所示。

图片

图13 深度学习类激活热力图

为方便大家学习 这里给大家整理了一份学习资料包 需要的同学 根据下图自取即可

3

总结

机器学习与深度学习各自具有自身的优势与缺陷,具体使用中应根据项目需求及设备硬件条件,可单独使用机器学习、单独使用深度学习或机器学习—深度学习联合使用。

Logo

汇聚全球AI编程工具,助力开发者即刻编程。

更多推荐