AI/ML 算法工程师 总学习大纲(1750小时版)

核心原则:以项目带学习,理论结合实践。总学习时长1750小时,其中项目实战350小时,理论学习与练习1400小时。
学习周期:按每天高效学习6-8小时计算,约需6-8个月完成。

一、Python 与编程基础(120小时)

目标:能写出优雅、高效的代码,通过算法笔试。

  • 1.1 基础语法(变量、控制流、循环、异常处理)
  • 1.2 内置数据结构(list, tuple, dict, set)及时间复杂度分析
  • 1.3 面向对象编程(类、继承、多态、魔法方法)
  • 1.4 函数式编程(lambda, map, reduce, filter,zip, chain)
  • 1.5 闭包与装饰器(掌握@wraps,能实现带参数装饰器)
  • 1.6 正则表达式(re模块,贪婪/非贪婪匹配)
  • 1.7 多任务编程(多线程threading、多进程multiprocessing、协程asyncio
  • 1.8 网络编程(socket)与异步IO
  • 1.9 文件IO(open, with, pickle, json
  • 1.10 【核心】数据结构与算法(LeetCode Hot 100)
    • 数组、链表、栈、队列、哈希表
    • 二叉树遍历(前/中/后/层序)与递归
    • 双指针、滑动窗口、前缀和
    • 回溯(排列/组合)、动态规划(背包/子序列)
  • 1.11 【必备】版本控制Git(分支管理、冲突解决、PR协作流程)
  • 1.12 数据库基础(MySQL关系型、Redis非关系型)

二、数据分析与工程基础(120小时)

目标:能处理数据,能将模型封装成服务。

  • 2.1 Numpy(ndarray创建、切片、广播机制、向量化计算)
  • 2.2 Pandas(Series/DataFrame、数据清洗、分组聚合groupby、透视表)
  • 2.3 Matplotlib & Seaborn(折线图、直方图、混淆矩阵可视化)
  • 2.4 Linux命令行(grep, awk, sed, top, ps, netstat, vim
  • 2.5 Shell脚本编写(变量、循环、条件判断、定时任务crontab
  • 2.6 Docker(镜像构建Dockerfile、容器操作、docker-compose编排)
  • 2.7 开发环境配置(WSL、SSH、conda/venv虚拟环境)
  • 2.8 【新增】Web服务框架(FastAPI/Flask):编写RESTful API,部署模型推理接口
  • 2.9 低代码/工具链了解(Coze、Dify、RAGFlow)

三、机器学习 - 传统ML(200小时)

目标:掌握机器学习全流程(Sklearn),理解经典算法推导。

理论基础与建模流程(80h)

  • 3.1 特征工程(缺失值填充、One-Hot编码、标准化/归一化、特征选择)
  • 3.2 数据集划分(训练/验证/测试)与K-Fold交叉验证
  • 3.3 回归任务(线性回归、逻辑回归、损失函数推导)
  • 3.4 分类任务(K近邻、朴素贝叶斯)
  • 3.5 决策树(ID3, C4.5, CART:信息增益、基尼系数、剪枝)
  • 3.6 集成学习(Bagging随机森林、Boosting AdaBoost)
  • 3.7 【新增】XGBoost / LightGBM(掌握核心参数与调优)
  • 3.8 聚类(K-Means, DBSCAN)与降维(PCA, t-SNE)
  • 3.9 SVM支持向量机(理解核函数思想)

模型评估与调优(40h)

  • 3.10 评估指标(混淆矩阵、Precision/Recall/F1、ROC-AUC、MSE/MAE/R²)
  • 3.11 过拟合与欠拟合(学习曲线、验证曲线)
  • 3.12 超参数搜索(GridSearchCV, RandomSearchCV, Optuna)
  • 3.13 流水线(Pipeline)封装完整建模流程

四、深度学习基础 - PyTorch(200小时)

目标:彻底搞懂反向传播,能手撕CNN/RNN,精通PyTorch训练流。

  • 4.1 PyTorch张量高阶操作(view, permute, broadcast, 索引)
  • 4.2 自动求导(torch.autograd)与计算图理解
  • 4.3 手动推导梯度下降(SGD)与反向传播链式法则
  • 4.4 激活函数(ReLU, Sigmoid, Tanh, Swish, GELU)与梯度消失/爆炸
  • 4.5 损失函数(CrossEntropyLoss, MSELoss, NLLLoss)与Softmax
  • 4.6 梯度优化算法(Momentum, Adam, AdamW)与学习率衰减(CosineAnnealing)
  • 4.7 权重初始化(Xavier, Kaiming)与批归一化(BN, LayerNorm)
  • 4.8 卷积神经网络CNN(卷积、池化、空洞卷积、感受野计算、1x1卷积)
  • 4.9 循环神经网络RNN / LSTM / GRU(门控机制、双向LSTM)
  • 4.10 【核心】PyTorch模型定义nn.Module、模型保存/加载save/load
  • 4.11 【核心】训练循环封装DataLoaderDataset自定义、验证集评估)
  • 4.12 【新增】模型导出与优化(ONNX导出、TensorRT基础)

五、Transformer与LLM(400小时)—— 重中之重!

目标:能讲透Transformer每一层设计,能独立完成大模型微调与部署。

5.1 原理篇(200h)

  • 5.1.1 词向量(Word2Vec的CBOW/Skip-gram、GloVe、FastText)
  • 5.1.2 Transformer结构(完整推导Encoder/Decoder、多头注意力、位置编码、Add&Norm)
  • 5.1.3 BERT(MLM掩码语言模型、NSP下一句预测)
  • 5.1.4 GPT系列(GPT-1/2/3/3.5:从无监督预训练到In-Context Learning)
  • 5.1.5 大模型训练技术(RLHF、PPO、DPO)
  • 5.1.6 国产模型架构(Qwen、ChatGLM、Baichuan架构特点)

5.2 工程篇(200h)

  • 5.2.1 迁移学习与指令微调(Instruction Tuning)
  • 5.2.2 参数高效微调(LoRA、QLoRA、AdaLoRA、DoRA)
  • 5.2.3 模型量化(GPTQ、AWQ、bitsandbytes 4-bit/8-bit)
  • 5.2.4 推理加速框架(vLLM、PagedAttention、FlashAttention 2)
  • 5.2.5 分布式训练框架(DeepSpeed ZeRO Stage 1/2/3、FSDP)
  • 5.2.6 本地部署工具(Ollama、llama.cpp、GGUF格式)

六、计算机视觉与多模态(260小时)

目标:覆盖CV经典任务与AIGC主流框架,跟上多模态前沿。

6.1 经典视觉任务(120h)

  • 6.1.1 经典分类网络(AlexNet, VGG, ResNet, DenseNet, EfficientNet)
  • 6.1.2 语义分割(FCN, Unet, DeepLab)
  • 6.1.3 实例分割(Mask R-CNN)
  • 6.1.4 【新增】目标检测(YOLO系列原理与演进、SSD)

6.2 生成模型(80h)

  • 6.2.1 VAE变分自编码器(重参数化技巧、ELBO推导)
  • 6.2.2 GAN生成对抗网络(DCGAN、StyleGAN、CycleGAN)
  • 6.2.3 Diffusion扩散模型(DDPM前向/逆向过程推导、噪声调度器)

6.3 多模态前沿(60h)

  • 6.3.1 【新增】CLIP(对比学习、图文对齐、Zero-shot推理)
  • 6.3.2 【新增】DALL-E / Imagen / DreamBooth(文生图与个性化生成)
  • 6.3.3 【新增】MiniGPT-4 / LLaVA(多模态大模型架构)

七、项目实战(350小时)—— 简历硬通货!

原则:每个项目都要能讲清楚动机、方案、难点、成果,并量化指标。

  • 7.1 项目一(CV分类):基于ResNet的工业缺陷检测 / CIFAR-10分类(80h)
  • 7.2 项目二(NLP):基于BERT的微博情感分析 / 垃圾短信分类(80h)
  • 7.3 项目三(LLM微调):基于QLoRA微调Qwen垂直领域问答(100h)
  • 7.4 项目四(LLM部署):vLLM+FastAPI+私有化Qwen推理服务与Docker部署(50h)
  • 7.5 项目五(AIGC):基于Diffusion的二次元头像生成 / DreamBooth个性化生成(40h)
  • 7.6 项目六(多模态):基于CLIP实现跨模态检索(文本搜图/图搜文本)(30h)
  • 7.7 项目复盘:整理技术文档、录制演示视频、GitHub归档(20h)

八、求职冲刺(100小时)

  • 8.1 简历撰写:STAR法则量化项目成果(技术栈+指标+挑战)
  • 8.2 高频八股背诵:手推公式(注意力、LoRA、BN)、模型结构(Transformer/ViT)
  • 8.3 算法题库突击:LeetCode Hot 100 二刷+剑指Offer重点题
  • 8.4 模拟面试:自我介绍打磨、项目深挖(为什么不用XX方案?)

⏱️ 总时间分配概览

模块 内容 建议时长(小时)
Python与编程基础 120
数据分析与工程基础 120
传统机器学习(ML) 200
深度学习基础(PyTorch) 200
Transformer与LLM(核心重点) 400
计算机视觉与多模态 260
项目实战(6个核心项目) 350
求职冲刺 100
总计 1750

📌 附加说明

  1. 优先级:Transformer与LLM(模块五)是面试最大加分项,时间可向此倾斜,但切勿跳过传统ML(模块三),大厂面试必有。
  2. 关于Y-组合子、SJT算法:经评估后已从大纲中移除,这些属于学术趣味知识,对求职与项目实战贡献极低,不必在上面浪费时间。
  3. 项目深度:350小时项目务必坚持完成,切忌只跑通官方demo。建议每个项目都改写部分核心代码(如自定义Dataset、修改网络结构、添加评估指标)。
  4. 数学基础:线性代数/概率论不需要单独占用学习时长,遇到公式(如Attention、BN)时当场复习相关数学知识,效率更高。
  5. 迭代建议:每周日抽出3小时复盘当周进度,对照本大纲打勾标记完成项,动态调整下周计划。
Logo

汇聚全球AI编程工具,助力开发者即刻编程。

更多推荐