type: daily_note

title: 监督学习 — 线性回归 + 代价函数

date: 2026-07-21

person: 吴恩达

phase: 2.1

day: 2

source: Coursera Machine Learning Specialization Course 1 #9-#14

tags: [吴恩达, 监督学习, 线性回归, 代价函数]

---

 

# 2026-07-21 学习笔记 — Day 2

 

## 笔记区（学的时候随手记）

 

### 核心观点

 

- **线性回归模型**：ŷ = wx + b，用一条直线拟合数据点

  - w（权重/斜率）：控制直线倾斜程度

  - b（偏置/截距）：控制直线上下偏移

- **代价函数（Cost Function）**：衡量模型预测值 ŷ 与实际值 y 的差距

  - MSE（均方误差）：J(w,b) = 1/(2m) × Σ(ŷᵢ - yᵢ)²

  - 代价函数越小 → 拟合效果越好

  - 代价函数越大 → 模型预测越不准

- **代价函数可视化**：

  - J(w,b) 的 3D 图是一个"碗形"（凸函数）

  - 因为 MSE 展开后是 w 和 b 的二次函数，天然凸

  - 碗底 = 全局最小值 = 最优参数组合

  - 等高线图可以更清楚地看到梯度下降路径

 

### 关键方法/流程

 

- 线性回归两步：

  1. 定义模型 ŷ = wx + b

  2. 定义代价函数 J(w,b) 来衡量拟合好坏

- 评估模型好坏：算代价函数值，越小越好

 

### 实战记录

 

验证题：给定模型 ŷ = 0.02x + 95，LFP 电池数据：

 

| 循环次数 (x) | SOH 实际值 (y) | ŷ 预测值 |

| ------------ | -------------- | -------- |

| 100 | 98% | 97% |

| 200 | 96% | 99% |

 

J = 1/(2×2) × [(97-98)² + (99-96)²] = 1/4 × [1 + 9] = 2.5

 

**_验证通过 ✅_**

 

---

 

## 线索区（学完后合上材料，自问自答）

 

> 先看问题 → 自己回答 → 点开对照。答不上来的就是没学透。

 

**Q: 代价函数是干什么的？用一句话说清楚。**

 

A: 代价函数衡量模型预测值 ŷ 与实际值 y 之间的差距。J(w,b) 越大说明模型拟合越差，越小说明拟合越好。公式是 J(w,b) = 1/(2m) × Σ(ŵᵢ - yᵢ)²。

 

---

 

**Q: 为什么 MSE 代价函数的图像是碗形（凸函数）？**

 

A: 因为 MSE = 1/(2m) × Σ(wx+b-y)² 展开后是 w 和 b 的二次函数，二次函数的图像天然就是抛物面/碗形。这意味着线性回归的代价函数只有一个全局最小值，梯度下降一定能找到它，不会卡在局部最优。

 

---

 

**Q: 给定模型 ŷ = 0.02x + 95，样本 (100, 98%) 和 (200, 96%)，代价函数值是多少？每一步怎么算？**

 

A:

 

1. ŷ₁ = 0.02×100 + 95 = 97

2. ŷ₂ = 0.02×200 + 95 = 99

3. (97-98)² = 1, (99-96)² = 9

4. J = 1/(2×2) × (1 + 9) = 2.5

 

---

 

**Q: 线性回归中 w 和 b 分别代表什么？**

 

A: w（权重/斜率）控制直线的倾斜程度，w 越大线越陡；b（偏置/截距）控制直线的上下位置，b 越大线越往上移。

 

---

 

## 总结（50字以内，用自己的话概括今天学到了什么）

 

线性回归用 ŷ = wx + b 拟合数据，代价函数 J(w,b) = 1/(2m) × Σ(ŷ-y)² 衡量拟合好坏。代价函数值越小，模型越准。凸函数性质保证能找到全局最优。