第八章 · 第二节
一元线性回归模型及其应用
最小二乘法 · 回归方程 · 残差分析

📖 知识点学习

🎯 学习目标

  • 理解一元线性回归模型的概念
  • 掌握最小二乘法及回归系数公式
  • 能根据数据求回归方程并做预测
  • 了解残差分析和模型拟合效果评价
知识点一:一元线性回归模型
📈 回归模型
如果变量 y 与 x 之间存在线性相关关系,则可以用线性模型来描述:
ŷ = bx + a + e
其中 ŷ 是 y 的预测值(估计值),b 是斜率(回归系数),a 是截距,e 是随机误差
知识点二:最小二乘法
📐 最小二乘法
设有 n 组数据 (xᵢ, yᵢ),回归方程 ŷ = bx + a。使残差平方和 Q = Σ(yᵢ - ŷᵢ)² = Σ(yᵢ - bxᵢ - a)² 最小的方法称为最小二乘法
✏️ 回归系数公式
由最小二乘法推导:
b = Σ(xᵢ-x̄)(yᵢ-ȳ) / Σ(xᵢ-x̄)²
a = ȳ - b·x̄
其中 x̄, ȳ 为样本均值。回归直线必过点 (x̄, ȳ)
ŷ=bx+a
回归方程
预测y值
b
斜率
回归系数
(x̄,ȳ)
中心点
回归直线必过
知识点三:残差与拟合效果
📊 残差
对于每个数据点 (xᵢ, yᵢ),残差 = yᵢ - ŷᵢ(实际值减预测值)。残差反映模型预测的准确程度,残差越小拟合越好。
🎯 决定系数 R²
R² = 1 - SSE/SST,其中 SSE 为残差平方和,SST 为总偏差平方和。
R² 越接近1,模型拟合效果越好;R² = r²(相关系数的平方)。
💡 回归分析步骤
  • ① 画散点图,判断是否线性相关
  • ② 计算相关系数 r,确认有较强线性相关
  • ③ 用最小二乘法求回归方程 ŷ = bx + a
  • ④ 用回归方程进行预测和分析
  • ⑤ 检查残差,评估模型合理性

🎬 动画讲解

📢
点击「播放动画」按钮开始学习...

🧪 互动实验:回归分析模拟器

💡 点击画布添加数据点,观察最小二乘回归线的变化
⚙️ 实验操作

点击画布添加数据点(至少2个点才能画回归线)

数据点数0
斜率 b
截距 a
相关系数 r
📋 实验结论
最小二乘法找到的回归直线使残差平方和最小,且必过样本中心点 (x̄, ȳ)。R² 越接近1,回归方程拟合效果越好。

📝 例题精讲

💡 提示:点击「下一步」按钮,逐步查看详细解题过程
例题 1求回归方程
已知数据:(1,2),(2,4),(3,5),(4,7)。求 y 关于 x 的线性回归方程。
🔍 解题过程
1求均值:x̄=(1+2+3+4)/4=2.5,ȳ=(2+4+5+7)/4=4.5。
2求b:Σ(xᵢ-x̄)(yᵢ-ȳ)=(-1.5)(-2.5)+(-0.5)(-0.5)+(0.5)(0.5)+(1.5)(2.5)=3.75+0.25+0.25+3.75=8。Σ(xᵢ-x̄)²=2.25+0.25+0.25+2.25=5。b=8/5=1.6。
3求a:a=ȳ-b·x̄=4.5-1.6×2.5=4.5-4=0.5。回归方程:ŷ=1.6x+0.5。
✅ 回归方程:ŷ = 1.6x + 0.5
例题 2用回归方程预测
上例中,若 x=5,预测 y 的值。
🔍 解题过程
1代入:ŷ = 1.6 × 5 + 0.5
2计算:ŷ = 8 + 0.5 = 8.5
3注意:预测值是估计值,实际值可能偏离。预测时x应在数据范围内或附近。
✅ 当 x=5 时,y 的预测值为 8.5。

🚀 拓展提升

🔍 最小二乘法的原理

最小二乘法寻找使残差平方和 Q = Σ(yᵢ - ŷᵢ)² 最小的直线。数学上通过对 a, b 求偏导并令其为0来求解。

  • Q(a,b) = Σ(yᵢ - bxᵢ - a)²
  • 令 ∂Q/∂a = 0 和 ∂Q/∂b = 0
  • 解方程组得到 b 和 a 的公式
  • 回归直线是"最佳拟合直线"

💡 回归直线的性质

  • 必过样本中心点 (x̄, ȳ)
  • 残差之和 Σeᵢ = 0
  • 在所有直线中,回归直线的残差平方和最小
  • 斜率 b 的符号与相关系数 r 一致

📐 预测的注意事项

  • 预测适用于数据范围内的x值(内插)
  • 外推(超出数据范围)需谨慎
  • 线性回归只适用于线性相关关系
  • 非线性关系需用非线性模型

✏️ 练习巩固

💡 提示:每道题作答后会立即显示解析,请认真思考后再作答
第 1 题★☆☆ 基础
回归方程 ŷ = bx + a 中,b 的含义是?
Ax增加1时y的平均变化量
Bx=0时的y值
C相关系数
D残差
第 2 题★☆☆ 基础
回归直线必过哪个点?
A原点(0,0)
B样本中心(x̄,ȳ)
C第一个数据点
D最后一个数据点
第 3 题★★☆ 巩固
已知回归方程 ŷ = 2x + 1,当 x = 3 时的预测值为?
A5
B7
C6
D9
第 4 题★★☆ 巩固
最小二乘法的准则是使什么最小?
A残差之和
B残差平方和
C偏差绝对值之和
D最大偏差
第 5 题★★★ 拓展
R² = 0.95 说明什么?
A相关系数r=0.95
B95%的数据变异可被模型解释
C预测误差为5%
D残差为0.05
第 6 题★☆☆ 基础
回归直线必定经过哪个点?
A原点 (0, 0)
B样本中心点 (x̄, ȳ)
C第一个数据点
D最后一个数据点

🧠 知识点问答

老师来考考你!下面的问题都来自本节课的知识点,看看你掌握了多少。每次点击"再考一次"题目顺序都会随机打乱哦!
🎉

课程完成!

恭喜你完成了「8.2 一元线性回归模型及其应用」的学习!

📌 本节核心要点回顾:
① 回归方程:ŷ = bx + a
② b = Σ(xᵢ-x̄)(yᵢ-ȳ)/Σ(xᵢ-x̄)²,a = ȳ-bx̄
③ 回归直线必过样本中心(x̄,ȳ)
④ R²越接近1拟合越好,R²=r²