线性回归方程公式(最小二乘法)

ŷ = bx + a b = Σ(xᵢ-x̄)(yᵢ-ȳ)/Σ(xᵢ-x̄)² a = ȳ - bx̄
一元线性回归方程,最小二乘法估计参数
b:斜率(回归系数) a:截距 x̄,ȳ:均值 ŷ为预测值 R²为拟合优度

线性回归方程详解

一元线性回归用于建立两个变量之间的线性关系模型:ŷ = bx + a,其中b为斜率,a为截距。

最小二乘法:选择b和a使残差平方和Σ(yᵢ-ŷᵢ)²最小。求导令偏导为0得:

b = Σ(xᵢ-x̄)(yᵢ-ȳ) / Σ(xᵢ-x̄)² = Sxy/Sxx

a = ȳ - b·x̄

拟合优度R²:R²=r²(r为相关系数),表示回归方程解释的变异比例,越接近1拟合越好。

应用:预测(给定x预测y)、趋势分析、变量关系量化。广泛用于经济、金融、医学、社会科学等领域。

例题:X=[1,2,3,4,5],Y=[2,4,5,4,5],求回归方程
解:x̄=3,ȳ=4,Sxy=6,Sxx=10,b=0.6,a=4-0.6×3=2.2,ŷ=0.6x+2.2

常见问题

Q:线性回归要求什么条件?

A:线性(X与Y线性关系)、独立(残差独立)、正态(残差正态分布)、等方差(残差方差恒定)。不满足时需变换或用其他模型。

Q:R²多大算好?

A:取决于领域。物理实验R²>0.99常见,社会科学R²>0.3就不错。R²高不代表因果关系,只代表线性拟合好。

Q:多元线性回归怎么算?

A:多元回归Y=b₀+b₁X₁+...+bₖXₖ,用矩阵方法β=(X'X)⁻¹X'Y估计参数。需要用统计软件(R、Python、SPSS)计算。

实用工具导航
地图天气地图POI天气