一元线性回归用于建立两个变量之间的线性关系模型:ŷ = bx + a,其中b为斜率,a为截距。
最小二乘法:选择b和a使残差平方和Σ(yᵢ-ŷᵢ)²最小。求导令偏导为0得:
b = Σ(xᵢ-x̄)(yᵢ-ȳ) / Σ(xᵢ-x̄)² = Sxy/Sxx
a = ȳ - b·x̄
拟合优度R²:R²=r²(r为相关系数),表示回归方程解释的变异比例,越接近1拟合越好。
应用:预测(给定x预测y)、趋势分析、变量关系量化。广泛用于经济、金融、医学、社会科学等领域。
A:线性(X与Y线性关系)、独立(残差独立)、正态(残差正态分布)、等方差(残差方差恒定)。不满足时需变换或用其他模型。
A:取决于领域。物理实验R²>0.99常见,社会科学R²>0.3就不错。R²高不代表因果关系,只代表线性拟合好。
A:多元回归Y=b₀+b₁X₁+...+bₖXₖ,用矩阵方法β=(X'X)⁻¹X'Y估计参数。需要用统计软件(R、Python、SPSS)计算。