加权回归（weighted regression）

回归分析的一种。普通最小二乘回归的一种推广，也是广义最小二乘回归的一种特例。对于线性回归模型\(Y_i=\beta_0+\beta_1X_{i1}+\cdots +\beta_pX_{ip}+\varepsilon_i(i=1,2,\cdots,n)\)，写成矩阵形式为\(Y=X\beta+\varepsilon\)。若\(\varepsilon _1,\cdots,\varepsilon_n\)独立，但不是同分布，设\(Cov(\varepsilon)=\sigma^2V\)，则\(V\)是对角矩阵，用广义最小二乘估计回归参数。对于一个自变量情形，设回归直线过原点，即要拟合的模型是\(Y_i=\beta X_i+\varepsilon_i(i=1,2,\cdots,n)\)其中\(Cov(\varepsilon_i,\varepsilon_j)=0(i\ne j)\)，\(Var(\varepsilon_i)=\sigma^2\omega_i^{-1}(i=1,2,\cdots,n)\)，则\(\beta\)的广义最小二乘估计为\(\hat{\beta} =\frac{\sum_{i=1}^{n}\omega_iX_iY_i}{\sum_{i=1}^{n}\omega_iX_i^2}\)，上式中的分子和分母都是以\((\omega_1,\cdots,\omega_n)\)为加权系数的加权和，加权回归由此而得名。