回帰モデルの推定

今後の国民の収入がわかれば、
今後の国民の支出もわかる。

Y＝β_０＋β_１X＋εを正確に推定する。
正確に推定する方法でベストな方法が１つあります。

それが最小２乗法です。

最小2乗原理

国民の外食の支出の予測がわかれば、
国内自給率の予測もできる。

散布図の点からの
距離が一番最小な直線なのがベストですね。

点がわかれば、線がわかります。

ｙ^○_１＝a+bx

もしモデルが完璧ならば、
yの値は現実の値と一致します。

回帰モデルが完璧なら、

ｙーｙ^○＝０
というわけです。

もし誤差が生じたとしても、
誤差が限りなく小さいほうが良いモデルとなります。

差があってもなくても、
e=ｙーｙ^○と
表します。

このeがεなのです。

ちなみに、ｙ^○が実験室で計測した理想の結果。
ｙは現実の実態。

eは残渣です。

現実を実態に反映する。
実態を完璧に反映する。

研究者の目標は限りなく０に近づけることであります。
限りなく０に近づくモデルを創りあげなければ、
なりません。

つまり、eが０に近ければ近いほど良いモデルなのです。

例

e₁₉₉₀=y₁₉₉₀-y^○₁₉₉₀

e₁₉₉₅=y₁₉₉₅-y^○₁₉₉₅

e₂₀₁₆=y₂₀₁₆-y^○₂₀₁₆

Σは合計でしたよね。
Σe²=Σ(yーy^○)²＝0

残差平方和Σe²を最小にする方法。
これが最小2乗法です。

回帰係数の推定式

単回帰方程式の推定式

β0

β0＝（M∑XYー∑X∑Y）÷（M∑X^２ー(∑X)²））

β1

β₁=（∑Yーβ₁∑X）÷M
＝（Ｙの平均値）ーβ0×（Ｘの平均値）

重回帰方程式の推定式

β0

β0=(Yの平均値)-β₁(X₁の平均)ーβ₂(X₂の平均)

β1

（S22×S1YーS12×S2Y）÷(S11×S2YーS11×S22ーS12　2)

β2

^{(S11×S2YーS12×S2Y)÷(S11×S22ーS12}2^）

S11

｛∑X1²ー(∑X1)²}÷M

S12

{∑X1X2-(∑X1∑X2)}÷M

S22

{∑X2²ー(∑X2)²}÷M

S1Y

{∑X1Yー(∑X1∑Y)}÷M

S2Y

{∑X2Yー(∑X2∑Y）｝÷M

推定過程と計算例

単回帰分析に必要な統計量

• ∑X
• ∑Y
• ∑XY
• ∑X2
• ∑Y2

重回帰分析に必要な統計量

• ∑X1
• ∑X2
• ∑Y
• ∑X12
• ∑X22
• ∑Y2
• ∑X1
• X2
• ∑X1Y
• ∑X2Y